這次去烏鎮參加世界互聯網大會,晚上約了雄安新區書記陳剛見面吃晚飯,我們是老朋友,但很久沒見面了。
眾所周知,雄安的發展目標是成為未來智慧城市的典範。陳剛形容人工智能與區塊鏈的融合,有如汽車的引擎和煞車系統。試問沒有煞車功能的跑車誰敢坐,車開得愈快風險愈大。時至今日,人工智能出現錯誤的例子已經不少,但誰又知道它何時出錯?出了錯如何修補?監管機構及用戶亦難以處理它的不可控性;公眾得悉的一些人工智能意外事件,很可能只是冰山一角。
顯而易見,人工智能走的是概率論路線,與傳統方案截然不同。若說傳統程式遵循「若A發生,則B發生」邏輯,那麼數據驅動的機器學習則用「可能性」來做決定。
基於這種概率性特點,人工智能犯錯的時候也很難追溯。同時,商業巨頭正紛紛大舉投資人工智能及大數據,他們用海量數據來訓練演算法,從而提高準確率並獲取領先優勢,在金融科技及互聯網創新業務上的效果尤其明顯;鑑於商業秘密,這些公司的數據和演算法技術都不會對外公開。
問題在於,人工智能衍生出來的應用有否誤用或濫用?即使有,也很難被公眾發現。例如人臉識別有沒有被商業應用作為監視工具?購物平台的推薦系統是否有在給予優惠的時候涉及性別或種族歧視?私人企業能否接受把私隱合規和數據安全的控制權讓給協力廠商?這讓高速發展的需求與社會風險控制陷入兩難境地。
有麻省理工學院的學者正在積極探索這個問題,試圖用區塊鏈來營造一個去中心化的人工智能應用可信生態。人工智能要訓練好,必須有大量數據,而區塊鏈的分散式特色與去中心化大數據的結合,將更有利大家放心在加密可追溯的環境下分享個人身份資訊。到時候比如健康數據、金融數據都能輕鬆共用。服務供應商亦能在使用者明確認可的前提下解碼這些資訊,並獲知分布於不同應用的個人數據被使用情況以及運行中的錯誤。