代码即法律

無人駕駛技術的出現代表着什麼?以前當汽車取代馬車時所帶來的改變,不外乎是速度及持久續航力的改善。相比於自動駕駛汽車對人類思考的衝擊,又會是什麼呢?

那麼後者就是當今的智能技術已經具備了學習能力,能通過大數據及人工智能的演算法,吸納過去累積的經驗,乃至幾秒前發生的事情,幫助我們作出最佳的決策。今天的智能技術已經擴展到自學能力功能,進而可以自我演化,它可以在現有的知識層面上探索更多的可能性,這是人類歷史上在人工智能領域的一大突破。

隨着大數據及機器學習發展,坊間流傳着掌控未來世界的兩句話,(1)一切皆算法;(2)代碼即法律。換句話說,社會公義有機會掌握在代碼設計者手中,算法上的邏輯判斷可影響深遠。因此,我們對過度智能化的世界應時常保持謹慎及警惕。

舉一個很殘酷的例子,當一部自動駕駛汽車即將遇上一宗交通意外,演算法如何選擇減少司機傷害的同時,又怎樣平衡路上行人的安全,比如無可避免要做一個抉擇時,它會怎樣取捨?又例如為什麼我的小區在使用程式找出租車時,總是較附近的另一小區難。總之眾多無法解釋的不公平,未來都可能被各種算法支配。

從前筆者在企業中推動數字化時,很容易把重點放在追求效率上,舉例在淘寶網工作時,算法團隊會更傾向把目標放在如何提高顧客的購買轉化率上,鮮有算法工程師會提出讓顧客得到更公平的購物選擇。愈是追求智能化的步伐,也可能讓客戶得到更不公平的待遇,到頭來卻影響到企業的長遠利益。近年因為多了時間參與政府的數字化轉型,倍感到效率與公平之間的兩難取捨。

在數字經濟高速增長下,如何可保證被數字社會排擠之外的群體權利?由踏入高齡社會的今天,數字世界裏應該某程度上維持非數字化服務,「數字包容」這一話題具有深遠意義,需要持續提出在追求效率之餘,也應照顧被忽略的群體。無論技術走得有多快,科技發展也應回歸到平等生活的原點上思考。

車品覺_紅杉資本中國專家合夥人、阿里巴巴商學院特聘教授暨學術委員會委員