科技倫理

事實上,今天我們已經感受到人工智能(AI)在提升人類處理能力的同時,使人愈來愈依賴它,這種慣性也很容易令人們喪失獨立性。一方面,人類因為AI的存在而成為智能的主人;另一方面,人類可能因為缺乏獨立意識而失去自主權,促使AI有機會超越了主人。

譬如你每天上班都習慣先打開智能地圖的導航系統,幫助自己安全地避開和繞過惡劣的路段,起初還會抱着懷疑的態度去驗證系統的準確性,但久而久之因為習慣了這個功能,就開始被動地接受了所謂的「智能」工具。這種情況其實愈來愈普遍,現實中很多個性化工具都發現類似的情況,例如新聞推送及購物推薦、聊天機械人等,智能化程度愈大,就容易產生依賴。

人類歷史上伴隨科學技術的發展,科技倫理面臨的主要挑戰一直不斷在變化,從傳統技術倫理到今天的訊息(包括大數據)的過程中,都統稱為科技倫理。科技倫理可以追溯到五十年代,原子彈爆炸以後,公眾開始考慮到科學家的社會責任,而科技倫理的一些專業問題是由一系列事情引發的,首先就是一連串核的問題,比如早年美國三哩島的核洩漏,還有生命科學當中一些新的技術例子,如基因編輯出現後續的道德問題。

所以大概在六十年代末、七十年代初,環境倫理、生命倫理、訊息倫理的議題陸續出現,統稱為科技倫理。

當時比較多的質疑,主要是針對科技本身發展,覺得它發展速度太快了,帶來很多負面效應。針對這些問題,科技倫理在早期主要是對這樣的一些問題引起反思,不僅是發展過程中帶來問題,而是從整個人類的思考問題方式來判斷。

就如啟蒙運動以後是不是就把人的問題過於聚焦了?然後接着帶來一些對自然界的衝擊,包括對其他生物和整個環境影響,而忽略其內在價值,只是淪為一種工具而已。

因為電腦的發展而衍生科技倫理的問題,最早的時候還是主要牽涉硬件方面,後來涉及到黑客入侵及網絡安全所引起的問題。近10年隨着大數據發展,很多訊息包括文字、圖片、視頻都可以還原為數據。

智能手機的普及性,讓訊息與身份能輕易的關聯起來,由此衍生的大數據倫理問題實在不容忽視,這可能是從前的推動者始料不及的,需要亡羊補牢。

車品覺_紅杉資本中國專家合夥人、阿里巴巴商學院特聘教授暨學術委員會委員