當企業設計新產品時，產品團隊特別是人工智能驅動的算法工程師，很容易把注意力集中在短期利益上，純粹因為短期效應比較容易立竿見影。
還記得在企業工作的時候，有上司跟筆者埋怨為什麼算法工程師總在說，雖然購買轉換率提高，但實際上銷售額並沒有突破；負責基礎建設的工程師和數據科學家也向我抱怨基礎算法工種晉升太慢，能否轉職到應用算法部門；用戶也訴說為什麼商品的推薦引擎總是顯示重複而缺乏新鮮感的商品。大家可能不難想像到，以上的矛盾來自股東、管理層、客戶和員工的訴求不盡相同所致。
關於如何設計成功的產品，首要工作肯定是產品經理先要了解用戶需求，然後以客戶為中心去定位產品的功能。具體來說，應該是找出有價值的用戶群，通過產品功能滿足他們，從而獲利。這個時候，大數據與人工智能正好成為企業的利器，一方面，數據分析能精準鎖定VIP客戶；另方面，人工智能可以快速迭代，改善產品體驗。然而，這種方式雖然有利於企業在短期內迅速提升效率，達至利益最大化，卻容易忽略了弱勢群體，難以做到數字包容，更別說公平了。
再者，當人工智能（尤其是深度學習）在企業內被大量使用的時候，產品功能的可解釋性（透明度）和短期效率兩者之間，管理層又是怎樣取捨呢？本人的經驗是在欠缺社會壓力下，通常以最簡單粗暴的作業方式，趕快完成開發投入市場。大家可以體會到缺乏透明度的人工智能產品，又怎麼可能容易被監管。
最後，筆者想表達一下對自動化的看法，我認為人類必須在自動化與人性化之間取得平衡，自動化不等同千篇一律，人類的美好生活更應該多從自主角度考慮，就如無人車預設從A點到B點的最佳路線，是用速度（最快）為準則；但作為退休人士，可能更傾向選擇風景怡人的最慢路線。本人相信未來的人工智能應該更要多考慮人類的人性化選擇與社會的包容性，因為善良的人工智能更能為我們帶來美好的將來。
車品覺_紅杉資本中國專家合夥人、阿里巴巴商學院特聘教授暨學術委員會委員