2011年，谷歌展示了一個在YouTube視頻中能夠識別貓的深度學習系統，很多人覺得這太神奇了，電腦終於能夠了解世界。但人工智能（AI）研究者都知道，深度神經網路實際上並不了解世界。它們以大腦的結構為模型，由大量排列在不同層級中的數位神經元組成，背後的原理是，當輸入的特徵觸發其中一些底層神經元，然後根據這些神經元把訊號傳遞給上層中的神經元。訓練深度神經網路需要讓其學習大量的示例集合，並每次調整神經元的連接方式，以便最終頂層的神經元給出所需的答案，例如把獅子的圖片識別為獅子。
第一次大型現實檢驗是在2013年，當時谷歌研究員指出，如果拍攝一張獅子的圖像，深度神經網路是可以識別的，但通過改變幾個微小的原素，就能使機器相信看到的是圖書館。
加拿大蒙特利爾大學的Yoshua Bengio是深度學習的先驅，他說：「任何接觸過機器學習的人都知道，這些系統會犯上很愚蠢的錯誤。例如簡單地把圖像中的物體翻轉，就足以讓一些分類器出現誤差。根源在於，深度神經網路沒有一個好的模式來快速把握重點。當AI把一張被篡改的獅子照片識別為圖書館時，人們看到的仍然是獅子，因為他們心中有一個動物的模型，是依賴於長久積累的認知（常識），包括獅子的耳朵和尾巴等，而不是依賴一些沒關聯的細節。從以往的經驗中知道哪些是重點，這源於對世界結構的深刻理解。
從以上的描述可以看到，為何人工智能比較適合去解決一些容易定義何謂成功的問題，例如翻譯一篇中文為英文。但如果翻譯的文字裏有一些指桑罵槐的句子，而且必須對中國人的文化結構有深刻理解的文字，則不是目前的AI所擅長。
故此你可以想像為什麼長久以來自動化決策系統，都有點雷聲大雨點小，無他，因為愈高級的管理者，每天花在與人有關的事項上的時間愈多，很難定義什麼叫成功。還記得在阿里的時候，老闆時常要求副總裁以上的管理者最少花一半的時間在「人」上，因此引伸出一句阿里內部的名言：「人事無小事」。看來人情冷暖的事情，機器最好別插手，亦不是它們可以處理的。