本文翻译自英文原文的部分内容：The Montreal Declaration : Why we must develop AI responsibly （Dec 2018 Yoshua Bengio )
我研究智能已经有30年了。和我的大多数同事一样，我不涉足技术本身的研究，但我对智能概念的抽象性质感兴趣，所以我希望了解智能。这就是科学的本质：了解万物。
然而，当一群研究人员了解了某个新东西的时候，那些知识既能用之以善，也能用之以恶。
这就是我们现在面临的局面——人工智能科学离开大学实验室走向现实应用的转折点。在过去五六年里，Facebook和谷歌等大公司对该领域具有极大的热情，斥巨资收购人工智能公司，并进行内部研发。
于是，人工智能研究取得了巨大进展。企业非常希望利用这方面的知识，来开拓新的市场和开发新的产品，以提高自身的效率。
随着人工智能迈入社会，必然会对社会产生影响。结果会怎么样？这取决于我们自己的选择。未来，在我们手中。
杀手机器人，以及失业难题
从一开始就让我担忧不已的一个问题是致命性的自动化武器，也被称为“杀手机器人”（Killer robots）。
这是一个道德问题，因为在心理和道德层面上，机器不像人类那样具备谅解和宽容的品质。而同时，这也是一个安全问题，因为杀手机器人可能会破坏世界秩序。
迅速浮现的另一个问题是自动化导致的失业现象。我们不禁要问：为什么？我们试图造福何人，防止什么？路上的卡车司机不高兴？他可能被非人的东西替代？
我们这些科学家似乎对此无能为力。根据自动化替代的经济效益，市场力量决定了哪些工作将消失，以及哪些工作的工作量将减少。但我们也是公民，由于我们的专业知识，我们能以独特的方式，参与有关这些问题的社会和政治讨论。
计算机科学家关心失业问题。不是因为他们担心自己会失业，实际上恰恰相反，他们的饭碗更有保证。他们觉得自己负有责任，不希望他们的研究让无数人流落街头。
重塑社会保障体系，保证人类的尊严
因此，计算机科学家，尤其是人工智能领域的计算机科学家，强烈主张调整社会保障体系，建立某种工资保障制度，我称之为有保证的人类尊严。
技术创新的目标是减轻而非加重人类的不幸。
技术创新也不是为了加剧歧视和不公，但人工智能可能会加剧两者。
有人说，歧视是因为人工智能是由男性创造的，技术行业里的女性极少。事实并非如此。歧视主要是因为人工智能所使用的数据反映了人们的行为。不幸的是，那些行为存在偏见。
也就是说，如果一个系统依靠的数据来自人们的行为，那么这个系统将拥有和那些人同样的偏见与歧视。该系统将不是“政治正确”的，它不是按照社会的道德观念行事，而是按照人们的共同特性行事。
社会是带有歧视的，如果我们不小心谨慎，系统可能会继续或加剧那种歧视。
这也可能形成恶性循环。例如，警方使用这种系统来识别犯罪率较高的地区，向那里派出更多的警察……他们将报告更多的犯罪。于是，统计数据强化了系统的偏见。
好消息是，科学家目前正在致力于开发最大程度地减少歧视的算法。尽管如此，政府必须出台措施，迫使企业采用这些算法。
优化医疗，拯救更多的生命
还有另一个好消息。医疗领域将是受到人工智能影响最大的领域之一。这不仅仅关系到节省医疗费用。
医生也是人，也会犯错。因此，我们用越多的数据来开发系统，错误就会越少。这样的系统比最优秀的医生都更加准确。他们已经在使用这些系统，以免漏掉重要因素，比如在医学影像中难以发现的癌细胞。
还有新型药物的研发。在分析超过人类力所能及的范畴的关于药物和其他分子的大量数据方面，人工智能能做得更好。我们还没有实现这一点，但其具有潜力，患者的医疗档案能得到更有效地分析。
未来的工具将使医生能够发现在其他情况下难以发现的联系，帮助他们制定出可以挽救生命的治疗方案。
医疗系统在10年内彻底革新的可能性非常高。显然，这种进步对所有人都极为重要。
我不担心医疗行业的失业问题。我们将始终需要医疗专家的能力和判断。不过，我们必须加强社会规范（法律和法规），以保护隐私（患者的数据不应该被不当使用），积累数据，好让人工智能被用来以更好的方式治愈更多的人。
可信的AI，解决之道在于政治
由于上述的所有这些问题和即将出现的其他问题，《人工智能负责任发展蒙特利尔宣言》（The Montreal Declaration for a Responsible Development of Artificial Intelligence）具有重要意义。该宣言于12月4日在艺术与技术学会签署，当时有大约500人在场。
该宣言是以广泛的共识为基础。我们在网络上和书店里向人们咨询建议，收集各学科专业人士的意见。哲学家、社会学家、法理学家和人工智能研究人员参与了宣言的制定过程，所以其中包含了方方面面的专业知识。
这一宣言有多个版本。第一版是在2017年11月2日蒙特利尔大学组织的一个人工智能负责任发展论坛上起草的。
那是该宣言的诞生地。
其目标是确立某些原则，为采用新法规奠定基础，确保人工智能以负责任的方式发展。当前的法律并不完全适应新的形势。
这就是我们诉诸政治的原因。
技术的滥用
技术的伦理或滥用问题最终会变成政治问题，因此属于集体决策的范畴。
社会如何组织？这是政治问题。
知识如何利用？这是政治问题。
我感受到了地方和中央政府致力于负责任发展的强烈意愿。
加拿大是人工智能领域的科学领先者，是率先认清人工智能潜力并制订全国性计划的国家之一，也拥有担任社会领袖角色的意愿。
两年来，蒙特利尔处于这种意识的最前沿。我在欧洲也感受到了同样的意愿，包括法国和德国。
一般而言，科学家不愿与政治牵扯过多。但如果他们关心的问题将对社会产生巨大影响，他们肯定会担起自己的责任，参与讨论。
在这场谈论中，我意识到，社会已经给了我发言的机会。由于我是AI科学发展的先行者，政府和媒体很想知道我对这些话题的看法。
因此，就我而言，这不仅仅是责任，还是我的义务。我别无选择。