比尔·盖茨评马斯克AI威胁论：不要太恐慌，但也别太乐观
时间：2017-09-27 来源：互联网 浏览量：
编者按：特斯拉 CEO 埃隆·马斯克（Elon Musk）在推特发表了许多可怕的 “AI 威胁论”，预言 AI 在未来会统治人类，危险性超过了朝鲜核危机。对于这种 “AI 威胁论”，微软创始人比尔·盖茨和微软CEO 萨提亚·纳德拉（Satya Nadella）都表示不同意，认为该观点过于极端、悲观，忽视了人作为 AI 创造者的主动性和控制权。本文译自VentureBeat。
比尔·盖茨：担心 AI 毁灭人类，为时尚早
这是我与马斯克观点不一致的一点。马斯克担忧 AI 会毁灭人类，但实际上，该担心这个的时候还远远未到。我们不应该对此感到恐慌，但同时也不应该过度乐观，不能忽略它的可能性。
——微软创始人比尔·盖茨
现阶段，我们对于 AI 的核心原则应该是：如何提高人类的能力？就算 AI 自我学习系统做出的决定，也有许多是人类可以把控的。因此，人类可以确保这种系统不出现偏见性或不良的数据。与其担心'AI 会控制人类'，倒不如行动起来，我们可以通过许多方法来改变未来。控制是一种选择，我应该努力保持这种控制。
——微软 CEO 萨提亚·纳德拉
VentureBeat 撰稿人 John Brandon 也同意上述观点，认为 AI 基本上只都会听人的指示来行动。
John 表示，许多 AI 工程师和机器人专家都认为，编好程序的 AI 不太可能会做出格的事情：它们不会突然无视代码，然后就“黑化”，把你家的车开进湖里。代码很“听话”，因为人类没有“交代”的任务，它绝对不会执行。这是由人类主控的道德准则。《终结者》不过是好莱坞的幻想。
对 AI 应保持适当的警惕
不过，John 也提醒大家，我们仍然不能对 AI 放松警惕。
AI 与人类一个很大的差别，在于人类会受到“持续注意力” （sustained attention）的影响，同一时间只能思考一件事情，无法“一心两用”。但是 AI 却可以同时思考 100 件事情，一旦触发了指令，AI 可能会引发一连串动作，比如：智能车库一旦被语音触发，就有可能在开门的同时，开灯、开启家里的供暖系统、还有可能把家里的炉子打着，从而构成潜在危险。
（本文由36氪编译组授权发布，未经许可不得转载。编辑：郝鹏程）
