沈向洋：微软研究院——求索不已，为全人类，打造负责任的AI

微软全球执行副总裁，微软人工智能及微软研究事业部负责人沈向洋博士

在微软研究院（MSR），我们始终都在努力解决关于未来的问题——我们努力推动计算机科学最高水平的进展；我们将最新的技术快速转化、融入到微软的产品和服务中；我们还在帮助全球各地的客户，孵化颠覆性的技术、开创崭新的业务模式和解决方案。

微软研究院遍布全球各地，在美国的雷德蒙德、纽约、麻省的剑桥，在加拿大蒙特利尔，在英国剑桥，在印度的班加罗尔，以及中国的北京和上海，我们都开设了分院。过去的一年中，全球各地的微软研究院，取得了许多了不起的成就，为微软自身的发展，乃至整个计算机科学领域的进步，做出了重大贡献。例如，我们开发出了第一个能将数据编码存储到 DNA 中的方法，能够将一座仓库那么大的数据中心，压缩到只有几个骰子大小；我们的 Project Natick 项目，在大洋深处的海底，建成了一座数据中心；我们开发了一套能够解释机器学习的开源方案，帮助人们开启人工智能的黑箱；我们还创造了一套叫做 Code Jumper 的工具，利用不同形状的模块，帮助视力障碍的孩子们，学会如何编程。

1991 年，我们创立微软研究院的时候，就立志于放眼未来，求索不已，创造能够影响未来的重大突破。为了实现这一目标，我们制定了从今天到未来，跨越 10 到 20 年的战略路线图：我们为 18 个月内可能上市的产品和服务，做好设计和准备；我们为未来 3 到 5 年的项目，明确方向和要求；最重要的，是我们会对未来 10 到 20 年的技术趋势投入更多的关注。

HoloLens 全息眼镜的发展历程最具代表性：早在 20 多年前，我们已经开始投资于 HoloLens 背后的基础性研究；随着 Kinect 传感器和 KinectFusion 的出现，我们实现了真正的突破，用 3D 传感器完整地重构出了三维结构；然后是 HoloDesk，可以将 3D 模型组装成虚拟的三维环境；过去三四年间，HoloLens 的技术和应用逐渐成熟，真正实现了混合现实技术的重大突破——今天，我们就演示了如何以 HoloLens 配合神经网络文本到语音转换技术，打造出一个会说多国外语的全息替身——简直和科幻电影中的情形一模一样。

未雨绸缪，代表了微软研究院对未来的思考。今天，以人工智能为代表的一系列技术创新，正在让很多不可思议的事情成为现实。但我们不仅要推动技术的进步，更要认真思考可能由此带来的社会影响，以及人类将要共同面对的潜在挑战，未雨绸缪，防患于未然，从头开始打造负责任的人工智能。

微软全球执行副总裁，微软人工智能及微软研究事业部负责人沈向洋博士在“二十一世纪的计算”学术研讨会上发

在科技行业里，微软率先提出了打造负责任的人工智能的决心。2016 年，微软 CEO 萨提亚·纳德拉发表了一篇关于人工智能共同责任的专栏文章，几个月后，第一次公开提出了微软的人工智能准则：公平、可靠和安全、隐私和保障、包容、透明、责任。

我们出版了《计算未来》一书，对人工智能发展过程中可能引发的道德、法律思考和社会影响，进行了全面详实的探讨。微软成立了AETHER（“工程与科研中的人工智能道德”的缩写）人工智能伦理道德委员会，这个委员会由微软公司领导、工程师、科研人员、律师等组成，负责对微软内部与人工智能伦理道德相关的事宜，进行探讨和评估。如今，微软在开发和应用人工智能的过程中，始终坚持遵循六项人工智能准则，我们推出的每一个产品，都要经过人工智能道德审查。

通过技术创新消除 AI 偏见，确保人工智能公平、包容的发展，我们在这些方面已经取得了一些进展。例如，我们的研究团队，利用称为“单词嵌入”的自然语言处理工具，解决了文本搜索中的性别偏见的问题。

所谓单词嵌入，是一种用来将单词转换为向量数字的算法，它能够以来自新闻数据或者网页数据的海量文本数据为依据，为每个单词赋予一个对应的向量数字。通过在向量坐标系中，比对常见词汇与“他”、“她”这两个性别代词之间的关联度，研究人员发现了一些明显的特征，例如“sassy（刁蛮）”、“knitting（编织）”这样的词更靠近女性，而“hero（英雄）”、“genius（天才）”更靠近男性。算法之所以会为这些词汇赋予性别特征，原因在于训练算法用的基准数据集——通常是来自新闻和网页的数据——本身，就存在着由语言习惯造成的“性别偏见”，算法也自然“继承”了人类对这些词汇理解的性别差异。

其结果就是，当我们用试验算法，根据梅林达·盖茨的 LinkedIn 信息推测其职业时，得到了“教师”的判断，但只要将人称代词换成“他”，盖茨夫人的职业就会变为“律师”。今天的很多 AI 系统都在使用这样的单词嵌入机制，为了解决由此造成的性别偏见问题，我们提出了一个简单易行的方案：在单词嵌入中，删除区分“他”和“她”的判断维度。关于这个方案的更多细节，我们发表了一篇论文，相关数据也共享在 GitHub上 供大家使用。

科学研究只尊重未来，因此，作为科学工作者，我们的使命就是挑战现实、探索新知、创造不同——这也正是微软研究院几十年来取得成功和发展的关键。在微软研究院，我们相信，所谓未来，是由我们在不断求索中创造出来的。我们要做的，就是去引导、去创新、去启迪，通过推动从今天到明天的转变，为全人类创造出更美好的世界。