微软敦促政府规范面部识别系统

面部识别技术是一个有争议的话题。许多投资者和消费者权益组织团结起来反对亚马逊，向当地执法部门提供面部检测人工智能（AI）。在委员会听证会上，众议院的代表让FBI负责使用面部识别系统，错误率接近15％。 Facebook在未经用户许可的情况下对照片进行面部识别时受到了抨击。

关于部署面部识别技术的监管模糊性让微软等公司邀请政府权衡。微软总裁布拉德史密斯呼吁立法者调查面部检测算法并制定指导其使用的政策。

微软人工智能负责人史密斯和哈里舒姆今年早些时候发表了一篇论文，预测人工智能的进步将需要新的法律。但史密斯今天的帖子标志着雷德蒙公司第一次明确提倡面部识别系统的监管，并且与亚马逊等竞争对手的语气不同，后者在6月表示私营部门有责任“负责任地行事”。使用人工智能技术。

越来越多的技术公司需要限制政府机构使用面部识别和其他技术的方式。在一个民主共和国，当选的代表就需要平衡公共安全与民主自由的本质的问题作出决策是无法取代的......生活在一个法治国家，政府需要发挥作用在调节面部识别技术方面发挥着重要作用。

史密斯指出，面部识别正在我们的社会中“深深地融入” - 这不一定是坏事。印度警方用它在四天内追踪了3000多名失踪儿童，地方当局采购了一个面部识别数据库，以查明涉嫌参与上个月致命资本公报射击的嫌疑人。但这并不意味着没有滥用的可能性。

想象一下，政府会在未经您许可或不知情的情况下跟踪您过去一个月所走过的所有地方。想象一下，每个参加政治集会的人都有一个数据库，这个集会构成了言论自由的本质。想象一下，使用面部识别的购物中心商店可以相互分享您浏览的每个货架和您购买的产品的信息，而无需先询问您。长期以来，这一直是科幻小说和流行电影的内容 - 如“少数派报告”，“国家的敌人”，甚至是1984年 - 但现在它已经成为可能。

这也是一项不完善的技术。一些面部识别系统在非洲裔美国人面孔上的表现要比白种人面孔严重得多，而其他人在识别女性方面的时间要比男性更难。 （2月份，微软研究员Timnit Gebru合着的一篇论文显示，对深色皮肤女性进行分类的系统误差率高达35％。）

即使解决了偏见，面部识别系统以对所有人都公平的方式运作，我们仍将面临潜在失败的挑战。面部识别与许多人工智能技术一样，即使以无偏见的方式运行，也会产生一定的误差。

史密斯没有要求具体的法律或道德原则，但提出了一系列问题供监管机构考虑，包括“面部识别的执法使用是否应受到人的监督和控制？”并且“我们应该确保那里使用面部识别作为政府国家安全技术实践的一部分，是民事监督和问责制吗？“

至于法规可能如何通过，立法者应“利用正确的机制”收集专家意见，为决策提供信息。这包括任命两党专家委员会 - 特别是那些以学术界和公共和私营部门所做工作为基础的委员会。

这样一个委员会的目的应该包括向国会提出建议，了解需要哪些类型的新法律法规，以及确保在整个行政部门内对这项技术进行适当的国会监督的更强有力的做法。

就其本身而言，微软已经成立了一个名为Aether委员会的内部顾问小组来审视它。