时间:2020-01-12 来源:互联网 浏览量:
该成果名为“阿尔忒弥斯计划”(Project Artemis),基于微软的专利技术,与 Meet Group、Roblox、Kik、Thorn 合作开发。它源于 2018 年 11 月的微软“骇客松”开发活动,过去 14 个月微软与这些公司合作开发完善,最终成型。它能够帮助识别潜在的儿童线上性意图的诱骗事件并作出高效响应。
开发团队由 Hany Farid 博士领导,他曾在 2009 年和微软以及达特茅斯大学合作开发了一个免费工具“Photo DNA”,能够侦测、截断并举报百万量级的儿童性剥削图片,已运用在全球 150 家公司和组织当中。
其中的微软专利技术应用于有历史文本的聊天场景中。它可评估并评价对话特征,并给出整体的参考评级。该评级可最终由部署该技术的公司作为决定因素使用。被标记的聊天记录将会送至人类仲裁者那里做最终评估。仲裁人能够发现即将出现的威胁和性剥削并迅速转入法律程序。美国国家失踪和受虐儿童中心(NCMEC)、国际终止童妓组织(ECPAT International)、国际互联网热线协会(INHOPE)、网络视察基金会(IWF)四家机构为该技术的各个进程提供了有价值的反馈信息。该技术已经在 Xbox 平台部署多年,微软还正在探索应用于 Skype 等聊天服务中。
“阿尔忒弥斯计划”已于 2020 年 1 月 10 日通过其中非盈利性质的反儿童性虐待组织 Thorn 免费提供,可帮助提升有聊天框架的公司网络服务质量。想要测试并部署运用该技术的公司和服务组织可以通过 antigrooming@thorn.org 直接与 Thorn 联系。
*维基百科的“性剥削”定义:在性关系上的剥削行为,可延伸为用各种形式使一个人成为性客体或失去性自主与身体权。
来源:Microsoft