研究表明，面部识别技术对少数民族的错误率通常较高

来自谷歌，Facebook，微软和一些顶尖大学的人工智能研究人员呼吁亚马逊停止向执法部门出售其面部识别技术。

在今天发表的一封公开信中，研究人员表示，研究已经反复证明，亚马逊的算法存在缺陷，对于深色皮肤和女性面部的错误率较高。研究人员表示，如果警察采用这种技术，它有可能扩大种族歧视，制造错误认同的案例，并鼓励对边缘化群体进行侵入性监视。

“有缺陷的面部分析技术正在加剧人类的偏见，”科罗拉多大学博尔德分校的博士生和该信函的26位签署人之一Morgan Klaus Scheuerman 通过电子邮件告诉The Verge。Scheuerman说，这些技术“可以被用于恶意目的......以提供它们的公司不知道的方式”。

其他签名者包括谷歌研究员Timnit Gebru，他的工作突出了面部识别算法的缺陷 ; Yoshua Bengio，最近获得图灵奖的AI研究员; 和Anima Anandkumar，加州理工学院教授，​​亚马逊AWS子公司前首席科学家。

Anandkumar 通过电子邮件告诉The Verge她希望这封信能够开启“关于我们如何评估人脸识别的公开对话”，并补充说需要技术框架来审查这项技术。“一旦我们制定了评估这些系统的技术框架，政府监管才会出现，”Anandkumar说。

作为面部识别技术的领先供应商之一，亚马逊的算法已经以这种方式被反复审查。今年早些时候发表的一项研究表明，该公司的软件很难确定肤色较深的男性和女性的性别，而ACLU在2018年进行的一项测试发现亚马逊的Rekognition软件错误地将28名国会议员的照片与警方的照片相匹配嫌疑犯照片。

亚马逊为其技术辩护，今天发布的大部分信函都对该公司的批评进行了逐点反驳。例如，作者指出，虽然亚马逊表示没有收到执法滥用其面部识别的报告，但这并不是一个有意义的陈述，因为没有法律来审核其申请。

为回应亚马逊的公开信，亚马逊重申它认为批评者的评价是“误导性的”，随后对该技术的更新提供了“几乎服务的每个领域的改进”。

随着研究发现这项技术存在更多缺陷，研究人员，股东和技术人员之间的抗议活动频繁发生。谷歌拒绝出售面部识别软件，因为它有可能被滥用，而微软则要求政府监管。但是，究竟如何监督这项技术是一个棘手的问题。

“这些技术需要以不伤害人类的方式发展，或者对已经历史上被边缘化的群体造成伤害，”Scheuerman说。他强调，为了做到这一点，需要在开发面部识别技术的个人和批评面部识别技术的人之间进行更多的对话。“这是一个需要跨学科方法的跨学科问题。”