人脸识别频频踩道德红线 亚马逊悄悄延长自己系统的禁用

据路透社报道，5月19日，亚马逊将自己的执法人脸识别软件禁令延长至“另行通知”。这项禁令原本设定为一年，原定于6月到期。亚马逊没有立即回应禁令延期的原因。

早在2018年，亚马逊员工就敦促亚马逊将这个项目的规模缩减——人。他们认为，面部识别中记录的种族偏见可能会加剧当地警察对少数民族的暴力行为。

亚马逊一直在为该项目辩护，直到去年6月，当时抗议的压力越来越大，亚马逊宣布其面向警察客户的服务将暂停一年。

Rekognition是AWS提供的服务。事实上，亚马逊在云计算领域的许多竞争对手都有类似的技术。亚马逊做出承诺的第二天，微软也宣布了类似的声明，称不会向当地警方出售其面部识别服务。

IBM也在同一个星期表示，将停止开发或研究面部识别技术；谷歌表示，不会向任何人提供面部识别技术的商业用途。

去年夏天，关于人脸识别技术的道德问题猖獗。麻省理工学院媒体实验室研究员Joy Buolamwini和微软研究院研究员Timnit Gebru致力于揭示人脸识别技术的种族偏见。他们做了很多基础工作，其中一篇合著的论文被广泛引用。

本文指出，包括IBM和微软在内的各大科技公司使用的人脸识别系统识别肤色较深的人的错误率比肤色较白的人高几十个百分点。根据《纽约时报》中的一篇报道，部分问题在于训练系统中使用的数据集，其中大部分可能是男性和白人。

在2019年的另一项研究中，Buolamwini和另一位学者分析了Rekognition，发现亚马逊的系统也存在重大问题，比如无法识别肤色较深的人的性别，将肤色较深的女性误认为男性。发现该系统在分析肤色较浅的人的图像时误差率几乎为零。

亚马逊最初宣布禁止执法时，表示希望国会利用服务暂停的时间，对人脸识别技术的法律法规进行调整。

当时，亚马逊在声明中表示，“我们主张政府制定更严格的法规来管理人脸识别技术使用中的伦理问题。我希望这一年的暂停将给予国会足够的时间来引入适当的规则，我们随时准备根据需要提供帮助。”

但是到目前为止，还没有联邦立法来解决警察和人脸识别技术之间的矛盾，但是很多州或者地方政府已经通过了相关的规定，决定减少这项技术的使用。

2019年5月，旧金山成为美国第一个禁止政府使用人脸识别的城市，其次是奥克兰；俄勒冈州和缅因州波特兰市也通过了立法。

去年12月，马萨诸塞州也有类似的草案禁令，但当时没有通过。然而，最近通过了一项修订法案，对警方使用人脸识别增加了一些限制。

去年7月，纽约州立法机构刚刚通过了一项法律，禁止在2022年之前在学校使用人脸识别和其他生物识别技术。

此外，就在上个月，欧盟还发布了一项监管人工智能使用的提案：《关于“欧洲议会和理事会条例：制定人工智能的统一规则（人工智能法案）并修订某些联盟立法”的提案》。

该提案长达108页，规定了企业和政府应如何使用人工智能技术，并限制人工智能在一系列活动中的使用，包括限制警察在公共场所使用人脸识别软件。

这些地区被欧盟视为“高风险”地区，因为它们可能威胁到人民的安全或基本权利。然而，出于国家安全和其他目的，可能会有一些豁免。根据该提案，欧盟有可能对违规最严重的公司处以相当于其全球年销售额6%的罚款。