AWS警务人脸识别工具凸显人工智能在某些市场的争议

2020-02-04 16:54:59

根据美国公民自由联盟(American Civil Liberties Union)在《信息自由法》(Freedom of Infor mation Act)要求中获得的文件,亚马逊正在向执法机构推销一种基于AWS的面部识别服务,该服务声称能够实时识别人的身份。

据称,这项名为Amazon Rekognition的服务每张图像最多可以检测到100张人脸,并根据文件将图像与包含数千万张人脸的照片数据库进行比较。亚马逊代表在这段宣传视频中引用执法目的作为常见用例..

亚马逊并没有对这些做法保密。这份2017年11月的新闻稿指出,俄勒冈州华盛顿县警长办公室“在过去一年里一直在使用亚马逊Rekognition,将报告的嫌疑人的识别时间从2-3天减少到几分钟,并在一周内逮捕了他们采用这项技术的第一名嫌疑人”。亚马逊还将奥兰多市警察局列为客户,该部门使用该技术“实时检测和通知利益相关者”。

看:人工智能:趋势、障碍和潜在的胜利(技术专业研究)

这一公开披露正是促使美国公民自由联盟调查亚马逊向执法机构求爱的原因。该组织发现的文件表明,亚马逊正在为奥兰多的执法部门提供免费咨询,以便进行部署,奥兰多市正在利用这项技术从“遍布全城的摄像机”中为“感兴趣的人”分析镜头。

亚马逊还宣称有能力用警方人体摄像系统的镜头使用Rekognition,尽管美国公民自由联盟指出,“在美国公民自由联盟在与亚马逊的讨论中提出关切之后”,AWS网站删除了提及这类互动的内容,并补充说,根据亚马逊的服务条款,这种能力仍然是允许的。据美国公民自由联盟称,这一变化“似乎是其对我们关切的反应的程度”。

当然,使用云服务来构建一个泛光子很可能会引起已经部署该技术的地方的居民的关注。在最佳情况下,这将在全民投票之后实施,或至少在一段时间内,公众对将监视技术与大规模面部识别相结合进行评论。美国公民自由联盟要求提供文件,表明有人试图进行这种外联,但没有发现任何文件。然而,它确实指出了华盛顿县一名雇员的内部电子邮件,称“ACLU可能认为这是政府利用大数据上床。”

主板上的一份报告指出,亚马逊的面部识别技术在可靠性方面存在明显的差距。该报告引用了该软件的培训文档,将O.J.Simpson的一张照片与一位留着胡子和长发的白人男子的照片进行了比较,作为93.53%的匹配。实际上,这两个人在视觉上的唯一相似之处就是他们都有脸。

亚马逊对执法的追求似乎与他们的企业价值观不符。美国公民自由联盟(ACLU)与包括电子前沿基金会(EFF)和人权观察(Human Rights Watch)在内的其他多个民权组织一起,在给杰夫·贝佐斯(Jeff Bezos)的一封信中强调了这一点,指出“亚马逊反对政府的秘密监视。你们个人支持第一修正案的自由,并公开反对歧视性的穆斯林禁令。”

这是整个科技行业日益严重的问题。谷歌员工呼吁该公司停止与美军在一个项目上的合作,以分析从无人机上拍摄的视频。与此同时,谷歌自己也在其行为准则的开放中刷掉了“不要作恶”。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。