NYPD滥用面部识别技术

纽约局(纽约局)一直笨拙地滥用面部识别(FR)技术，以便在CCTV图像太不清楚时无法识别警方所关注的人。这是根据乔治城法律隐私和技术中心(CPT)的一份报告，该报告发现纽约局将采用证人陈述，然后将其用作编辑现有图像的参考点，并使用编辑后的版本插入FR科技看看是否有比赛返回。

在最糟糕的情况下，警方只是拍摄了一张嫌疑人名人doppelgänger的高分辨率照片，看看是否有或驾驶执照数据库返回的比赛。

一个这样的案件涉及一名据称像Woody Harrelson的嫌疑人实际上导致了在干杯和天生杀手演员的脸上经过FR技术后被捕的小偷窃(轻微盗窃)。

“NYPD不断重新评估我们现有的程序，并且正在审查我们现有的面部识别协议，”Denise Moroney在给予Verge的声明中说。

“没有人因为面部识别比赛而被捕，”她补充说。“与任何领导一样，总是需要进一步调查以制定可能的逮捕原因。纽约局一直在故意和负责使用面部识别技术。”

除了篡改和A-listers的照片外，大约一半的部门也使用FR技术分析复合草图，以寻找正确的匹配。亚利桑那州的马里科帕县治安官办公室和俄勒冈州的华盛顿县治安部门是报告中使用这种做法的人之一。

这是一种由AWS公司认可的方法，这家公司去年在部门使用了浮躁的FR技术Rekognition，但在被发现仅在20次搜索中只有一次有效后遭到了抗议。

麻省理工学院的研究人员还发现，该技术在不同种族的检测准确性方面存在令人不安的问题，特别是对于肤色较深的女性。

在31%的分析中，肤色较深的女性被误认为是男性，一般而言，女性在19%的时间内被误认为是男性。

“在依靠不可靠或错误输入的刑事调查中，赌注太高了，”乔治城法律报告Garbage In，Garbage Out的作者Clare Garvie说。

“对于一家公司来说，建立一个面部识别系统是一回事，该系统旨在帮助个人找到他们的名人，或者用于目的的绘画，”她补充道。“使用这些技术识别嫌疑人是另一回事，他们可能被剥夺自由并最终根据比赛被起诉。”

这个消息发布的时候，对于那些没有公司似乎能做对的可疑技术来说，审查从未如此激烈。

本周早些时候，旧金山立法者禁止该政府机构使用该技术，成为该国第一个这样做的城市。

无论是性别混淆还是未经人们同意而接受培训，围绕这种消除信任的技术都存在一定的阴险性。

大都会承认其自己的FR技术成功率极低，导致没有任何逮捕行为，这引发了对该技术可行性的质疑。即使该技术的误差为0.1%，也有一个强有力的证据表明它根本不应该被使用，尤其是在做出诸如逮捕等严肃决定时。