人脸识别技术出错,怀孕8月非裔女被指抢劫遭关押
来源：倍可亲(backchina.com)被逮捕时，怀有8个月身孕的伍德罗夫正准备送孩子上学，6名底特律警察把她堵在了家门口。因人脸识别软件认定她和另一名嫌犯重合，当地警方指控她犯有抢劫和劫车罪。“你在开玩笑吧？”伍德罗夫记得她对警察说，并指着自己的肚子。
·目前美国被报道的因人脸识别错误导致误捕的案例至少有六起，被误捕的对象均为非裔，伍德罗夫是其中唯一的女性。
32岁的底特律人波查·伍德罗夫说，当警察到达她家时，她指着自己的肚子，表明她没有能力实施抢劫和劫车。
今年2月，怀孕8个月的美国非裔女子波查·伍德罗夫（Porcha Woodruff）被警方以涉嫌抢劫罪和劫车罪逮捕。目前，她正向密歇根东区联邦地区法院就误抓一事起诉底特律市政府和一名警探。
美国因人脸识别技术出错导致被误抓的事件并非少数，且被错误逮捕的多为非裔。专家指出，非裔人种识别错误率高，部分原因是非裔人种肤色较黑，面部特征识别难度大，算法训练的样本数据也相对较少。在全球范围内，因面部识别技术侵犯个人权利的问题已越来越引发重视。
关押期间宫缩、背部剧痛和痉挛
被逮捕时，怀有8个月身孕的伍德罗夫正准备送孩子上学，6名底特律警察把她堵在了家门口。因人脸识别软件认定她和另一名嫌犯重合，当地警方指控她犯有抢劫和劫车罪。
根据伍德罗夫的起诉，面部识别软件使用左侧2015年的照片来识别她，而不是右侧2021年的驾照照片，后者也可用。
“你在开玩笑吧？”伍德罗夫记得她对警察说，并指着自己的肚子，表明她没有能力犯下这样的罪行。
据《纽约时报》报道，伍德罗夫被带到底特律拘留中心关押了近11个小时。她在拘留室里经历了宫缩、背部剧痛和痉挛，“我想我应该是恐慌发作了。”
伍德罗夫是一名持照美容师，也是护理学院的学生，她说她很清楚自己当时的危险状况。在水泥长凳上坐立不安的11小时令她备受羞辱，也令她痛苦不堪。
期间，警方不仅对她进行了盘问，还收走了她的手机，试图寻找证据。当晚，她被法院判处抢劫罪和劫车罪，最终交了10万美元的个人保释金得以保释。
伍德罗夫称，她立即前往当地一家医院进行检查，诊断出脱水和心率过低，腹中的孩子同样被诊断出心率过低，并接受了相应的治疗。
今年3月，伍德罗夫的孩子有惊无险地顺利出生。8月3日，她在美国密歇根州东区地方法院对底特律市和一名警探提起诉讼，指控其非法逮捕、非法拘禁，侵犯了宪法第四修正案赋予她的免受不合理扣押的权利。
“我审阅了诉讼中的指控。”底特律警察局长詹姆斯·E·怀特（James E. White）发表声明说：“这些指控非常令人担忧。我们非常认真地对待此事，但由于此事需要进行更多的调查，我们目前还不能发表进一步的评论。”
韦恩县（Wayne County）检察官凯姆·沃西（Kym Worthy）在其办公室发表的声明中认为，对伍德罗夫发出的逮捕令是“根据事实”做出的，因而是“适当的”。
据报道，人脸识别算法把伍德罗夫8年前的旧照片与犯罪嫌疑人的视频录像进行了匹配，受害人也在查看伍德罗夫旧照片时也错误地指认了她。
伍德罗夫表示，“我认为任何人都不应该经历类似被诬告的事情，所有人都可能会长得像某个嫌犯。”
多名非裔因人脸识别技术出错被警方误抓
导致伍德罗夫被错误识别的人脸识别算法是一种怎样的算法？
根据市政府的文件，犯罪分析师使用了一种名为DataWorks Plus的人脸识别算法，将未知的面孔与罪犯照片数据库进行比对。系统会返回匹配结果，并根据其是否为同一人进行排序，然后由人工分析师来决定其中是否有匹配的潜在嫌疑人。警方称，犯罪分析师根据一张2015年的嫌犯照片的匹配结果，向警探提供了伍德罗夫的名字。
随后，负责此案的警探要求受害人查看6名非裔女性的面部照片，伍德罗夫的照片就在其中。受害人将伍德罗夫误认为嫌犯，警方称这就是她被捕的依据。
受害人查看6名非裔女性的面部照片，错误指认伍德罗夫为嫌犯。
伍德罗夫既不是第一个因人脸识别而被误捕的底特律人，也不是第一个因误捕而起诉底特律市的人。
澎湃科技（www.thepaper.cn）梳理相关媒体报道发现，目前美国被报道的因人脸识别错误导致误捕的案例至少有六起，被误捕的对象均为非裔，伍德罗夫是其中唯一的女性。底特律市目前正面临三起识别错误带来的误捕诉讼。
据美国多家媒体报道，密歇根州美国公民自由联盟资深律师菲尔·马约尔（Phil Mayor）曾代理非裔男子罗伯特·威廉姆斯（Robert Williams）因人脸识别导致被错误拘留的案件。
2020年，底特律警局的人脸识别算法在分析了监控录像中的模糊图像后，错误地识别出了威廉姆斯，随后以盗窃罪将其逮捕，尽管威廉姆斯当时并不在场。而被窃店家的保安也在照片排查流程中挑选出了他。威廉姆斯被拘留了整整30个小时，期间甚至没有得到任何食物或水。
底特律之外，类似的误捕也曾发生。
2019年2月，黑人男子奈吉尔·帕克斯（Nijeer Parks）被指控在新泽西州伍德布里奇（Ridgewood）的汉普顿酒店入店行窃并试图袭击警察。
警方使用人脸识别锁定他为犯罪嫌疑人，实际上他当时在距离事发地30英里之外。帕克斯在监狱里呆了10天，并支付了大约5000美元为自己辩护。2019年11月，该案因证据不足被驳回。现年33岁的帕克斯2021年3月起诉警方、检察官和伍德布里奇市，指控其非法逮捕、非法监禁和侵犯公民权利。
非裔人群较高概率的误捕背后，是算法识别导致不同人群的准确率差距。《纽约时报》2020年6月发表的一篇文章指出，在密歇根州，警方使用的DataWorks软件来自日本科技巨头NEC和总部位于科罗拉多州的Rank One Computing公司开发的组件。州警方发言人说，2019年，美国国家标准与技术研究院对100多个人脸识别系统进行了研究，发现这两家公司的算法都存在种族偏见，非裔和亚裔人脸的错误识别率是高加索人种人脸的10倍到100倍。
面对此类冤假错案的频繁发生，美国民主党众议员刘云平（Ted Lieu）提出了《2022年面部识别法案》（Facial Recognition Act of 2022），规定在公共和私营部门必要的范围内规范面部识别技术的使用。法案还规定执法部门使用面部识别技术要达到一定的透明度要求，进行年度评估和报告。
“我们需要建立强有力的保障措施，为美国人民提供透明度，防止歧视性算法，确保被告受到正当程序权利的保护，并只在不得不使用人脸识别技术时使用它。”刘云平说，“透明度和合理限制的缺乏，会让人脸识别威胁到美国人的公民自由。”
皮尤研究中心（Pew Research Center）称，目前还没有人脸识别技术普及率的全面数据。不过有一家供应商表示，其客户包括至少3100家美国执法机构。尽管一些民权组织和隐私权活动人士对此表示担忧，但美国之外的许多国家，包括奥地利、法国、德国、意大利和芬兰等国在内，也都已经出于各种目的采用了人脸识别技术。
专家称人脸识别技术在实际适用时需人工介入
人脸识别错误导致美国误捕事件中非裔比例偏高，暴露出怎样的问题？
广东财经大学法学院教授姚志伟在接受澎湃科技采访时表示，在算法歧视中对非裔的歧视偏高，很有可能是因为对人脸识别系统进行训练的材料本身有问题，算法训练过程中适用黑人样本数和白人样本数可能不成比例。“在实际适用的过程中一定要有充分的人工介入、干预、救济等。”姚志伟表示。
上海正策律师事务所律师虞元坚分析称，非裔人种识别错误率高，部分原因是非裔人种肤色较黑，面部特征识别难度大，算法训练的样本数据也相对较少。想要预防这一类事件的再次发生，只有要求厂商在有色人种，尤其是黑色人种的面部识别算法研究上投入更多。
“法律层面上，我认为应该给予技术一定的容错率，否则技术很难长足发展。如果是由于技术的开发人员、操作人员非主观过错，而判定赔偿，有可能阻碍技术的发展。”虞元坚说。
从技术层面优化人脸识别准确度，是科技公司需要努力的方向。另一方面，随着人脸识别技术不断成熟，给公众生活带来便利的同时，也存在不规范使用等现象，对个人信息保护提出了挑战。
姚志伟认为：“在个人信息保护方面，美国弱于欧盟，现在从整体立法层面来说也弱于中国。”
6月14日，欧洲议会通过《人工智能法案》。最新草案中，实时远程生物识别技术从“高风险”级别调整为“被禁止”级别，这意味着未来公司不能利用AI技术在欧盟国家的公共场合进行人脸识别。但仍存在是否应出于国家安全和其他执法目的而允许豁免的问题。
8月8日，中国国家互联网信息办公室公布《人脸识别技术应用安全管理规定（试行）（征求意见稿）》，并向社会公开征求意见。《征求意见稿》详细规定了平台、个人等安装图像采集、个人身份识别设备的前提、条件和程序，要求只有在具有特定的目的和充分的必要性，并采取严格保护措施的情形下，方可使用人脸识别技术处理人脸信息。新华社总结了《征求意见稿》体现的三个原则：最少使用、遵循自愿、最小存储。
