AI面部识别：需要监管，禁止供应商擅自使用
社交媒体上的自动照片标记功能快速且相当准确，但不太安全。最令人担忧的是，社交网络上的数据是公开的，并且在未经您同意的情况下被抓取用于私人 人工智能面部识别数据库。生物识别数据的不受监管的收集和使用是一种风险，而网络攻击的增加加剧了这种风险。
随着面部识别技术变得越来越普遍，您的面部签名可能会出现在很多地方。您无法确定谁可以访问您的生物识别信息。有些人可能会反驳说，该技术的有益实施将抵消数据隐私滥用所造成的任何损害。
诚然，面部识别系统在我们周围创造了奇迹，从帮助执法部门寻找失踪儿童、逮捕危险罪犯，到在机场和银行证明您的身份。然而，在这些情况下，面部识别的缺陷也为滥用行为铺平了道路，这次是以侵犯公民权利的形式。
正如我们将在下面看到的，必须解决面部识别带来的数据隐私、公民权利和其他威胁，以避免弊大于利。
AI人脸识别的高风险应用
面部识别数据库在执法中发挥着重要作用。执法机构经常收集被捕者的照片，并将其与当地、州和联邦的面部识别数据库进行比较。例如，FBI从多个州数据库中追踪到了超过 6.5 亿张照片。
面部识别将走过这些特殊摄像头的人的面部与观察名单上的人的图像进行匹配。观察名单包含任何人的照片，包括未被怀疑有任何不当行为的人，这些图像可以来自任何地方，甚至可以来自我们的社交媒体帐户。例如，任何带有人名标签的照片都会成为 Facebook 数据库的一部分，该数据库也可用于面部识别。
数据获取方式很重要
怀着用尖端技术更好地装备执法部门的愿景，Clearview AI 展示了 其包含超过 100 亿张图像的庞大数据库。该公司还透露，任何用户都可以上传一个人的照片，然后该软件可能会泄露该人的身份。
《纽约时报》2020 年初对 Clearview AI 的一项调查显示，该公司一直在挖掘在线图片以建立庞大的面部识别数据库。最初，Clearview AI 声称其应用程序仅供执法部门和少数私营公司使用。但《纽约时报》的文章明确指出，该公司一直歪曲其业务范围和愿景。
BuzzFeed News报道称，一份泄露的 Clearview AI 客户名单涉及美国数百个警察部门和联邦机构，包括 ICE 和海关与边境保护局。泄露的名单中还包括 NBA、百思买、沃尔玛和梅西百货等各种令人吃惊的买家。尽管现在已有几家公司与 Clearview AI 保持了距离，但其中几家表示已经进行了试运行，仅此而已。
此后，这家初创公司继续面临大量诉讼。在法国、奥地利、希腊、意大利和英国提起的投诉称，该公司收集和记录数据（包括从公共网站自动提取的面部图像）的方法违反了欧洲隐私法。
征服 Clearview AI
Clearview AI 的工具遭到了科技组织和美国当局的严厉批评。尽管谷歌、Twitter、YouTube、Facebook 和 LinkedIn 等平台发送了停止函，但 Clearview 首席执行官 AI Hoan Ton-That 表示，该公司拥有第一修正案的权利，可以在其系统中使用公开信息。
然而，2021 年 8 月，伊利诺伊州法院做出了有利于美国公民自由联盟 (ACLU) 反对这家科技初创企业的裁决。法官表示，Clearview AI 不能利用第一修正案作为针对这起诉讼的辩护，只有在伊利诺伊州居民同意的情况下才能继续其业务。
无意识偏见的风险
同样，亚马逊基于云的面部识别工具 Rekognition 也是全国范围内日益反对的目标。在ACLU 2018 年进行的一项测试中，该软件使用包含 25,000 张照片的数据库错误地将 28 名国会议员识别为犯罪分子。
亚马逊批评了这一结果，声称面部识别系统的置信阈值被降低了。但一年后，马萨诸塞州 ACLU 发现 Rekognition错误得将27 名新英格兰职业运动员与照片相匹配。美国公民自由联盟发现，这两项测试都与有色人种不匹配。
麻省理工学院媒体实验室的研究人员发现， 面部识别算法在识别白人男性方面比识别女性和有色人种更准确，因为数据库包含更多有关白人男性的数据，从而产生了意想不到的偏见。 ACLU 的结果证实了这一担忧，因为在第一次测试中，Rekognition 的错误匹配中有近 40% 是针对有色人种的，尽管他们只占国会的 20%。
亚马逊、IBM 和微软暂停销售人工智能面部识别
在 Rekognition 显示出对有色人种存在偏见后，亚马逊受到了密切关注。作为回应，该公司暂停警方使用其面部识别技术一年。然而，2020 年 6 月，亚马逊发布了一篇令人惊讶的博客文章，其中提到允许 Thorn、国际失踪与受虐儿童中心和 Marinus Analytics 等组织使用 Rekognition 来帮助营救人口贩运受害者并使失踪儿童与家人团聚。
不久之后，IBM和微软宣布将不再向警方提供面部识别技术，因为执法中使用的人工智能系统需要进行偏见测试。 2021 年 5 月，亚马逊延长了警察使用的暂停时间，直至另行通知。
AI人脸识别的现状
面部识别可能是对个人隐私的另一种侵蚀。让我们从两个因素来评估这项技术：歧视和隐私。
1. 歧视：面部识别永远不会 100% 准确。儿童、女性和有色人种的错误率高达 35%，而白人男性的准确率为 99%。可以说，随着时间的推移，人工智能将会进步并使面孔“多样化”，但就目前而言，它使少数族裔面临风险。
2. 隐私：继《生物识别信息隐私法》之后，《商业面部识别隐私法》于 2019 年 3 月提交美国参议院。这些法案要求公司在收集个人生物识别信息之前获得个人的明确同意。面部识别技术的提供商和国家组织需要注意这些有关个人隐私的法律以及应采取的措施。
Clearview AI 的早期投资者之一 David Scalzo 表示，
“我得出的结论是，由于信息不断增加，因此永远不会有隐私。法律必须确定什么是合法的，但你不能禁止技术。当然，这可能会导致反乌托邦的未来或其他什么，但你不能禁止它。”
我们不能忽视面部识别领域的突破。但考虑到它收集和存储的数据量，对面部识别的担忧不应被忽视。如果技术供应商不自愿克制自己，我们就希望立法迫使他们解决隐私、歧视和其他滥用问题。
