当人脸识别无法识别你的人脸时

本文探讨了人脸识别技术对脸部差异人群的影响。随着人脸识别技术在身份验证系统中的普及,许多面部特征特殊的人士无法通过系统验证,导致无法使用基本服务。文章揭示了算法偏见、数据训练不足等技术缺陷,并呼吁提供替代验证方案。

当人脸识别无法识别你的人脸时

全球约有1亿人生活在面部差异中。随着人脸识别技术变得普及,一些人表示他们被阻止访问基本系统和服务。

插画:WIRED STAFF;GETTY IMAGES

Autumn Gardiner认为更新她的驾照会很直接。去年结婚后,她前往康涅狄格州当地的机动车辆部门办公室更改驾照上的姓名。Gardiner回忆说,在那里,官员表示她需要更新照片。这时问题开始出现了。

Gardiner说,每次工作人员尝试拍摄她的照片,系统都会拒绝。“每个人都在看。他们拍了更多照片,”她回忆道。Gardiner是一家环保慈善机构的资助经理,是全球少数患有Freeman-Sheldon综合征的人之一。这种遗传性疾病有时被称为“吹口哨脸综合征”,影响面部和头骨的肌肉,可能导致嘴巴过小。

随着更多DMV工作人员被叫来帮忙,Gardiner开始认为被拒绝的照片是由她的面部差异引起的。她说相机系统似乎对她不起作用。“这令人羞辱和奇怪。这台机器告诉我我没有人脸,”Gardiner说。

Gardiner并不孤单。大约六位有各种面部差异的人——从胎记到颅面病症——告诉WIRED,随着身份验证软件(通常由机器学习驱动)迅速变得普遍,他们越来越难以参与现代生活。

由Rick Guidotti for Positive Exposure提供

一些有面部差异的人告诉WIRED,他们经历了多次手术,并一生都经历污名,现在他们被迫交互的技术也在重复这种经历。他们说由于面部验证服务失败,他们无法访问公共服务,而其他人则难以访问金融服务。他们说,社交媒体滤镜和手机上的面部解锁系统通常无法工作。

“面部差异社区经常被忽视,”Face Equality International(FEI)的首席执行官Phyllida Swift说,该组织代表其他面部差异和毁容慈善机构和组织。FEI估计全球有超过1亿人生活在面部毁容中。根据FEI的研究,有面部差异的人在机场护照门、照片应用、社交媒体视频滤镜、视频通话背景模糊等方面遇到了问题。“在许多国家,面部识别日益成为日常生活的一部分,但这项技术正在失败我们的社区,”FEI的赞助人Nikki Lilly在3月的一次联合国会议上说。

访问被拒绝

从手机到酒店房间,你的脸越来越成为数字钥匙。在过去十年中,快速的机器学习和AI进步导致了一系列面部识别技术的创建——意味着比以往任何时候,你的外表都可以用作数字标识符。警方广泛部署了面部识别系统,这些系统经常被发现不准确并对亚洲和黑人存在偏见,而更广泛的面部检查领域看到政府服务、反欺诈系统和金融机构使用AI完成身份检查。最近,社交媒体和色情网站采用面部扫描作为年龄验证措施的一部分。

这些“认证”面部检查可以采取多种形式。自拍可以自动与现有ID文件比较;而活体测试可能要求你拍摄短视频以显示你是真实的——而不是欺诈者拿着打印照片对着相机。广义上说,这些生物识别系统通常测量你的面部特征——如眼睛之间的距离或下巴的大小——以创建“面部印记”。虽然这些监控技术可能对许多人有效,但它们可能无法检测有面部差异的人。例如,基础的机器学习技术可能没有在包含各种面孔的数据集上训练。

“Face Equality International的案例——那些有不同面孔的人——是一个重要的警示,当这些系统不工作时会出现什么问题,”技术咨询公司Present Moment Enterprises的创始人Greta Byrum说,该公司专注于技术系统的社会影响,并为FEI提供了一些无偿工作。“我们看到面部识别技术成为那把锤子,一切看起来都像钉子,”Byrum说。

“我希望人们意识到不是每个人都看起来一样,从基本肤色到面部特征到标准面部外观,”患有Sturge-Weber综合征的演讲者和作家Crystal Hodges说,她部分脸上有一个紫色的“葡萄酒色斑”。“人们的面部对称性可能不同。其他人有不同的面部特征,你不总是每天看到,但它们存在。”

由Crystal Hodges提供

住在亚利桑那州的Hodges说,去年她和丈夫试图从一家大型信用报告机构获取信用评分时,其面部验证服务对她不起作用。“我尝试了五到八次,”她说。到了冬天,Hodges说,胎记会变深。“我们尝试了不同的环形灯,我们尝试了更柔和的光线,但它不接受。我丈夫有胡子,它接受了他的。”Hodges说她最近再次尝试了同一系统,虽然这次工作了,但她仍然没有拿到信用评分。

“如果你在开发这些过程中不包括残疾人或面部差异的人,没有人会想到这些问题,”俄勒冈州立大学心理学教授Kathleen Bogart说,她专攻残疾研究并生活在面部差异中。“AI放大了这些问题,但它根源于长期以来的代表性不足和对面部差异人士的偏见,这在AI出现之前就存在了。”

太少,太晚

当面部验证系统失败时,通常很难找到帮助——给本已压力大的情况增加更多压力。几个月来,马里兰州居民Noor Al-Khaled一直难以在社会保障管理局创建在线账户。Al-Khaled患有罕见的颅面病症Ablepheron Macrostomia,她说拥有在线账户将允许她轻松访问SSA记录并快速向该机构发送文件。

“由于我的视力,我不开车;我应该能够依赖网站,”Al-Khaled说。“你必须自拍,照片必须匹配,”Al-Khaled说。“由于面部差异,我不知道它是否没有识别ID或自拍,但它总是说图像不匹配。”

没有这种访问使生活更困难。“在情感层面上,这让我感觉被社会排斥,”她解释道。Al-Khaled说所有服务应为人们提供访问在线系统的替代方式。“缺乏其他备用选项意味着有时人们被困在这些技术系统的迷宫中,”Present Moment Enterprises的Byrum说。

由WIRED来源提供

SSA发言人表示,面部验证的替代选项可用,并且它“承诺”使其服务对每个人都可访问。该发言人说,该机构本身不运行面部识别系统,但使用Login.gov和ID.me进行验证服务。运行Login.gov的总务管理局没有回应WIRED的评论请求。“可访问性是ID.me的核心优先事项,”ID.me发言人说,并补充说它以前帮助过有面部差异的人,并在WIRED联系后提出直接帮助Al-Khaled。

“没有什么比因为你的脸而被机器告诉你不真实更非人化的了,”住在纽约的演员和励志演讲者Corey R. Taylor说,他患有颅面异常。Taylor说,去年他使用一个金融应用访问一小笔钱;当他尝试完成支付过程时,他发现面部验证系统无法将他的自拍与ID上的图像匹配。为了让系统工作,他不得不移动到不同的位置。“我不得不 literally 抬起眼睛并扭曲我的脸,”Taylor说。当他通过电子邮件联系公司时,他得到了似乎是模板回复。

“我们倡导的主要事情之一是替代方法,”FEI政策与教育主管Hannah Saunders说。“在改变技术方面可能有长期修复,但目前我们最关心的是人们能够申请工作,访问他们的钱,与家人一起通过护照检查,并且协商这些系统不像现在这样压力大。”

FEI的首席执行官Swift说,该组织多次被“接触”与企业合作解决一些问题,但尚未能够安排任何正式安排。Swift说FEI希望建立“正确的系统和保障措施”以保护其成员。此外,Swift补充说,“我们感觉这在科技公司的优先事项列表中相当低,因此进展似乎缓慢。”

然而,问题超出了新兴技术。许多WIRED交谈的人解释说,他们经常在网上面临基于外表的欺凌,而互联网更广泛地转向短视频内容如TikTok和Instagram Reels让他们感到孤立。“互联网,长期以来,对我来说是一个避风港,”Al-Khaled说。“我在网上找到了家和安慰,因为这是唯一我可以遇到人并真正做自己而不被盯着或瞠目结舌的地方。”Hodges说人们以前对她说,他们震惊她能够离开家。“我觉得现在这转移到了:‘我不敢相信你离开家,我不敢相信你上网,’”她说。

由Corey Taylor提供

去年在康涅狄格州的DMV,Gardiner说工作人员能够手动覆盖摄影系统,尽管她在此过程中向他们解释了她的面部差异。她当天收到了替换的临时驾照,后来在邮件中收到了完整驾照。“当涉及到我的脸时,我处理了很多狗屎,但离开后,我哭了,”Gardiner回忆道。“这有点像提醒我,是的,我不同,我不适合。”

离开后,Gardiner给她认识的一位州代表发了信息,并告诉她这次经历,根据与WIRED分享的信息。该官员与当地DMV专员联系,讨论了问题和员工培训,他们说。

“虽然我们遵守严格指南以保证照片合规性,但我们的员工以同理心对待他们的角色,确保他们理解并满足他们所服务的人的需求,”DMV CT发言人说。“我们希望我们的居民与DMV有专业互动。”为DMV提供技术的Idemia发言人说,它定期提供员工培训,并且其算法在外部评估中排名很高。

Gardiner说,虽然最终有积极回应,但她听说过有面部差异的人在其他州的DMV遇到问题的故事。“我真的很想努力推动更好的协议:当AI不工作时,人类做什么?”她说。但随着面部识别系统被如此广泛使用,问题可能看起来不可克服。“在整個DMV经历之后,我必须办理护照,”Gardiner说,“我在护照照片中遇到了同样的问题。”

更新于2025年10月17日上午9:40 ET:发布后,Al-Khaled和ID.me发言人确认公司能够帮助她获得SSA服务访问权限。

comments powered by Disqus
使用 Hugo 构建
主题 StackJimmy 设计