美国政府研究发现面部识别系统存在种族偏见 - 安防知识网 - 资讯

相较于白人，亚裔和非裔的人脸识别错误率要高10到100倍。

　　来自路透社的新闻显示，根据美国政府周四发布的一项研究显示：与白色人种相比，许多面部识别系统更容易识别有色人种，这可能将限制执法机构对面部识别技术的使用。

　　这项由美国国家标准与技术研究所(NIST)进行的研究发现，在进行一种被称为“一对一”匹配的特定类型的数据库搜索时，不少面部识别系统错误地识别了非裔美国人和亚洲人的面孔，相较于白人，亚裔和非裔的人脸识别错误率要高10到100倍。

　　该研究还发现，在所有种族中，美洲原著民的假阳率最高；一对多匹配，非洲裔美国女性的假阳性率更高。非裔美国女性更容易在“一对多”配对中被错误识别，这种配对可用于在刑事调查中识别感兴趣的人。

　　虽然有些公司淡化了早期的技术偏见，即可以猜测一个人的性别的技术偏见，也就是所谓的“面部分析”，但NIST的研究也发现了一个问题，证明了面部匹配很难跨越种族障碍。

　　算法正义联盟的创始人乔伊·布拉姆维尼（Joy Buolamwini）称，该报告是对人工智能(AI)偏见不再是问题的全面反驳。这项研究是在美国对面部识别技术越来越不满的时候进行的，批评者警告说，这可能导致可能导致不公正的骚扰或逮捕。

　　在这份报告中，NIST对来自99个开发人员的189种算法进行了测试，不包括亚马逊等没有提交算法供审查的公司。它所测试的内容与这些公司所销售的内容有所不同，因为NIST研究了与云分离的算法和专有培训数据。

　　该报告还表示，不同国家开发的算法表现不同。美国开发的算法中，亚裔、非裔和土著的错误率很高；亚洲开发的算法中，白人和亚洲人的错误率差距较小。不过，在NIST的一次测试中，中国某家市场估值较高的人工智能初创企业，有比较的误匹配率都很高，其算法在查看索马里男性的照片时，产生假阳性的几率超过10%。如果部署在机场，这将意味着一个索马里人可以通过海关检查，每10次他使用其他索马里人的护照。但来自中国的另一家AI初创公司依图的面部识别更为准确，基本不存在种族偏见。

　　在“一对多”测试中，在某些情况下，微软对有色女性的误报率几乎是有色男性的10倍。在仅使用黑白男性照片的一对多测试中，其算法几乎没有差异。微软表示正在审查报告，且没有发表任何评论。

　　此外，该研究还发现，老年人和儿童更容易被识别错，女性比男性容易被识别错。中年白人准确率最高。

　　美国众议院国土安全委员会主席，本尼·汤普森表示，在海关官员在旅行检查站增加面部识别的时候，偏见的发现却比人们所担心的还要糟糕。

在不少美国人看来，面部识别技术出错率以及方式过于频繁，一开始就存在偏差，总体而言是不可靠的。此外，尽管面部识别技术正在不断进步，其识别准确度也在不断提高，但隐私问题和道德问题，已逐渐成为面部识别技术急需解决的问题。

　　在美国，不少政府已经禁止了面部识别技术的使用，而基于这些令人震惊的结果，联邦政府政府必须重新评估其面部识别技术计划。”

（本文编译自外网，内容尚有增减）