致命的部署
人脸识别技术仍处于发展的初级阶段,我们已经看到了很多可能出错的地方,从中国利用这项技术跟踪和拘留少数族裔,到它延续种族和性别偏见的众多例子。
现在,在VentureBeat的一次广泛采访中,来自华盛顿大学的人工智能研究员Os Keyesat向跨性别者展示了一些“噩梦场景”,这些场景可能是由于面部识别技术的应用而导致的——在某些情况下,这些场景的结局是人被杀。
他们是谁?
Keyes在采访中提到,一些公寓大楼正在考虑使用面部识别技术进入——这个想法是,一个居民将展示他们的脸,系统将识别他们并开门。
凯斯还指出,有些人甚至建议使用面部识别系统来监控浴室。
Keyes告诉VentureBeat,由于一些系统难以识别跨性别者或性别不符合规定的人,他们可能会被打上标记,导致执法人员被叫到现场,而这对跨性别者来说可能是致命的,尤其是对有色人种。
“极面无表情,”凯斯说,“警方的记录与变性人的颜色不是很好,所以,最坏的情况是有人想去洗手间,因为他们只是想小便,最终或逮捕或骚扰,或逮捕然后骚扰。”
没有很好的利用
Keyes并不仅仅关心面部识别技术将如何影响跨性别群体。另一个担忧是,它没有给任何社会成员带来足够的好处,不足以保证进一步的发展。
凯斯在接受VentureBeat采访时表示:“我希望看到面部识别技术的发展和使用被直接定为非法,因为我不认为这是一项具有可取之处的技术。”“没有人能向我指出一个用例可以直接造福人类,而不能用其他方法解决。很明显,它已经到了被滥用的时候,而且已经被滥用到不值得做的地步。”