亚马逊起草面部识别技术的法律提案,曾因面部识别带偏见而遭批评

智东西(公众号:zhidxcom)
编 | 李水青

智东西9月27日消息,亚马逊正在起草法律来规范面部识别技术,以期联邦立法者将其提案作为立法。亚马逊的面部识别系统曾因带有性别和种族歧视受到过批评,因此一些声音表示担心亚马逊会通过立法为自己寻求便利。

早在今年2月,亚马逊就分享了相关“拟议准则”,为面部识别的立法工作者提供参考。现在,亚马逊更进一步,开始起草法律内容。美国社会各方对面部识别技术的担忧由来已久,三城两州甚至禁用了该技术。但是许多人都承认面部识别技术会带来积极影响,只是目前它还需要变得更加精确。

一、美国社会各界对面部识别的担心由来已久

在美国,许多立法者、科技公司都呼吁对面部识别进行监管,一些城市甚至禁止使用这项技术。包括旧金山在内的美国3个城市已经禁止包括执法部门在内的所有政府机构使用人脸识别技术,而加利福尼亚州和密歇根州的立法机构也提出了类似的暂停禁令。

即使是一些从面部识别技术销售中获益的公司也同意这些担忧。之前,警用型人体摄像机的主要制造商Axon表示,将禁止在其设备上使用面部识别技术,因为该公司的道德委员会发现这项技术还不够精确。

亚马逊CEO Jeff Bezos说:“面部识别无疑会带来真正的积极用途,很多企业都不想刹车。但是,与此同时,这项技术具有双面性,它很有可能会被滥用,因此需要有法规来对它进行规范。

二、科技巨头更了解面部识别,但也可能包庇自己

随着立法者要求围绕面部识别等“大技术”制定更多法规,我们可能会看到越来越多的公司尝试编写规则。从某种程度上来说,科技公司比任何人都了解这类主题;但另一方面,这又好比科技巨头既当运动员又当裁判员。

亚马逊曾因为自己的面部识别系统受到批评,批评者表示其面部识别系统具有性别和种族歧视。因此,一些声音表示担心亚马逊“既当赛跑员又当裁判员”,会为自己提供便利。

人脸识别算法中可能存在的种族偏见是一个严重的问题。NIST(美国国家标准与技术研究所)测量的面部识别技术的错误率为1%或更低,远低于人类目击证人的错误率。

但NIST测试使用肖像风格的照片时,发现精度会因光线和距离等因素而有很大的差异。一些试验还发现,有色人种和女性的总体错误率更高,存在误报的可能性。罪魁祸首很可能是系统使用了有限或有缺陷的数据,这一问题影响了多种形式的自动数据处理。

结语:加强立法,发挥面部识别技术的积极影响

先前在美国,3城2州先后禁止和搁置了人脸识别技术的应用,近来科技巨头又开始参与面部识别技术使用的立法工作,这给我们敲响了警钟。

技术本身是中性的,决定技术作恶还是行善的是使用技术的人。面部识别技术如果被法律约束在一定的范围内,不被滥用,将会发挥出强大的积极影响力。

文章来源:Engadget