智东西(公众号:zhidxcom)
编译 | 屈望苗
编辑 | 江心白

智东西4月21日消息,据路透社报道,美国的佛罗里达城市国家银行、摩根大通银行和富国银行等十几家银行已经开始部署摄像软件,用计算机视觉技术来分析客户偏好、监视员工,并监测睡在自动取款机附近的人。但这些部署引发了批评人士对于隐私丧失和种族偏见的控诉。

尽管存在着反对的声音,但在监控摄像头制造商安讯士美洲区副总裁弗雷德里克·尼尔森(Fredrik Nilsson)看来,银行面临的一个大问题是,“如果推出这项技术,公众会有什么反应,尚不确定。”

一、众说纷纭,人脸识别未必真安全

对于智能监控设备在银行中的应用,银行方面和社会人士方面纷纷发声。比如,城市国家银行的首席信息安全官博比·多明格斯(Bobby Dominguez)赞成人脸识别技术的使用, “我们已经在移动设备上利用人脸识别,为什么不在现实世界中利用它呢?”

多明格斯称,城市国家银行将于明年初开始试用人脸识别来鉴别柜员机旁的顾客和分行员工的身份,这将取代现有网点中过时而又不可靠的身份识别措施。他说,人脸识别可以分辨出政府监视名单上的人。

摩根大通透露,他们正在俄亥俄州的几家分行进行视频分析技术的小规模测试。而富国银行称人脸识别对于防止欺诈行为有用,但拒绝讨论它具体是如何防止的。

但批评人士指出,如果人脸匹配结果出错,无辜的人可能会被逮捕;还可能会出现过度使用监视系统来监测低收入和非白人社区的情况;而且在无处不在的监控中,隐私将会不复存在。

俄勒冈州波特兰市从1月1日起禁止企业在公共场所使用人脸识别,在此情况下,连锁药店Rite Aid Corp去年就关闭了全国性的人脸识别项目。

布兰南银行(Brannen Bank)首席信息官沃尔特·康纳斯(Walter Connors)称,他们的公司已经对该技术进行过讨论,但并没有应用在他们的网点。康纳斯说,“当谈到人脸识别这个话题时,事情就没有那么简单了。”

二、银行内,识别客户或引种族偏见

据两名知情人士消息,摩根大通银行从2019年开始,用内部软件分析了纽约州和俄亥俄州分行的存档录像,以评估计算机视觉技术的潜力。这两名知情人士中有一位是摩根大通银行的前雇员尼尔·班达尔(Neil Bhandar),他当时正是负责监督这个项目。

摩根大通银行也证实了这一消息,称他们是为了收集数据,以便更好地安排员工和设计银行分行。班达尔说,当时一些员工甚至到亚马逊的无人售货便利店,去了解他们的计算机视觉系统。

班达尔对存档录像的初步分析显示,更多的男性会在午餐前后到访,而女性往往在下午左右抵达。班达尔还想进一步分析这一现象是不是因为女性想避开ATM机大厅的人流高峰,但疫情打断了这一计划。

一名参与创新项目的现有员工提出,在征得客户同意的条件下,对进入分行的客户进行人脸识别,可能是提升客户体验的一种途径。

除了摩根大通银行,美国东北部一家银行的高管称他们最近也在新的分行中使用计算机视觉来识别银行里的繁忙区域。

还有一位消息人士称,美国中西部的一家信用合作社去年在四个地点采用了人脸识别来鉴定客户身份,但后来因为担心成本问题而暂停。

据班达尔等人透露,摩根大通银行在开发定制计算机视觉时,使用了谷歌、IBM Watson和亚马逊的组件,同时也考虑了软件初创公司AnyVision和Ventra的全构建系统,但这两家公司都不予回应。

摩根大通银行最终在11家供应商中选择了某一家,并于去年10月开始在俄亥俄州的几个分行进行测试。他们利用计算机视觉系统来确定交易时间,统计有多少人因为排长队而离开,以及工人们都在做什么工作。此外,他们还补充,这项测试并不包括人脸、种族或性别识别。

一些道德专家认为,利用技术来猜测客户的特征可能会出现问题,因为这会强化刻板印象。批评者警告称,部分计算机视觉程序对有色人种的准确性并不高,这可能会导致算法偏见的产生。

于是,摩根大通银行对道德问题进行了权衡。例如,其中两名知情者说,有内部人士呼吁重新考虑在黑人社区哈莱姆(Harlem)进行测试的计划,因为这可能会被视为对种族问题不敏感。与此同时,《纽约时报》于2019年12月发表了一篇关于大通银行亚利桑那州分行的种族主义的文章。

上述知情人士解释道,种族分析并不是最终计划的一部分,而哈莱姆分行之所以被选中,是因为那里有用来评估新技术的大通创新实验室。大通银行也证实了这一点。

三、银行外,监控可疑人士

长期以来,银行业一直试图将计算机视觉应用到安保领域。视频监控研究机构IPVM的创立者约翰·霍诺维奇(John Honovich)说,富国银行在十多年前就使用了3VR公司的原始软件来审查犯罪录像,看是否有人脸与已知罪犯的面部相匹配。

美国南部一个中型银行的安全主管透露,该银行几乎在每家分行都设置了视频分析软件,当保险箱、计算机服务器室和其他敏感区域的门敞开时,就会发出警报。

此外,他们还监视着银行之外的情况。比如说,经常有人会在免下车提款机下面搭帐篷休息。这名主管说,这种情况下,控制中心的安保人员可以发出广播,请这些人离开。

开发视频管理和分析软件的飞艇工业公司(Airship Industries)销售副总裁布莱恩·卡拉斯(Brian Karas)称,有人会睡在封闭的ATM机大厅里,这样的问题一直困扰着银行业。但现在,一些银行的系统可以检测到有人在ATM机旁边闲逛,然后工作人员可以用警笛或频闪灯来警告或赶走他们,以增加ATM机的使用时间,减少对ATM机的破坏行为。

卡拉斯说,虽然不想让流浪汉们失去容身之处,但他们觉得有必要让ATM机的使用更加安全、方便。

城市国民银行的多明格斯说,银行可以用计算机视觉来探测外面的可疑活动。

据悉,美国银行(Bank of America Corp)在2010和2011年曾使用iCVR相机来监测在ATM机大厅闲逛的人士。虽然已不再使用,但美国银行对计算机视觉的兴趣并未减弱。

2019年,该银行人员在多个场合与安防视频管理公司AnyVision人士会面,而且在9月的一次会议上,美国银行展示了他们如何识别自家高管的面孔。他们声明:“我们一直在评估市场上潜在的新技术解决方案。”

结语:计算机的“眼”,还未到遍地开花之时

计算机视觉技术在美国多家银行的广泛部署,应该说是为提升银行业务与服务提供了一种有力的工具,人脸识别、数据收集分析,以及对外部ATM机附近情况的监测,都可以有效地提升银行客户的体验。

然而计算机视觉的应用总是绕不开个人隐私和算法偏见的问题。被收集分析的用户数据会去向何方?算法在识别身份时会不会受到种族主义或者刻板印象的影响?批评人士的担忧不无道理,在新的技术方案不断更新换代的同时,这些问题也从来不应该被忽视。

来源:路透社