主页 > 设计生科 >亚马逊向军方出售公开监控辨识系统,遭到大量舆论抗议 >

亚马逊向军方出售公开监控辨识系统,遭到大量舆论抗议

来源:优德youde_凯时娱人生就是博      2020-06-16 06:30:37     阅读次数:150

亚马逊向军方出售公开监控辨识系统,遭到大量舆论抗议
photo credit: Amazon

亚马逊开始向军方推销起 AI 武器来了。据悉,亚马逊正在为政府和员警部门推销其一款名为 Amazon Rekognition 的产品,这款产品可以即时识别,跟蹤和分析人员,并在单幅图像中识别多达 100 个人。它还可以快速扫描收集的资讯,与资料库数千万张面孔进行比对。

这意味着,透过亚马逊的技术可以监控「团体照片、拥挤人群以及机场等公共场所中的所有面孔」。此消息一出,瞬间引发了一系列恐慌。美国公民自由联盟组织了 30 多个民权组织联合反对亚马逊的此行为,并举行一系列抗议活动,反对美国政府使用人脸识别技术,并要求亚马逊执行长贝佐斯停止向政府出售 Rekognition 。

大部分民众认为,透过 Rekognition ,政府现在可以构建一个自动识别和跟蹤任何人的系统。如果员警配备的随身摄像头配备了人脸识别装置,那幺原本用于执法透明和问责制的装置将转变为针对公众的监视器。

亚马逊向军方出售公开监控辨识系统,遭到大量舆论抗议
亚马逊 Rekognition 的精準人脸识别
「风口浪尖」的亚马逊

此举一出,亚马逊内部及其用户议论纷纷。

在亚马逊内部,许多员工加入民权团体,对其行为进行抗议,并认为这将对公民权利、特别是对移民和人民会产生独特威胁。

6 月份,亚马逊内部的 100 多名员工更是向执行长杰夫·贝佐斯递交了一份公开信,要求公司停止向 ICE 和其他执法机构出售侵入性和违宪的 Rekognition 面部识别技术。

亚马逊向军方出售公开监控辨识系统,遭到大量舆论抗议
photo credit: Amazon

除了要求停止出售 Rekognition 之外,亚马逊员工在信中还呼吁公司停止对资料分析公司 Palantir 提供支援。

Palantir 是 Peter Thiel 于 2003 年创立的大数据公司,为执法部门提供预测性警务工具,并透过亚马逊网路服务公司与 ICE 签订了大量合同。

但是,对此情况,亚马逊并不买帐。面对「内外夹击」般的抗议,亚马逊并没有像 Google 一般将项目推迟,而是选择了「正面硬刚」。亚马逊回应:不能因为技术可能会被滥用就限制其进步。并表示其将坚决的捍卫 Rekognition 。

在商言商,从商业角度来看,亚马逊的行为没有原则性的问题,但是,当人脸识别技术牵涉的「伦理」、「隐私安全」等敏感领域时,这就不像亚马逊说的这样简单了。

人脸识别,想说爱你不容易

人脸识别技术已经投入市场中有相当长的时间了,可是从其表现来看,并没有想像中优异。智慧相对论分析师柯鸣认为,人脸识别技术的发展,其依然存在着较多问题。

1.「冤枉了 98% 的好人」

人脸识别的準确率,远没有我们想像中的那幺高。在此前伦敦议会听证会上,大都会警察局局长 Cressida Dick 透露出,本地警察局部署的人脸识别系统準确率仅为 2%。

去年 6 月的欧冠联赛上,当南威尔士警方的人脸识别相机首次应用时,系统发出了 2470 次警报。也就是说,在这场球赛中每隔三秒就会提示嫌犯来了,系统的努力程度着实令人感动。

但是,在这两千多次的预警中,只有 173 次是正确的判断,AFR 的错误率高达 92%。英国警方给出的统计资料显示,截止到今年 5 月份,南威尔士警方的 AFR 识别错误率平均为 91%。

历史上最着名的人脸误判案例可能是 1903 年在美国堪萨斯州发生的 William West-Will West 案件。当时一个名为威尔•韦斯特的犯人正要被收押进莱文沃思监狱。监狱职员看他面熟,问他以前是否来过这里,威尔说没有。

接着职员调出了 William West 的照片给威尔看,威尔说:「这的确是我,可是你们是怎幺拿到这张照片的呢?以前我从未到这儿来过。」从此,从美国开始,各国监狱和司法系统开始用指纹进行罪犯身份登记和管理。

显然,此类的乌龙事件让人啼笑皆非的同时也不免有阵阵隐忧。如此「不靠谱」的人脸识别,真的能够成为安防等领域的保护伞吗?

2. 人脸识别,道阻且长

先不论人脸识别本身的正确率,其自身运作中也存在着一部分问题。

首先,人脸识别并不是精準资讯对比,而仅仅是相似度对比。因为人脸识别和算大技术不同,值的设定方法完全不同,评判的标準自然也不同,即使从识别实际效果看,其包括误识率:将其他人误作指定人员的概率;以及拒识率:将指定人员误作其他人员的概率。这些结果都受到训练和测试空间样本的影响,难以做到完全精确。

其次,人脸图片的採集如果不做活体监测,就易招致基于用户照片的重放攻击。活体检测的话,对后台的计算资源和网路的传输资源要求较高,所以在目前实际上线的人脸识别都是非常容易攻破的。

最后,人脸形态的易变形让人脸识别更易出错。人可以透过脸部的变化产生很多表情,而在不同观察角度,人脸的视觉图像也相差很大,另外,人脸识别还受光照条件 、人脸的很多遮盖物 、年龄等多方面因素的影响。

隐私的无情洩露,你的脸还好吗?

在大量的抗议面前,三大公司中微软首先选择了低头。在关于人脸识别的潜在用途和滥用的一篇博客文章中,微软总裁 Bradford L. Smith 将该技术与受到全面监管的药品和汽车等产品进行了比较,并敦促美国国会展开研究并监督人脸识别技术的使用。

作为人脸识别软体主要製造商之一,微软表示它将採取措施降低这些系统产生偏差的可能性;制定新的公共原则来管理技术;并会更谨慎地出售其在该领域的软体和专业知识。微软指出,虽然技术行业需要对其产品负责,但是政府也要採取行动。

人脸识别是目前 AI 领域里应用最广泛的技术之一,但在推广的过程中也引起了越来越多的争议。今年 4 月,个人隐私保护组织向美国联邦贸易委员会提起诉讼,称 Facebook 在未获得使用者适当许可的情况下开启了新的人脸识别服务。

当前,大数据、云计算和人工智慧等技术推动移动互联网中新的应用场景层出不穷,但其背后的隐私和资料保护,已经成为网路平台和移动终端迫在眉睫的要务。从整体移动终端市场来看,应用领域资料滥用的情况十分突出。协力厂商应用对于个人资讯过度收集、隐秘收集和诱骗收集的情况日渐增多。

使用者隐私资料安全挑战加剧主要出于三方面原因:

第一,过于笼统的「使用者协定」贩卖了使用者资讯,获取和收集使用者个人资讯的授权,导致个人资讯使用的不规範甚至大量洩漏。

第二,使用者本身对保护个人资讯重视程度不足。出于方便的考虑,不少用户在多处使用简单重複的帐号和密码,当一处资讯洩露便导致整体资讯暴露。

第三,法律层面的缺失。当资料如同能源一样重要时,法律法规的滞后在一定程度上导致了资料安全和隐私保护的缺失。资料所有权、资料交易规则等基础法律界定仍未明确。例如,个人资料原本属于使用者本身,但使用者在网路平台中所产生的资料,如交易资料和行为资料,在经过脱敏后其所有权和使用权归属用户还是平台,仍未有答案。

从目前来看,人脸识别的场景也主要分为两种:一种是线上,如电脑透过你上传的使用者图像识别你的身份;另一个是线下,如系统透过你在街上被监视器拍到照片来识别你的身份。而当前的情况是,线上与线下的资料保护都做的远远不够。所谓的用户授权更多是形同虚设,谁真正拥有了我们的「脸」?脸部识别软体的政府监管,将如何进行?人脸隐私保护这条路,似乎还需要坚强的走下去。

上一篇:
下一篇:

相关评论

每日高新科技|相机机器|书屋各类|网站地图 emc体育app_ku娱乐官方app 久悦国际注册_玛雅集团旗下娱乐平台 博天堂备用域名_下载云天娱乐 am娱乐怎么注册账号_金鹰娱乐注册登录 葡京官方网app客服_菲赢国际注册 9992020银河国际安卓版_东森娱乐平台app下载 mg摆脱网站试玩_博亿娱乐官网注册 澳门ag导航网_万达娱乐平台app下载 真人飞扬互娱_申博会员登入网址 下载app绑定账号送彩金28_奥博国际在线