微软、亚马逊、IBM主动禁售人脸识别,为什么?

来源:QQ:1300000220日期:2020/09/06 浏览:70

你想生活在一个路不拾遗、夜不闭户、超级安全的社会中吗?那如果必须有一个前提条件,你要接受不分时间、不分地点、全天候监控呢?你可以再想想,看完文章,在评论区告诉我们。本文来自公众号:硅兔赛跑(ID:sv_race),作者:Amelie,题图来自:视觉中国

今年1月,Netflix上架了一部巴西电视剧《全知》,影片为我们创造了这样一个极为文明安全的乌托邦社会——“5年,只有4起凶杀案上报。城里的刑侦机构早在15年前就已解散,30万刑侦警察,现在只剩300人,(他们受过唯一的训练)就是把人铐起来。”

图片来源:《全知》

当然,这是有代价的,生活在这里的人必须接受无人机监控,无论你是在吃饭、睡觉、上厕所......没有停歇。甚至你要为自己无知时犯的错误,付出一辈子的代价。

图片来源:《全知》图为女主的哥哥

我们离影片中的乌托邦社会还有多远?

疫情期间,以色列政府批准国内安全机构可以通过手机跟踪新冠病毒患者在确诊前14天以内的行踪,通过手机实时跟踪确诊患者有无违反隔离规定,并通过人脸识别大数据追寻他们去过哪里,与谁有过接触。

今年3月,一名俄罗斯男子从韩国飞回莫斯科,落地之后需要在家隔离两周。呆了几天后,他感觉自己没什么症状,就走出家门扔了一趟垃圾。结果半小时后,警察出现在了他家门口。原因是自家公寓门口安装了人脸识别摄像头,摄像头识别到了这位从韩国归来的男子,于是把信息汇报给了警察。

近日,路透社公布了一项针对美国第三大连锁药店Rite Aid的调查。据悉,Rite Aid在其全美200家商店中秘密部署人脸识别系统长达8年之久,且大部分部署于有色人种居住的低收入社区,这个秘密系统直到最近才被停止使用。

一、你po在脸书的照片,已被有心人存档

也是今年,《纽约时报》记者Kashmir Hill报道了一家神秘的AI技术公司Clearview AI。2017年成立,截止全年,全美已有超过600家执法机构(比如警察局)使用其服务。

第一个付费客户是印第安纳州警察局,第一次使用时,只花了20分钟就破了一起案件。警察将案件嫌疑人的照片上传至Clearview的系统中,马上得到了匹配,该男子的姓名出现在一条po在社交媒体上的视频中。如果没有Clearview,警察能否这么快破案尚未可知。因为该男子既没有驾照也没有前科,警察局无法从现有数据库中找到他。

图片来源:Clearview 图为Clearview提交给执法机构的宣传材料

Clearview的技术之所以神奇,主要在于其拥有一个庞大的图片数据库,洛杉矶警察局800万、佛罗里达警察局4700万、FBI 4.11亿张图片的数据库,在Clearview面前不值一提。

依靠从领英、脸书、推特、YouTube、Instagram甚至Venmo等社交平台上的公开账户中爬取照片、视频等数据,Clearview建立了一个拥有30亿张图片的数据库。

不过,假设你的Facebook账户开启了隐私模式,那Clearview就无法抓取你的信息了。如果你还没有,现在开启也晚了,因为一旦信息被Clearview抓取,就是永久存储,哪怕你删掉,它那里还帮你备着份呢。

目前Clearview的匹配准确率高达75%,哪怕你带着帽子或者眼镜,一样能匹配,反馈回与你相关的所有照片、视频,甚至连你自己都不知道存在的内容。

更可怕的是,Clearview不仅会存储警察提交的信息,还可以修改所返回的数据。

目前Clearview正在秘密研发配置了该技术的AR眼镜,也许我们很快就能“看透”周围所有的人了。

细思极恐,如果落到有心人手中,这样的技术,会造成什么样的恶果?

就在8月上旬,缅因州波特兰市投票通过了禁止执法人员使用人脸识别监控程序的法令。

图片来源:Twitter

算上波特兰市,这已经是美国第9个宣布禁止使用人脸识别技术的城市了。最早从2019年5月开始,旧金山成为全球首个宣布禁用人脸识别技术的城市。随后湾区城市奥克兰以及加州伯克利,也全票通过了政府人脸识别禁用法案。

东海岸深蓝州马萨诸塞州紧跟湾区步伐,萨默维尔加上布鲁克莱恩、剑桥和北安普顿4个城市也相继加入到禁用行列之中。

到今年6月,波士顿对外宣布禁用人脸识别技术。在禁用人脸识别的城市里,波士顿城市规模排第二,仅次于旧金山。

图片来源:Boston.com

不仅是地方政府,科技公司也开始后退,主动禁售相关技术。今年年中,三大巨头科技公司相继发声:

IBM宣布将不再提供、开发或研究任何人脸识别和人脸分析软件——这是美国科技巨头第一次旗帜鲜明地放弃人脸识别业务。

亚马逊宣布将会暂停向美国警方提供人脸识别服务,时间长达一年。

微软表示,在有监管面部识别技术的联邦法律出台之前,不会向警察部门出售这种技术。

图片来源:Washington Post

早在2011年,谷歌前CEO Eric Schmidt就曾公开表示:“人脸识别是谷歌唯一研发了,但决定暂停的技术。”

二、有钱不赚,科技公司是不是傻?

旧金山算得上是全球对科技包容性最高以,且科技最为发达的城市之一了。在2019年5月宣布全面禁止警察和其他政府机构使用人脸识别技术的时候,作为第一个禁止政府使用人脸识别技术的城市,引起了不小轰动。

当时颁布的条例中决定禁止全市包括旧金山警察局在内的53个部门使用人脸识别技术,该警局曾经在2013年~2017年进行了人脸识别相关技术测试。

但旧金山国际机场和旧金山港中由联邦政府控制的设施不再限制范围内,同时未禁止普通商家或居民使用人脸识别或监控技术(如监控摄像机)。此外,该条例也没有限制警察在刑事案件中使用个人的Google Nest camera监控视频。

说到人脸识别技术被抵制的原因,旧金山监督委员会官员Aaron Peskin向CNN表示:“我们大家都会支持良好的治安管理,但谁都不想生活在处处受监控的环境中。我认为旧金山有责任提出那些正对全世界产生影响且发生在人们身边的事情。”

图片来源:世面

如果你以为人脸识别是因隐私问题、害怕被监控而禁用,那只猜对了一半。

另一个重要原因——说出来更像是Black Lives Matter的影响——种族歧视问题。

波士顿市议会议员Michelle Wu和Ricardo Arroyo说,人脸识别对不同肤色的人存在歧视,识别白人男性的准确率要比有色人种女性高得多。

议会的文件中也提到,新讯人脸识别并不可靠,不可靠的原因很大程度上指的是准确率的问题,也无法满足波士顿警署的要求。

2015年,有黑人被谷歌的图像识别算法识别成了大猩猩。后来针对这个问题,谷歌干脆在分类中删掉了“大猩猩”这个标签。

图片来源:Twitter

经过几年发展之后,2018年Joy Buolamwini和Timnit Gebru的研究首次揭示了商业人脸识别系统的缺陷:人脸识别针对黑人女性的错误率高达21%~35%,而针对白人男性的错误率则低于1%。

图片来源:Bloomberg QuickTake Originals & MIT Media Lab

如果是在警用安保等场景下,后果可能会非常严重。

另一项研究发现,可能是因为使用RGB摄像头进行人脸识别时,深肤色人的人脸特征比较难找,尤其是在暗光条件下。此外,在一个被广泛使用的人脸识别数据库中,75%都是男性,同时80%是白人。

更有甚者,2019年年初,亚马逊的图像识别AI系统Rekognition曾将28名美国国会议员识别成了罪犯,让整个科技行业一片哗然。

图片来源:ACLU

Rekognition视觉识别技术是亚马逊在2016年推出的,最初是基于海量数据库进行物体识别,但很快就成为美国警方等执法部门用于扫描嫌疑人和非法移民的主要技术。

美国公民自由联盟(American Civil Liberties Union,ACLU)称人脸识别为“可能是有史以来最危险的监视技术”,并多次上书美国政府,要求亚马逊停止向警方提供其Rekognition人脸识别技术。

值得一提的是,2019 年,亚马逊在股东会议上就“停止向政府机构销售人脸识别技术”进行投票,结果显示,只有2.4%的股东同意这一销售禁令,所以投票没有通过。

不过当越来越多人意识到这项技术背后的隐患,社会舆论环境正在迫使这些科技公司做出改变。

4月份刚刚走马上任的IBM首席执行官克里希纳,近期就在致国会的信中说,必须对人脸识别和人工智能技术进行严格测试,以检查偏倚,并且必须对这些测试进行审核和报告。

“IBM坚决反对并且绝不容忍将任何技术(包括其他供应商提供的面部识别技术)用于大规模监视,种族貌相、侵犯基本人权和自由,或任何与我们的价值观、原则相抵触的场景。”他说。

图片来源:IBM

据CNBC报道,一位知情人士称,IBM此举迎合了当前美国社会对警察改革和种族平等的强烈呼声,同时也是一个在商业和道德双重影响下的重要决策。

在IBM退出人脸识别领域之后,亚马逊发布声明称,将暂停向警方提供其人脸识别技术(Rekognition)一年时间。同时,亚马逊也表示:“我们希望这项为期一年的禁令能给国会足够的时间来实施适当的规定,如果有请求,我们随时准备提供帮助。”

在亚马逊宣布的第二天,微软总裁Brad Smith在《华盛顿邮报》的采访中称,将不会向美国警方销售人脸识别技术,直到美国出台相关国家法律,能够监管这项技术。

此后,微软首席执行官萨蒂亚·纳德拉也发布了看法:“某些技术对社会具有潜在危险,如果滥用,政府应对其进行监管。”

同时,微软公司对外的声明是:当连人脸识别的制造者也因为这种监控技术太危险而拒绝出售时,立法者就不能再坚称对我们的权利和自由的没有威胁了。

图片来源:Microsoft

简单来说,正是基于隐私安全和种族歧视两大原因,才导致了越来越多的地方政府和科技公司对于人脸识别技术的弃用。

尽管这一禁令可能给硅谷的科技公司带来不小损失,但在问题得到解决之前,恐怕各方不会轻易放松对人脸识别的监管。

当然,社会针对人脸识别技术的禁令,不是禁止个人使用这项技术,更不是禁止这项技术的发展。我们用自己的脸解锁自己的iPhone,这完全不会受到限制。目前真正受到限制的,是权力机构(政府、警察等)以及商业公司对人脸识别技术的应用。

如果是政府或者警察使用这项技术在公共场所进行监控,那么公众很可能并不知道自己的脸正在被拍摄、扫描、分析、比对、纳入数据库,即便知道也不可能把人脸识别系统关掉。

限制权力机构使用人脸识别技术,更多是为了防止一个压迫性的监控国家的产生。

而科技公司作出限制,也是防止他们自身可能出于商业利益的追求,大规模地收集人脸数据,并且可能会在不经过消费者本人许可的情况下将这些数据出售、滥用。

三、交出自己的脸,我们会得到什么?

回到文章开篇提到的电视剧《全知》。

在微型无人机24小时监控下,从生理指标到行为模式,人们的每一个眼神、每一句话、每一个行为,都被摄像头记录在案。谁能掌握存储了所有影像资料的数据库,谁就拥有了上帝视角。

图片来源:Douban Moive

这样巨大的利益,如何能令人不动心?

剧情的设定,将科技作用下人性的异变展现得淋漓尽致。硅兔君在这里就不剧透啦。但这个虚拟故事的结局也在警示当下,当科技进步到一定程度后,如果庞大的能力掌握在怀有恶意的个人或机构手中时,将会带来无法想象的灾难。

相信这是大家都不愿意看到的。过去数年中,人脸识别是发展最快的新技术之一,不能否认这项技术在时代科技的迭代更新中起到的推动作用。

图片来源:英伟达GPU技术大会上展示的执法人脸识别系统

你看现在世界的每个角落——过境处、警车、体育场、机场和高中等等,那些高高悬在人群上空的摄像头。

人脸识别技术,可以帮助监管人员发现犯罪分子并防止身份欺诈,可以提高破案率、降低犯罪率,同时也可以帮助寻找失踪儿童。但这也不足以抵消人们对这项技术被滥用的担忧。

曾经有个机构做了一项调查:

你愿意用多少隐私,来换取工作和生活的便利?0是完全不泄露隐私,10是把所有隐私都交出去。调查结果是,绝大部分人都把隐私值设定在6左右。即人们倾向于放弃一部分隐私来获取便利性。

不过放到实际生活中,这真的能由我们自己掌控吗?科技的进步无法阻挡,只希望人脸识别技术商用的脚步能放慢一点点,立法和监管的脚步能再快一点,在善与恶之间找到一个平衡点。

作者:Amelie

0