科技亦是双刃剑 为何美国多地将禁用人脸识别技术
- 来源:智安物联网 作者:缙霄
- 2019/5/5 8:55:1846384
【安防展览网 新闻】人脸识别技术正在突飞猛进,在它先兴起的地方,一些人已经警惕起来。
人脸识别是当下人工智能的热门领域之一。但对于人脸识别是否应该用于执法,美国正处于立法争议阶段,部分地方政府对人脸识别技术展现出了谨慎和排斥的倾向。有报道称,旧金山或将成为美国个禁止人脸识别的城市。
今年1月,旧金山提出了一项关于监视技术的行政法规——《停止秘密监视条例》。针对人脸识别技术,该条例特别指出。如果该提案通过,旧金山将成为美国个禁止政府使用人脸识别技术的城市,并将对政府部门购买和使用监控技术加以监督。
该提案声称,人脸识别技术所带来的威胁已经“大大超过了它所宣称的好处”。该提案受到了包括美国公民自由联盟(ACLU)等公民团体的支持。
需要指出的是,旧金山对人脸识别的禁止,并不是全城区域内禁止,只是对政府利用人脸识别技术的一定程度上的限制。至于商业上的应用,比如手机刷脸支付,则并不在此之列。
而美国公民自由协会曾用美国国会议员的照片,对亚马逊公司的人脸识别系统Rekognition进行了测试,结果是,系统将28位议员错误地识别为涉嫌*的被捕者。美国公民自由协会怀疑系统存在种族歧视,因为在测试中,被错误识别者中约40%是有色人种,但有色人种只占国会议席的20%。
同时麻省理工学院对于微软、Facebook、IBM等公司人脸识别系统的测试也表明,系统在检测肤色较深的女性时,出错率要比检测肤色较浅的男性高出35%。这将强化社会对于少数族裔与边缘群体的偏见。
导致这种错误发生在用于训练识别算法的人脸里,男性和白人面孔占了大多数。一般来说,人脸识别的准确度与喂食算法的人脸数量和多元性成正比。技术无偏见,技术的偏见源于人类的偏见和不加纠正的利用。
就目前来看,如果不对面部识别加以限制和监管,它对于隐私与自由的威胁远比想象的要多。面部识别主要依赖的是人的面部信息,而这是具有性特征的生物信息,类似信息包括指纹、虹膜,一旦泄露将是终身泄露。何况面部识别训练的背后,也隐藏着许多的“肮脏的小秘密”,例如我们的照片在未经允许的情况下被用于训练人脸识别系统,而这个系统终可能被出售或用于监视。
据NBC报道,IBM从Flickr网站上抓取了近100万张照片用于训练人脸识别算法,包括一些摄影师拍摄的人脸图像以及自拍照,但他们对此毫不知情,其中一位奥地利摄影师有超过700张照片被用于研究面部识别技术。据CNN、NBC报道,类似的公司也常从Flickr、Instagram、YouTube、Facebook、Google等网站以及图片库,免费抓取人脸图像以喂食算法系统。这些训练并不仅仅是学术研究,终会被拿来*。
这种未经许可的行为在伊利诺伊州是违法的,但该州只是通过一项《生物识别信息隐私法》来限制人脸识别技术对公民隐私的侵犯,规定获取生物识别数据的任何个人、公司或组织必须首先获得用户签名(例如,通过在屏幕上单击“我同意”)。许多其他州已经或正在考虑自己的生物识别法律,但是目前只有德克萨斯州和华盛顿州制定了类似的法律。
不可否认,人脸识别技术为警方侦破案件提供了巨大的帮助。但在法律对技术做出规范之前,应该避免技术被滥用。人脸识别技术的批评者认为,即便是政府,也不应在没有明确的监督体系的情况下使用监控技术。
由此可见,在我们享受科技进步所带来红利背后,相关法律法规也应根据技术发展现状和趋势及时跟进,以适应社会发展的要求。而如果对新技术理解出现偏差,急躁立法也会打压新技术的进步。如何在技术进步和现实应对之间取得平衡,无疑对相关立法提出了巨大挑战。
一项新技术得以蓬勃发展,必定是因为有需求。近几十年来,新技术发展日新月异,改造着人类生活的方方面面。在新技术的应用中,必然会带来一些新问题,但单纯的禁止是因噎废食,正确的做法是,用客观、理性、发展、审慎的态度,针对具体情况进行公开的、广泛的具体分析,从而做到趋利避害。