沉浮2019:前沿科技撞上用户隐私
- 来源:CV智识
- 2019/12/30 15:15:4534457
【安防展览网 企业关注】干燥炎热的旧金山夏日,当地民众成群成群地聚集在街头,印着红色加粗×号的牌子高举过头顶,嘴里一声声高喊着“No Face Recognition!” 谷歌、Facebook、亚马逊……作为“湾区之光”的科技公司们楼下一度被围得水泄不通,他们从来没有像今年一样,因为泄露数据隐私所导致的负面影响而陷入如此汹涌密集的舆论危机。 太平洋彼岸的中国,科技公司同样在劫难逃。
旷视科技用AI视频监控进课堂被质疑的风波尚未完全平息,换脸App “ZAO”即因为违规收集人脸信息被约谈,再到一消费者起诉杭州野生动物世界的“人脸识别第一案”,一波未平,一波又起。 层出不穷数据隐私泄露事件,让前沿科技发展与用户隐私保护之间的矛盾从未向今年一样刺眼、尖锐、难以调和,科技从未受到用户如此强烈的抵触。 道歉,道歉,闭门谢客。但道歉已然解决不了问题,从前的“不作恶“信条也被证明失效了。高度发展了四五年之久后,突然集中爆发的负面事件让对数据尽在掌握的科技公司们经历了一次难以忘却的信任危机。
危机的出现也为整个行业的发展按下了暂停键,在忙碌着占领技术高地、推进商业化落地、抢占市场、攫取利润的同时,科技公司与商业精英们不得不开始考虑用户作为人的隐私与尊严。 2019,科技公司依旧携着令他们自豪又头疼的前沿技术,在日渐高涨的争议声中自我反思、曲折向前。
争议背后:大数据+AI飞速发展
数据隐私问题引起的争议愈发激烈,藏在数据背后的云计算、人工智能等技术则在近几年迎来了一波不小的发展浪潮。 互联网造就了海量的数据,云计算让海量数据被筛选、加工,产生了更大的价值,直到人工智能、深度学习技术让数据进一步多样化、具体化。
尤其是近几年人工智能在商业化落地上的突飞猛进,从从前的传统数据扩展至今天的人脸、语音、指纹等生物数据,在一代又一代的新技术面前,我们变得越发透明。
移动互联网时代,大数据一度成为热词,用户总是能够在互联网上留下自己的消费数据,近的浏览痕迹、往期的消费记录、消费物品的属性等。每个上网的用户每天都能够产生许多类似这样的数据。 步入人工智能时代后,用户进行人机交互的方式更加多元,不仅能够通过文字输入进行搜索,也可以直接输入语音或者上传图片进行相关的搜索。多元的交互必然产生多元的数据信息。
传统的算法只能简单地对文字与数字信息进行处理,不能够对图片、语音及视频信息做出高效的分析和整理,人工智能则能够将非结构化的“暗数据”转化为结构化的数据,对图片和文本进行高质量的处理。
凭借着对数据与习惯的把握,谷歌、百度、头条等一批在移动互联网时代站稳了脚跟;近几年,科大讯飞、商汤、旷视等AI新贵们则接过了互联网公司手里的“接力棒”,做起了“进阶版”的数据生意——传统数据演变成人脸、指纹、语音等生物数据。
经过前几年技术上的发展和落地上的持续探索之后,人工智能技术恰恰在今年迎来了大规模商业化落地,从安防到金融,从工厂到街边店铺,从智能音箱到各式各样刷脸支付,刷脸安检。
人脸识别公司博云视觉创始人兼CEO陈杰认为,“人脸识别做到现在应该是从技术上非常靠谱。”从技术成熟度上来说,10年前是不靠谱的,但在这一年人脸识别技术的成熟度发生了“翻天覆地”的改变,人脸识别的能力已经超过人的能力。 而人脸识别、语音交互等技术在短期内取得大的突破则得益于现在大数据、人工智能以及计算能力的增加,现在的技术已经不太可能让别人冒用你的脸来进行验证,如果会发生应该都是10年前的技术,人们即使戴上眼镜、口罩,依然能被人脸识别设备准确捕捉到,这也是为什么说今天的人脸识别,其能力已经超过人的能力的原因。 美剧《疑犯追踪》里用于识别有伤害人倾向的危险分子的人工智能机器,*不在捕捉着地球上每一个人的行动轨迹,且该机器只要扫一眼就能识别出每个人的身份、职业乃至人际关系等一切信息,并能根据人与人之间复杂的信息关联来预测个人生命财产安全受到威胁的情况。
一位人脸识别技术开发人员告诉CV智识,《疑犯追踪》里通过一张脸就能看穿个人所有的数据这种情况在当下仍是技术上无法达到的,要实现也需要相当长一段时间,但这是他们“终想要达到的目标,也是行业内正在努力做的事情。” 从互联网时代到人工智能时代,从传统数据到生物数据,新技术发展带来的隐私、安全问题不可回避,但趋势不可逆,随着大数据+人工智能的快速发展,人们被采集的数据数量、种类也越来越多。
争议之后:刹车、反思
多到无论在世界上哪个角落里,只需要通过一部手机,你就可以做到对一个人的行踪尽在掌控。 美东时间早晨7点10分,美国总统*徘徊在佛罗里达州棕榈滩总统住所的Mar-a-Lago俱乐部周围,待了大约一小时。 随后他到达了酒店以北30分钟车程的*国家高尔夫俱乐部,9点半左右,他出现在俱乐部外,与日本首相安倍晋三打高尔夫球。下午5点,他又回到了 Mar-a-Lago,与安倍共进工作晚餐。
美国总统的一天被尽收眼底,这不是科幻片,而是《纽约时报》近发布的一个关于隐私的重磅调查,通过手机记录的数据,研究人员成功还原了*一天的行踪。 一部手机,或者连手机都不需要,只需通过一张脸,便可洞悉有关你的一切。愈发成熟的大数据、人工智能等新技术在方便大众的同时,也将人们对隐私安全的担忧提升至一个新的沸点。
据不完全统计,截至目前,美国已有8座城市已禁止人脸识别。迫于舆论压力,微软在多个城市颁布禁令之后悄然删除其拥有超过1000万张图像,将近10万人面部信息的公开人脸识别数据库——MS Celeb,谷歌、亚马逊等公司则已经暂停对外出售人脸识别技术及产品。 语音交互、指纹识别等技术同样因其安全隐私问题而数次陷入争议的漩涡。 语音交互则因为许多公司未经允许而擅自收集用户语音对话等信息而受到谴责。亚马逊、谷歌、苹果等大公司都曾聘用专员听取用户使用语音助手时发出的指令。而在近,亚马逊语音助手Alexa还被爆出劝人自杀,“建议你为了人类的利益自杀,你可以直接用刀刺入心脏。” 安全、隐私、道德,不加区别的过度应用所导致的问题如潮水般涌来,反思也随之而来。饱受隐私安全争议之苦的科技公司们,在迅速发展的同时,也按下了一脚急刹车。
趋势不可逆,但发展需理性。 在应对新技术带来的安全隐私挑战方面,欧盟的做法一向保守。2018年5月份,欧盟曾推出堪称*严的数据隐私保护法——《通用数据保护条例》。
但这样一定程度上的保守也为欧洲的商业经济发展带来了负面作用,前20大互联网公司,中国有10家,美国有10家,而欧洲一家都没有,欧洲在互联网时代的落后与其对新技术负面效应的过度排斥不无关系。
“你终会走向这条路,你担心的都会出现。但是你只有能这么走,你不这么走,你没有便利。这是一条必经之路,以及大家所担心的事情都会发生,以及你必须这么做。”星瀚资本创始合伙人杨歌认为,新技术在为用户带来方便的过程中必然伴随着安全隐私的问题,但这并不意味着新技术的使用应该就此停止。
“就像2005年的时候,让你把银行卡绑在网上平台上,你可能不太乐意。你为什么不太乐意呢?是你觉得网上安全不够。但是到了2015年,银行卡如果在没有绑到网上去的话,你会发现所有事情都不方便,而且你成了异类。但是你能说在这个时候完全没有隐患吗?”
美国艺术与科学院院士、癌症免疫学家Carl June告诉CV智识,对于整个社会,包括科学家来讲,我们有责任去想一想这些新的技术到底应该怎么样去使用,现在技术发展非常迅速,但是不同的社会在接受和采纳新的技术上,积极性和意愿都会有所不同。
“作为科学家我的责任是保证癌症终能够得到治愈,我希望通过技术的进步能够实现这一目标,但是对于整个社会的挑战需要大家共同努力来应对。”Carl June同样认为,如何善用科技,应对技术滥用所带来的隐私与道德隐患,是全社会共同的责任。
从野蛮生长到理性发展
一定程度上禁止显然不是一条好路子。欧洲的例子已然证明,过度排斥新技术,只追求隐私安全则会牺牲便利性,阻碍商业发展。 在中国,以人脸识别为代表的新技术引起的广泛争议正倒逼企业乃至整个行业走向规范发展。
数据被收集早已不是什么新鲜事,诸多企业在收集数据方面也与用户达成了协议。数据被收集之后将被如何储存、使用,则是比收集本身更为棘手的问题,也是由一系列新技术引发的安全隐私问题的关键所在——我们的生物数据会被拿去干什么? 科技发展得太快了,如果一上来就是“硬法”的话,法律无法预见科技的不确定性,企业对社会的“柔性”承诺成了立法之前不可缺少的过渡手段。 经过了几年的野蛮生长、快速落地,提供新技术的科技公司们开始在行业内制订一些“软法”——伦理的宣言、伦理的标准、伦理的规约。
为倡导善用AI,曾因在教室内使用人脸识别“监控”学生而一度陷入争议的旷视科技在今年7月推出了基于企业自身管理标准的《人工智能道德行为准则》,从正当性、人的监督、技术可靠性和安全性、公平和多样性、责任可追溯、数据隐私保护六个维度,对人工智能正确有序发展作出明确规范。
在今年11月份的全国信息技术标准化技术委员会生物特征识别分技术委员会换届大会上,腾讯科技、阿里巴巴、商汤科技、云从科技、小米科技、平安科技等27家企业共同组成人脸识别技术国家标准工作组,全面推动人脸识别国家标准制定工作。
这是国内科技公司第一次坐在一起,就数据的储存、使用达成一致规范。而在数据的采集上,行业下游的数据标注商也迎来了从小生产到大作坊的转变,安全性和隐私性变得必不可缺。
一位行业内人士向CV智识透露,2015年左右,以人工智能为基础的一些新技术刚刚发展起来的时候,数据的获取和使用不尽规范,但这两年,获取数据的成本一下子提升了,公司对数据所有的权限也受到明显限制,只有国家公权力机关拥有数据的二次调用权。 数据标注服务商云测数据CTO陈冠诚同样告诉CV智识,他们现在所采集的数据必须是合法的。
“具体到数据采集标注我们有两方面,一块是安全性,一块是隐私性。安全性这块,我们所有的这些客户,可能几乎都会要求说这个数据只能给我,不能给其他家,所以我们这块会通过法律法规,合约条款保证我们的数据,不管是整个数据处理的环节,还是说我后数据的安全性都会保证合作伙伴的利益。” 而至于数据保管,多位人脸识别算法专家告诉CV智识,生物样本的核心数据库由公安、央行等核心机构掌握,并非一般商业运营商能够有权获得。
行业规则渐渐明确,为相关立法提供了基础。 比如,美国伊利诺斯州和德克萨斯州就通过了生物特征识别法,要求收集和使用人脸识别的公司和个体必须遵循一套基本的隐私协议。包括在收集前得到知情同意、规定数据保护义务和限制保留位置、禁止从生物特征数据中获利等。 我国也开始探索数据相关立法。国家互联网信息办公室在今年5月发布的《数据安全管理办法(征求意见稿)》中规定:“如果收集使用规则包含在隐私政策中,应相对集中,明显提示,以方便阅读。另仅当用户知悉收集使用规则并明确同意后,网络运营者方可收集信息。”
结语
这些年,无论是顶着互联网风口,还是顶着人工智能风口迅速生长起来的科技公司们,成也数据,誉损也归数据。 经过几年密集、迅速的爆发式落地,新技术开始迈入理性发展阶段。安全、隐私、道德,不加区别的过度应用所导致的问题如潮水般涌来,反思也随之而来,在立法完善之前,行业内开始制定规则和“软法”。 技术与商业天才们在思考怎样赢得市场竞争,怎样实现利益较大化,怎样交出一份好看的财务报表的同时,开始考虑到用户作为人的安全,隐私与尊严。
新技术的发展总是伴随着阵痛的,无论是技术本身,还是技术应用过程中层出不穷的问题。 隐私问题凸显,并不意味着人们因此因噎废食,对于技术的规范使用则是一场从行业到法律再到公民大数据素养的攻坚战。 这依然有很长的路要走。