“视频对面的你爸到底是不是你爸?”AI换脸没有告诉你的……
- 来源:CPS中安网
- 2024/4/1 9:06:4935145
【智慧城市网 企业关注】技术的发展历来就是双刃剑。
特别是在算力、算法、数据三要素大幅提升的前提下,生成式人工智能逐步迈进3.0时代,在文化、教育、娱乐、媒体、设计、科研、广告等多个业务场景产生深远的影响。
与此同时,生成式人工智能带来的技术滥用、虚假信息传播、个人信息权益被侵害、数据泄露或偏见歧视等安全问题也越来越凸显。
特别是,不久前,3·15曝光的“AI换脸”诈骗成为关注的焦点,技术的发展和普及模糊了真实和虚拟的界限,也滋生了不少破坏AI安全性和伦理性的因素。
在虚与实、真与伪之间,AI技术将走向何方?
技术成熟
追本溯源,生成式人工智能技术的不断进步,也意味着深度伪造相关技术也越来越成熟。
据了解,深度伪造技术被称作“生成式对抗网络”(GAN)的机器学习模型将图片或视频合成并叠加到源图片或视频。
近年来,由于深度伪造开源技术的开源流通与国内外各大应用程序的发行,深度伪造的技术门槛越来越低,也使得AI换脸、拟声等技术广泛应用。
与此同时,深度伪造制作的原材料是个人音频、图片、视频,这些数据越多,训练出的视频也就越逼真、越难以鉴别。
辨别真伪
此前,央视 315 晚会在其保留项目“信息安全实验室”中,穿插了一段对“AI诈骗”的科普,通过3个真实案件详细揭示了AI换脸、AI换声诈骗的手法,引发了广泛关注。
而据长期关注AI安全的瑞莱智慧的不完全统计,AI诈骗案件数量在近年来快速增长,仅2023年一年在全国已发生至少16起。
众所周知,AI发展的三驾马车“算法、算力、数据”,数据尤为重要,其安全性则是重中之重。
随着人工智能技术的广泛应用,诈骗的精准性、迷惑性和隐蔽性都在增加。这为公安、检察等执法机关在侦查、收集电子证据以及认定和处理案件方面带来了新的挑战和困难。
由于深度合成内容越发逼真,采用技术手段进行鉴别的解决方案也随之出现。据业内人士介绍,常用的方法包括基于伪造内容数据集完成对模型检测器的训练、基于帧间不一致性实现对伪造内容的判别等。
因而,深度伪造技术越来越成熟的同时,也需要不断加强反深度伪造技术的迭代更新,更需要监管层面的不断约束,助力更安全可信的AI技术环境的发展。
技术监管
在AI技术赋能千行百业的同时,暴露的个人隐私安全、信息安全等层出不穷。
为此,监管层面也陆续推出了不少应对策略。
2023年7月,国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局发布《生成式人工智能服务管理暂行办法》中指出,服务提供者应当对图片、视频等生成内容进行标识。
目前,如抖音、B站等视频平台都已上线了相关提示功能,在有AI参与制作的视频内容下都出现了“疑似AI生成”的提示。
2024年2月,全国网络安全标准化技术委员会发布了技术文件TC260-003《生成式人工智能服务安全基本要求》,提出了服务提供者需遵循的安全基本要求,包括语料安全、模型安全、安全措施、安全评估等,并给出了适用范围。
总体而言,《基本要求》的发布将有助于建立更安全、透明和有序的生成式人工智能服务生态系统。
结语:
不久前,看到一个消息,AI还原朝元图百年前的色彩,不仅还原了八百年前的数据真相,也修复了朝元图近千年来所遭遇的变色、褪色、破损、裂纹、污染等。
在古法修复壁画的技艺面临后继无人的窘境之下,AI 技术可以短时间内完成任务,体现了科技对文化遗产的守护和传承。
综上来看,AI技术的双刃剑效应凸显,在助力于文化、教育、科研等领域的深度赋能之外,也滋生了不少罪恶的温床。
总结来说,AI换脸技术在为我们带来便利的同时,也引发了一系列伦理问题。为了确保技术的健康发展,需要加大监管力度,对AI技术的研发和应用进行严格的审查和监督,确保技术的健康发展。同时,可以研发更加先进的AI识别技术,对生成的虚假信息进行实时检测和过滤等等。