智慧城市网

 

　　为此，迫切需要针对这类生成文本的智能检测识别技术和产品，提升监管部门对内容安全治理的能力。
 

　　日前，为规范深度合成服务，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》）。《规定》通过系统性、创新性制度设计，首次回应了对深度合成服务的管理要求，为互联网信息服务深度合成的规范发展提供了基本遵循和合法依据。(点击此处了解《规定》详情)
 

　　4月11日，为促进生成式人工智能技术健康发展和规范应用，根据《中华人民共和国网络安全法》等法律法规，国家互联网信息办公室起草了《生成式人工智能服务管理办法（征求意见稿）》（以下简称：《意见稿》）【文件请点击资料下载】。生成式人工智能服务的提供者将迎来更加严格的监管。
 

　　《意见稿》指出：国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。
 

　　同时《意见稿》拟规定，提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定，要求用户提供真实身份信息。利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。
 

　　阻止AI滥用，防止AI作恶，在充分发挥政府监管职能的同时，也需科技企业发挥技术能力，用“魔法”打败“魔法”。
 

　　作为国内电子数据取证行业龙头和公共安全大数据领先企业、网络空间安全与社会治理领域国家队，美亚柏科2017年成立AI研发中心，深度开展人工智能技术研究。为了应对利用人工智能技术可能带来的安全问题，2019年针对深度合成技术又特别成立专项研究团队(下称“专项团队”)。
 

　　专项团队通过对深度合成和生成式AI技术的深入研究以及在人工智能安全方向的经验积累，自主研发深度伪造视频图像检测鉴定的核心引擎，打造出一系列视频图像检测鉴定的一体化智能装备“AI-3300慧眼视频图像鉴真工作站”等。
 

　　与此同时，公司基于在电子数据取证和公共安全大数据多年的行业积累，已研究推出针对人工智能（如ChatGPT）生成文本内容的检测工具，中文生成文本检测的准确率超过90%。
 

　　未来，美亚柏科将继续聚焦生成式人工智能和AI生成内容的检测识别技术，踔厉奋发，持续发力，按照《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理办法》的管理要求，针对深度合成文本、视频、图像的检测鉴定技术、生成式人工智能技术、人工智能安全取证技术等方面的应用需求，不断打磨推出更为安全、可信、可靠的人工智能技术产品，为维护和保障人工智能的健康发展和规范应用贡献力量！