智慧城市网

 

　　《生成式人工智能应用安全测试标准》
 

　　《生成式人工智能应用安全测试标准》由WDTA作为牵头单位编制。该标准为测试和验证生成式AI应用的安全性提供了一个框架，特别是那些使用大语言模型(LLM)构建的应用程序。它定义了人工智能应用程序架构每一层的测试和验证范围，包括基础模型选择、嵌入和矢量数据库、RAG或检索增强生成、AI应用运行时安全等等，确保AI应用各个方面都经过严格的安全性和合规性评估，保障其在整个生命周期内免受威胁和漏洞侵害。
 

　　《大语言模型安全测试方法》
 

　　《大语言模型安全测试方法》由蚂蚁集团作为牵头单位编制。该标准为大模型本身的安全性评估提供了一套全面、严谨且实操性强的结构性方案。它提出了大语言模型的安全风险分类、攻击的分类分级方法以及测试方法，并率先给出了四种不同攻击强度的攻击手法分类标准，提供了严格的评估指标和测试程序等，可解决大语言模型固有的复杂性，全面测试其抵御敌对攻击的能力，使开发人员和组织能够识别和缓解潜在漏洞，并最终提高使用大语言模型构建的人工智能系统的安全性和可靠性。
 

　　WDTA人工智能安全可信负责任工作组组长黄连金介绍，此次发布的标准汇集了全球人工智能安全领域的专家智慧，填补了大语言模型和生成式人工智能应用方面安全测试领域的空白，为业界提供了统一的测试框架和明确的测试方法，有助于提高人工智能系统安全性，促进技术负责任发展，增强公众信任。
 

　　世界数字技术院(WDTA)发布的《生成式人工智能应用安全测试标准》和《大语言模型安全测试方法》两项国际标准，对于智慧建设具有深远的影响和重大的意义。
 

　　1、统一和规范全球安全测试流程：这两项国际标准的发布，有助于统一和规范全球范围内生成式人工智能和大语言模型的安全测试流程和方法，确保这些先进技术的安全性和可靠性。在智慧建设中，大型模型的应用日益广泛，统一的安全测试标准可以确保不同国家和地区的智慧建设项目都能够采用相同的安全标准，提高整体的安全性能。
 

　　2、增强公众信任：通过明确的安全要求和测试方法，这两项标准可以有效地减少由于人工智能应用可能带来的安全风险，从而增强公众对智慧建设项目的信任度。在智慧城市建设、智能交通、智慧医疗等领域，公众对技术的安全性和隐私保护要求越来越高，国际标准的制定和实施有助于满足这些需求。
 

　　3、引导技术发展方向：这两项标准的制定和推广有助于引导人工智能技术的正确发展方向，在智慧建设中推动技术的伦理和法规遵从性。通过严格评估人工智能产品和服务的安全性，可以防止技术的滥用和误用，保障用户的权益，推动智慧建设朝着更加安全、可靠、可持续的方向发展。
 

　　4、促进国际合作与交流：国际标准的发布有助于促进全球范围内人工智能技术的合作与交流，推动智慧建设的国际合作项目顺利进行。通过共同遵循国际标准，不同国家和地区的智慧建设项目可以更好地实现技术对接和数据共享，提高整体的建设效率和质量。
 

　　目前，国内在大模型安全领域也出台了一系列的标准和要求，旨在规范大型模型的研发、应用和管理过程，确保其安全性、稳定性和可靠性。这些标准通常涵盖了模型的质量管理、安全性保障、数据保护、可靠性评估以及性能要求等方面。无论是国际还是国内标准都将推动智慧建设领域的技术创新和发展，提高项目的安全性和可靠性，为公众带来更加安全、便捷、高效的智慧生活体验。