据2024年8月5日美国国家标准化机构（ANSI）官网报道，美国商务部下属的美国国家标准与技术研究院（NIST）最近发布了一套新的人工智能（AI）安全指南和软件，旨在提高其安全性、保障性和可信度。NIST提供了一个新的软件包，旨在帮助AI开发者和用户判断AI软件在面对多种对抗性攻击时的表现。这套开源软件是对关于安全和可信赖地开发与使用人工智能的行政命令的响应，帮助社区、政府机构和中小型企业，进行评估以验证AI开发者对其系统性能的声明。此外，NIST还发布了三份最终版的指导文件：

• 《全球参与AI标准计划》（NIST AI 100-5）旨在推动全球AI相关共识标准的开发和实施，促进合作与协调以及信息共享；

• 《AI风险管理框架生成式AI配置文件》（NIST AI 600-1）能够协助组织识别生成式AI带来的独特风险，并提出与组织目标和优先级最匹配的生成式AI风险管理行动；

• 《生成式AI及双重用途基础模型的保障软件开发实践》（NIST特别出版物SP 800-218A）涵盖了AI系统训练和使用方面的内容，识别了潜在的风险因素并提出了应对策略。

NIST的美国AI安全研究所发布的草案《管理双重用途基础模型的滥用风险》（NIST AI 800-1），概述了基础模型开发者如何自愿采用最佳实践，保护他们的系统不被恶意利用，从而对个人、公共安全和国家安全造成故意伤害。NIST正在接受公众对初步草案的意见，截止日期为9月4日。

美国商务部标准和技术副部长兼NIST主任 Laurie E. Locascio表示，“尽管生成式AI具有潜在的变革性益处，但也带来了与传统软件显著不同的风险。这些指导文件和测试平台将让软件创造者了解这些独特的风险，并帮助他们开发出缓解风险的方法，同时支持创新。”

美洲标准化(上海)研究中心