一、研究背景 人工智能是上海重点发展的三大先导产业之一，受限于人工智能自身的技术特性，可信成为确保国家和产业安全可靠可控的大势所趋。本项目结合当前可信人工智能实践和未来进展趋势，可信人工智能是从技术和工程实践的角度，落实伦理治理要求，实现创新发展和风险治理的有效平衡，提出构建上海市可信人工智能标准化体系、建设更具国际影响力人工智能产业高地的对策建议。 二、研究内容 （一）国内外可信人工智能标准建设现状 自2017年以来，国际标准化组织及各国政府陆续布局可信人工智能标准。ISO/IEC、IEEE、ITU-T、ETSI等全球知名人工智能标准组织通过下设人工智能工作组，从隐私安全、稳定性、可解释、风险评估、场景应用等角度出发，完善可信人工智能标准体系。国际标准化组织和国际电工委员会第一联合技术委员会（ISO/IEC JTC 1）重点围绕人工智能基础共性、关键通用技术、可信及伦理方面开展标准研制。截止2022年4月底，SC 42共发布11项标准，计划或在研26项，其中涉及可信人工智能共13项。电气和电子工程师协会（IEEE）是较早关注并开展人工智能伦理研究的国际标准组织，设立多个工作组从道德规范、技术伦理、职业道德等多维度开展P7000系列标准，并部署P2894、P2247等体系架构、设计伦理相关项目。国际电信联盟电信标准化部门（ITU-T）下设SG17工作组将人工智能安全视为重要工作方向，致力于相关隐私安全标准。我国在可信人工智能标准建设总体呈现“科研院所主导，企业社会团体百花齐放”的标准研究局面；标准内容覆盖隐私安全、稳定性、鲁棒性等维度及金融、医疗等领域；标准类型上囊括国际标准、国家标准、行业标准等多种类型。以上海、浙江为代表的省市成立人工智能地标委，针对隐私安全、稳定性、公平性等领域开展标准研制。在伦理及相关重点应用场景，我国更多通过发布指南性文件为组织或个人开展人工智能活动提供指引，后续需加强相关研究工作，推动指南性文件向标准规范转变。 （二）国内外可信人工智能标准比对分析 国内外可信人工智能研究模式差异较大。国外采用自上而下的发展模式，由面到点从对可信人工智能总体架构进行定义延展到对可信人工智能特性的评估及对行业、伦理等领域的标准规范；我国更倾向于自下而上的发展模式，由点到面，专注于机器学习、人脸安全等技术点，但尚未形成可信人工智能标准体系一张“面”。虽然我国可信人工智能标准涵盖领域相对全面，然而分布不甚合理：参考架构等基础共性标准相对偏少；伦理道德标准进展缓慢，供给不足；部分核心产品与服务及行业重点应用的国家和行业标准缺失。 （三）上海市可信人工智能标准化发展现状 上海可信人工智能标准工作进展相对较快，参与力量多元化，逐步构建以人脸安全标准为核心的上海可信人工智能标准体系，但仍然存在以下短板：一是标准涵盖领域不足，标准制定方面尚处于跟跑地位。当前上海市主要聚焦于人脸安全、智慧医疗应用，在基础理论、关键技术、性能测试、行业应用上研究相对滞后。上海标准制定上未形成与上海市人工智能技术及应用发展水平相匹配的影响力，导致上海市目前在可信人工智能标准制定方面尚处于“跟跑”地位。二是标准制定参与不足，参与制定标准积极性和力度不够。一方面，虽然上海承担国际标准化技术组织ISO/IEC多个秘书处，且在沪有800多名注册专家，但上海牵头国际标准制修订工作较少。另一方面，多数企业采取保底线策略制定标准，参与度与贡献度较低，可能也与企业缺乏标准制定相关渠道及标准人才、缺乏标准研制资金支持有关。三是标准治理软硬不明，隐私安全问题频发呼唤刚性立法。仅靠标准“软法之治”难以解决可信实践落地，围绕重点领域，尤其是在无人驾驶、人脸识别、智慧医疗等关系重大的应用场景，更应对人工智能可能产生的社会影响进行深度分析，构筑“软硬法混合治理”体系。 三、上海市可信人工智能标准建设发展建议 （一）着眼顶层设计，优先采信可信人工智能 建议在政策层面对可信产品优先采信，建议市场监督管理局加强对人工智能可信产品研究，加快建立相关可信人工智能技术标准、知识产权、风险评估、测试认证、安全监管体系，打造上海可信人工智能标志性品牌。支持第三方机构建设可信人工智能评测平台、实验室，加强对相关资质与能力的培育，简化申请流程，加快打造符合本市产业需求的评测生态。 （二）聚焦重点领域，完善可信人工智能标准体系 按照“急用先行、成熟先上”的原则，开展算法安全、数据保护等行业应用重点急需标准的研制；结合上海智慧医疗、智能制造等特色产业，形成一批符合上海实际的特色地方标准；三是前瞻布局人工智能可信评测、公平正义等标准研制工作，围绕各领域人工智能应用风险管理加强标准研究，鼓励基于新标准的人工智能产品市场监管新模式，建设统一的人工智能产品质量评估检测体系与平台，强化公平公正管理。 （三）加强国际交流，打造国际标准高地 依托上海地标委，为在沪企业科研机构提供国际标准组织对接渠道，加强国际标准参与力度；设置固定团队，跟踪可信人工智能国际标准进展，提升立项成功率；积极承办可信人工智能相关国际论坛及会议，推动全球多边合作。 （四）推动立法监管，构筑软硬治理模式 针对数据安全、隐私保护、伦理道德等领域，建立全新的治理模式，推动法律法规标准规范落地；针对智慧交通、人脸识别、智慧医疗等关系重大的场景，组合性配置准用性规范，构筑“基础性立法+多项标准”的“软硬法混合治理”体系。 （五）推进区域协同，搭建可信人工智能生态平台 重点选取人工智能产业集聚区、人工智能创新发展试验区，开展标准应用示范。深化长三角一体化可信人工智能标准工作机制，推动区域间标准交流合作。鼓励行业组织围绕可信人工智能领域搭建专门平台，共同建设可信人工智能生态环境。
| 
