点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:《人工智能安全治理框架》3.0版即将发布
首页> 网安频道 > 正文

《人工智能安全治理框架》3.0版即将发布

来源:光明网2026-09-01 16:13

光明网北京9月1日电(记者 李政葳 刘吉东)9月1日上午,2026年国家网络安全宣传周新闻发布会在北京举行。会上,中央网信办网络安全协调局副局长、一级巡视员王丽宏表示,当前,世界百年变局加速演进,以人工智能为代表的新一轮科技革命和产业变革正在席卷全球,互联网正全面迈入智能时代,深刻重塑网络安全体系和治理格局。统筹好发展与安全,加强人工智能安全治理,已经成为做好网络安全工作的重大时代命题。

近年来,中央网信办深入贯彻落实党中央各项决策部署,持续推进人工智能安全治理,重点开展了以下六方面的工作:

《人工智能安全治理框架》3.0版即将发布

一是提出《全球人工智能治理倡议》。《倡议》坚持以人为本、智能向善,从发展、安全、治理三个维度系统提出了中国主张,引导人工智能朝着有利于人类文明进步的方向发展,推动国际社会共同应对人工智能安全风险,为国际人工智能治理规则制定提供了重要蓝本。

二是制定实施《生成式人工智能服务管理暂行办法》。国家网信办联合相关部门制定出台《生成式人工智能服务管理暂行办法》,并于2023年8月15日正式实施。这是全球第一部生成式人工智能服务管理的官方法规。《办法》坚持发展和安全并重,本着促进创新和依法治理相结合的原则,把推进人工智能等新技术发展应用作为工作的重要出发点和落脚点,鼓励人工智能基础技术的自主创新和国际合作,对生成式人工智能服务实行包容审慎和分类分级监管。依据《办法》开展大模型备案工作。截至7月底,已备案大模型服务1028款,已登记大模型应用630余款,应用场景覆盖工业、农业、商业、教育、交通、法律等领域。

三是发布《人工智能安全治理框架》。落实《全球人工智能治理倡议》,中央网信办指导制定发布《人工智能安全治理框架》1.0版、2.0版。《框架》将分类分级、敏捷治理、共治共享等治理理念细化为可落地的实施方案;针对技术内生、技术应用、应用衍生三类安全风险明确对应治理措施,研究提出风险分级治理方案与可信人工智能基本准则。《框架》既包容审慎支持技术创新,也坚决守牢安全底线,为国内应用实践和全球协同治理提供了共识基础。今年,网安周期间将发布《人工智能安全治理框架》3.0版。

四是加快推进人工智能安全治理标准化工作。组织制定发布《生成式人工智能服务安全基本要求》《生成式人工智能预训练和优化训练数据安全规范》等国家标准,对大模型服务供给、训练数据使用等关键环节提出明确安全基线要求,充分发挥国家标准引领规范作用。发布《政务大模型应用安全规范》,明确模型选型、建设部署、运行等环节安全要求,指导政府部门安全使用人工智能。

五是持续发布高质量中文语料。组织建设中文互联网语料资源平台,筛选党政机关、重点新闻网站等权威来源数据,累计发布29个优质语料数据集,数据总量达3.0TB,包括3批正能量权威中文互联网基础语料数据集,为行业研究、大模型训练特别是价值观纠偏提供高质量的中文语料支撑。

六是大力推动人工智能赋能网络安全应用。连续三年组织开展人工智能技术赋能网络安全应用测试,围绕网络安全监测分析、大模型安全风险研判、重点行业安全防护等真实需求设计测试场景,遴选人工智能应用优秀产品和技术团队,推动人工智能技术在网络安全领域加快落地应用,持续提升重要行业领域网络安全防护水平。今年,将在网安周期间发布《2026年人工智能技术赋能网络安全应用测试结果》。

下一步,中央网信办坚持发展与安全并重,持续深化人工智能安全治理,确保人工智能安全、可靠、可控,让人工智能这匹千里马既跑得快、又跑得稳。


[ 责编:张晨昊 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 彭丽媛同埃及总统塞西夫人依缇萨尔茶叙并参观小型手工艺品展

  • 习近平抵达开罗对埃及进行国事访问

独家策划

推荐阅读
黄渤海伏季休渔期正式结束,沿海各地渔港千帆出海开启秋捕,海洋渔业生产有序推进。
2026-09-02 13:55
贵州黔西水稻迎来秋收,村民抢抓晴好天气收割,完善农业基础设施保障粮食安全。
2026-09-02 13:44
江苏宿迁苏宿工业园区打造“5分钟健身圈”,市民于晚霞之下休闲健身,乐享城市文体生活。
2026-09-02 13:40
甘肃临泽戈壁晒场上制种玉米晾晒正忙,金黄籽粒铺就戈壁种业丰收图景。
2026-09-02 13:35
贵州锦屏邮政无人配送车投入乡镇运行,完善县乡村物流网络,畅通山区城乡双向流通。
2026-09-02 13:28