点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:探索建立促进人工智能向善机制
首页> 网安频道> 要闻 > 正文

探索建立促进人工智能向善机制

来源:光明日报2025-10-24 09:50

  人工智能技术作为引领新一轮科技革命和产业变革的通用性技术,正在深刻改变着全球经济格局、人类生产生活方式乃至国家治理模式。2025年8月,国务院印发《关于深入实施“人工智能+”行动的意见》,提出要“探索形成智能向善理论体系”。促进人工智能向善,关键是要建立制约机制,引导和规范人工智能技术的研发与应用,确保人工智能造福人类。

  以服务人类为宗旨,探索建立人工智能伦理新范式

  增进社会福祉是技术发展的根本归宿。近年来,人工智能技术呈爆发式发展态势,从智能语音助手到智能驾驶系统,从医疗影像诊断到金融风险预测,人工智能已广泛渗透至社会的各个领域,为越来越多的人所熟悉和使用。人工智能带来前所未有的发展机遇,也带来前所未遇的风险挑战。应加快探索建立人工智能伦理新范式,确保人工智能安全可靠,符合人类共同利益。

  科技以人为本,人工智能应以服务人类为宗旨,将人的需求和利益放在首位。建立人工智能伦理规范机制,要以保障人类根本利益为出发点,对人工智能技术的社会影响进行评估,确立人工智能研发与应用的伦理准则,明确人工智能技术应当遵循的道德规范,引导其朝着符合人类价值观的方向发展。实现技术普惠,托稳社会底线,保障不同群体在人工智能技术应用中的平等权利,避免因算法偏见、数据歧视等问题导致的不公平现象。

  马克思主义认为人具有主观能动性,科技只是人认识自然、改造自然的工具,起决定性作用的是人,而不是工具。人工智能本质上是一种智能化的工具,人类需要认清人工智能的工具属性,合理使用人工智能,将之用于提高生产力,为人类谋福祉。因此,人工智能技术的发展应确保安全可控,保障系统的可靠性、稳定性和安全性。可根据人工智能系统的风险等级,实施不同程度的监管和伦理审查,避免“一刀切”扼杀创新。推动建立“沙盒监管”模式,允许在可控的真实世界环境中测试创新技术及其伦理框架,并根据结果快速调整政策。建立人工智能系统的“生命周期注册制”,在人工智能部署后持续监控其表现,实施有效的反馈和召回机制,及时解决所暴露出的伦理问题、修补技术漏洞。

  以安全可控为锚点,健全人工智能法律监管体系

  人工智能技术的迅猛发展也带来了诸多风险与挑战,如伪造生成他人信息、数据隐私泄露、算法歧视、侵犯知识产权等。亟须探索构建一个科学、有效、具有前瞻性的人工智能法律监管体系,确保人工智能健康、有序、安全发展,充分发挥其积极作用。

  目前,我国已出台网络安全法、数据安全法、个人信息保护法等相关法律,对人工智能发展涉及的部分领域有所规范,但面对人工智能技术的快速迭代与复杂应用场景,现有法律监管体系仍存在空白与不足。可制定专门的人工智能法律,明确人工智能技术研发者、使用者、运营者等各主体的权利、义务与责任,以及违法行为的界定、法律责任的承担、赔偿机制、监管机制等。例如,针对人工智能生成技术,明确数据收集、技术合规使用、显著位置标注等要求,防范生成技术被滥用;针对人工智能算法,完善算法公开机制,以此避免算法歧视,确保决策的公平性与可解释性;明确人工智能产品造成损害时的责任归属,无论是因技术缺陷还是应用不当导致的损害,相关主体都应依法承担相应责任。

  健全人工智能法律监管体系,规范动态风险分级与容错机制。可引入适应性治理理念,遵循包容审慎的原则,针对技术发展的不确定性与未知前景,采取兼容并蓄的灵活监管措施,既要包容技术发展存在的不足,又要激励继续迭代升级。建立持续动态监管和事后响应制度,为技术进步预留充足的发展空间,并明确厘清安全底线,激发经济社会发展的活力和创造性。构建多元协同治理机制,推动政府、企业、行业组织、科研机构、社会公众共同参与人工智能治理。如企业要切实履行主体责任,自觉遵守法律法规与行业规范;行业组织可制定行业标准与自律公约,通过开展行业培训、技术交流等活动,引导行业健康发展,并协助政府进行行业监管。

  以技术向善为导向,推动安全可靠的人工智能应用落地

  人工智能属于底层技术,与互联网技术类似,亦具备基础性、通用性、多元化等特征,应用场景非常丰富,在各个领域都可发挥技术赋能作用。未来随着“人工智能+”行动的大力实施,千行百业将催生出大量智能应用,成为经济社会发展的持续动力。面对新一代人工智能技术快速演进的新形势,要充分发挥新型举国体制优势,坚持自立自强,突出应用导向,推动我国人工智能朝着有益、安全、公平方向健康有序发展。

  针对层出不穷的人工智能应用,可建立覆盖全行业、全生命周期的统一的安全评估体系标准,实现对人工智能应用安全风险的精准测评,筛选、推广安全可靠的人工智能应用,以发挥技术向善作用。由权威第三方机构依据统一标准开展独立评估,对通过评估的人工智能应用颁发安全认证证书,并通过全国性平台公示应用名称、研发企业、评估结果等信息,为市场选择提供清晰指引。可建立“动态复核”制度,对已认证应用进行定期抽查与不定期突击检查,一旦发现安全隐患立即撤销认证,形成安全闭环管理。

  在推广人工智能应用落地环节,需强化政策引导与资源倾斜。可将安全认证结果与政府采购、政策补贴、行业准入挂钩,鼓励政府部门、重点行业优先选用认证通过的人工智能应用。搭建安全可靠的人工智能应用推广平台,通过案例分享、现场演示、供需对接会等形式,推动成熟应用在医疗、教育、养老、工业等重点领域落地。例如,在基层医疗领域推广通过安全评估的人工智能影像诊断系统,助力提升基层诊疗水平;在制造业推广认证合格的智能质检应用,推动产业提质增效。通过激励安全可靠的人工智能应用落地,能够加快推动形成技术向善的产业生态。

  (作者:傅琳凯,系中国计量大学马克思主义学院教授)

[ 责编:张晨昊 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 介绍和解读党的二十届四中全会精神

  • 两岸关系新形势学术研讨会暨清华两岸论坛在京举行

独家策划

推荐阅读
为庆祝新疆维吾尔自治区成立70周年,“异元汽车杯”首届新疆国际摄影大赛9月28日正式启动。
2025-09-29 14:31
2025年4月10日,安徽省芜湖市无为市昆山镇三公山茶叶种植基地,千亩高山野生杜鹃在翠绿的茶园之间绚丽绽放,美轮美奂,美不胜收
2025-04-10 15:13
2025年4月1日,北京怀柔慕田峪长城内外山花盛开,美丽的春花把古长城打扮的多姿多娇,犹如春天里一幅壮美的风景画
2025-04-02 15:44
2025年4月1日,船舶航行在安徽省合肥市庐江县境内的引江济淮航道上,标志着菜子湖湿地候鸟越冬季禁航结束,菜(子湖)巢(湖)线恢复通航
2025-04-01 15:40
2025年3月31日,江苏苏州吴中区光福镇,太湖之滨,桃花、樱花、油菜花等竞相绽放,生态优美,春景如画
2025-04-01 15:31
用镜头记录城市更新 青岛首届“百家媒体看改变”活动圆满闭幕
2025-03-20 10:14
"昭君杯"首届全国老年合唱大赛在北京国家大剧院正式启动
2025-03-19 16:10
2025年2月25日,云南省昭通市绥江县,新市金沙江特大桥施工现场,工人正加紧施工。
2025-02-26 15:41
2025年2月7日,重庆市巫山县曲尺乡月明村一大片梅花竞相开放、灿若红霞,游客和市民前来游玩打卡,尽享春日的快乐和惬意
2025-02-08 14:52
2025年2月5日,福建省福清市石竹山风景区,一场非遗英歌舞、建瓯挑幡等非遗表演正在进行,让游客感受中华优秀传统文化魅力,丰富景区文化内涵和游览品质
2025-02-06 15:55
2025年1月20日,江西省赣州市章贡区城市中央公园内,游船与湖水、植被、高楼相互映衬,呈现出一幅冬日多彩美丽生态画卷
2025-01-20 15:30
2025年1月16日,受低温天气影响,山西省运城盐湖出现冬季独特的“硝花”景观,水面上的硝花形态各异晶莹剔透,美不胜收。
2025-01-16 15:56
一位“行者”行走在广袤的沙漠中,遮掩着绝世的面庞,一面“古镜”掩埋于厚重的沙下,刻满了时间的裂痕。
2025-01-13 17:25
2025年1月9日,重庆市酉阳土家族苗族自治县桃花源国家森林公园白雪皑皑,雪景如画
2025-01-09 15:24
关爱卡寒假公益行 助力云南各族青少年儿童梦想起航
2025-01-08 14:42
2025年1月5日,在山西太原南站开往呼和浩特东站的D4022次列车前,游客自拍合影。
2025-01-06 16:01
2024年12月8日,广西梧州岑溪市岑城镇木榔村,生态田园中阡陌纵横线条分明,冬韵如画。
2024-12-10 16:48
2024年12月10日,贵州省黔西市绿化白族彝族乡大海子村,青山环绕树木葱茏,构成一幅美丽的生态画卷。
2024-12-10 16:40
2024年12月6日,古城苏州街头,成片的银杏、红枫等树木色彩斑斓满目缤纷,成为一道迷人的风景。
2024-12-06 15:48
2024年12月6日,初冬时节,山东省青岛市即墨区灵山街道花卉种植基地的大棚里一片繁忙,种植户忙着管护花卉。
2024-12-06 15:48
加载更多