点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:圆桌对话:共议AI时代云安全防御之道
首页> 网安频道> 对话访谈 > 正文

圆桌对话:共议AI时代云安全防御之道

来源:光明网2024-07-30 10:07

  【安全洞察·大咖说】

  本期嘉宾:何宝宏 中国信息通信研究院云计算与大数据研究所所长

       李新友 国家信息中心研究员

       申文博 浙江大学百人计划研究员、博士生导师

       胡 俊 青藤云安全联合创始人兼产品副总裁

  圆桌主持:李政葳 光明网要闻采访部主任、网络安全频道负责人

  为护航产业数字化发展持续深化,构筑新技术应用安全防护屏障,光明网网络安全频道携手中国信息通信研究院云计算与大数据研究所、《信息安全研究》杂志社,在浙江大学网络空间安全学院、《中国金融电脑》杂志社、青藤云安全等单位支持下,联合推出《安全洞察·大咖说》系列访谈活动。

圆桌对话:共议AI时代云安全防御之道

  主持人:今年迎来了中国全功能接入国际互联网30周年,随着互联网技术的不断发展,云计算逐渐成为新型数字基础设施的核心驱动力,大家作为云计算产业发展的推动者和建设者,请谈一下云时代背景下面临的安全风险发生了哪些变化?有哪些新的挑战?

  何宝宏:云计算经过10多年的发展,已经成为数字经济发展的底座。总的来说,个人体会大概有三个方面的安全威胁值得特别关注:一是云的资源类型丰富、异构性种类变多、运行周期变化带来的新安全挑战;二是云的多租户以及共享资源模式,衍生出的不同租户之间南北向安全威胁;三是云原生环境下,IT架构变革带来的应用安全风险。

  申文博:在我看来,企业上云面临的两个挑战:一个是如何在云环境中,如何构建有效的访问控制;另一个是云共享模式下,如何防范敏感数据泄露的问题。为此,企业在迁移到云平台时,需重视构建健全的访问控制和数据保护策略。通过细致的规划和技术实施,企业可以在云环境中获得更高的安全性和数据管理效率,从而顺利应对云计算带来的挑战和风险。

  李新友:从实践角度来讲,企业上云、政府上云带来的安全变化:一个是系统上云后,随着安全边界变得模糊,对系统的安全、系统的连续性带来的新挑战;二是云上数据资产的安全保障问题。为了应对这些挑战,企业和政府机构需要通过加强内部的安全意识培训、建立完善的安全管理流程和实施安全审计,来有效应对云上数据资产的安全风险,从而确保数据的机密性、完整性和可用性得到有效保障。

  胡俊:我认为有以下三个方面:从风险角度来讲,企业上云之后风险、暴露面发生变化;从攻击者角度来讲,是云计算、人工智能、大数据等新技术组成的新型数字基础设施,衍生出的新技术应用安全风险;从系统的整个生命周期角度来看,要经历开发、测试、上线、运行等过程,这个过程中潜在的软件供应链安全问题。

  主持人:人工智能与云计算之间存在着深刻的共生关系。AI驱动云计算进一步发展,云计算助力AI算力提升。随着AI与云计算深度融合,可能会伴生出哪些安全风险?

  何宝宏:近年来,随着云计算的发展,给人工智能的训练推动提供了强大的算力,而云上大数据的发展提供了强大的数据训练,这两个确实越来越走向融合模式。对于这方面的安全问题,我觉得目前主要分两类:一个是AI for Cloud阶段,算法优化等带来的新安全挑战;另一个是Cloud for AI阶段,智能云或者说计算云衍生出的新挑战。但到目前为止,因为云计算和人工智能的融合还不够深入,所以显现还是各自的安全问题,深度融合之后会产生什么新的安全风险,还有待进一步观察。

  李新友:云和人工智能结合,风险可以从云和人工智能各自的优势分析出来。当前来看,我认为最大的风险点是通过AI技术给用户画像,导致的诈骗问题。用户画像,作为AI技术的一大应用,通过分析用户的行为、偏好、交易记录等多维度数据,能够为企业提供精准的营销和用户服务策略。然而,这一技术的应用若缺乏适当的监管和道德约束,就可能成为诈骗行为的温床。

  申文博:我们现在做的两项研究,也是能揭示云和人工智能结合会带来什么样的安全威胁。第一个是从异构架构方面考虑,我们有一个研究结果显示,用GPU上面跑的恶意代码跟CPU的漏洞结合,能很容易绕过现有的保护,做到系统提权,所以我觉得这是一种新的威胁;第二个威胁是AI模型自身的安全风险,我们有一项正在进行的工作,就是把TensorFlow里面API给它滥用,让它能够在远端的电脑上弹出一个反弹Shell,就这么一个明显的恶意利用,现在的Hugging Face几乎所有网站都检查不出来。

  胡俊:云计算和人工智能两者之间其实是在相互影响促进的。融合过程中的安全风险我觉得有三点:一个是从攻击者角度看,AI降低了生成漏洞的门槛;第二个是AI应用过程中自身的风险暴露面以及数据安全风险;第三个AI模型是供需双方共同训练出来的,那么被训练过后的AI模型“价值观”以及健康度如何判断,这些都需要我们深入思考。

  主持人:随着新兴技术的不断演进,网络威胁愈演愈烈,企业在构建云安全整体防御体系过程中,需要重点关注及考虑哪些方面?

  何宝宏:当前,云安全问题大概有三个方面值得我们进一步探索。一是强化云与安全的深度融合,把安全内嵌到云里去,从设计阶段就把安全考虑进去,实现原生化的安全建设;二是随着节点越来越多,越来越智能化,安全必须走向工具化,整合云安全工具,建设智能化的安全运营平台;三是一体化,云端不仅有数据,还有各种各样的应用,所以必须要构建一体化的原生安全防护体系,实现各种技术相互联动,相互协同,而不仅仅是单点防护。

  李新友:安全无小事,任何风险都不能回避,无论哪个环节拖了都可能造成整个防护体系的安全隐患,但企业建设整体自身安全防护体系的话,核心要把控好安全和发展并步走的平衡点。企业建设整体自身安全防护体系,需要在保障安全的同时,确保业务的持续发展和创新。这需要全员参与、全面管理、合理配置资源,并持续关注和适应不断变化的安全威胁和技术挑战,以达到安全与发展并行的最佳状态。

  申文博:提升云原生安全整体防御体系,我觉得主要有两个要素:一是强化系统的全生命周期防护闭环;二是提升纵深防御能力。通过这两方面的综合实施,可以全面提升云原生安全的整体防御体系,有效保障云原生应用和数据的安全性和稳定性,确保企业信息系统在面对日益复杂的安全威胁时能够保持高效运行和可靠性。

  胡俊:从整个云安全体系架构方面来讲,一是理念上要改变,把原来防堵为主的思路调整为关注应用的全生命周期;二是随着新型数字基础设施建设的持续深化,要强化新型数字基础设施内生安全能力;三是要把安全关口前移,在系统需求设计阶段就要把安全考虑进去,这样可以极大降低安全风险,提高安全运营效率。

  监制:张宁 统筹:李政葳 拍摄:陆野 制作:刘昊、曾震宇 撰文:辛华

  相关阅读:

  “安全洞察·大咖说”系列访谈活动启动仪式在京举行

  邬江兴:云时代面临安全新风险,构建内生安全体系是关键

  谷红勋:践行安全型企业战略,持续夯实新型数字基础设施

  苗守野:加强网络安全现代产业链建设,助力产业数字化转型升级

圆桌对话:共议AI时代云安全防御之道

点击进入栏目专题页面

 
[ 责编:李飞 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 乙巳年黄帝故里拜祖大典在河南新郑举行

  • 上海:纪念五卅运动100周年文物史料专题展开幕

独家策划

推荐阅读
2025年4月1日,船舶航行在安徽省合肥市庐江县境内的引江济淮航道上,标志着菜子湖湿地候鸟越冬季禁航结束,菜(子湖)巢(湖)线恢复通航
2025-04-01 15:40
2025年3月31日,江苏苏州吴中区光福镇,太湖之滨,桃花、樱花、油菜花等竞相绽放,生态优美,春景如画
2025-04-01 15:31
用镜头记录城市更新 青岛首届“百家媒体看改变”活动圆满闭幕
2025-03-20 10:14
"昭君杯"首届全国老年合唱大赛在北京国家大剧院正式启动
2025-03-19 16:10
2025年2月25日,云南省昭通市绥江县,新市金沙江特大桥施工现场,工人正加紧施工。
2025-02-26 15:41
2025年2月7日,重庆市巫山县曲尺乡月明村一大片梅花竞相开放、灿若红霞,游客和市民前来游玩打卡,尽享春日的快乐和惬意
2025-02-08 14:52
2025年2月5日,福建省福清市石竹山风景区,一场非遗英歌舞、建瓯挑幡等非遗表演正在进行,让游客感受中华优秀传统文化魅力,丰富景区文化内涵和游览品质
2025-02-06 15:55
2025年1月20日,江西省赣州市章贡区城市中央公园内,游船与湖水、植被、高楼相互映衬,呈现出一幅冬日多彩美丽生态画卷
2025-01-20 15:30
2025年1月16日,受低温天气影响,山西省运城盐湖出现冬季独特的“硝花”景观,水面上的硝花形态各异晶莹剔透,美不胜收。
2025-01-16 15:56
一位“行者”行走在广袤的沙漠中,遮掩着绝世的面庞,一面“古镜”掩埋于厚重的沙下,刻满了时间的裂痕。
2025-01-13 17:25
2025年1月9日,重庆市酉阳土家族苗族自治县桃花源国家森林公园白雪皑皑,雪景如画
2025-01-09 15:24
关爱卡寒假公益行 助力云南各族青少年儿童梦想起航
2025-01-08 14:42
2025年1月5日,在山西太原南站开往呼和浩特东站的D4022次列车前,游客自拍合影。
2025-01-06 16:01
2024年12月8日,广西梧州岑溪市岑城镇木榔村,生态田园中阡陌纵横线条分明,冬韵如画。
2024-12-10 16:48
2024年12月10日,贵州省黔西市绿化白族彝族乡大海子村,青山环绕树木葱茏,构成一幅美丽的生态画卷。
2024-12-10 16:40
2024年12月6日,古城苏州街头,成片的银杏、红枫等树木色彩斑斓满目缤纷,成为一道迷人的风景。
2024-12-06 15:48
2024年12月6日,初冬时节,山东省青岛市即墨区灵山街道花卉种植基地的大棚里一片繁忙,种植户忙着管护花卉。
2024-12-06 15:48
2024年11月30日,初冬时节,河南省南阳卧龙岗文化园内,树木换上"新装",宛如一幅五彩斑斓的画卷,吸引不少市民、游客前往赏景。
2024-11-30 18:34
民以食为天,一日三餐承载着居民的幸福感。
2024-11-27 18:59
政协协商与基层社会治理的衔接,可实现协商于民协商为民,让全过程人民民主更好的在基层体现。
2024-11-24 22:51
加载更多