点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:圆桌对话:共议AI时代云安全防御之道
首页> 网安频道> 对话访谈 > 正文

圆桌对话:共议AI时代云安全防御之道

来源:光明网2024-07-30 10:07

  【安全洞察·大咖说】

  本期嘉宾:何宝宏 中国信息通信研究院云计算与大数据研究所所长

       李新友 国家信息中心研究员

       申文博 浙江大学百人计划研究员、博士生导师

       胡 俊 青藤云安全联合创始人兼产品副总裁

  圆桌主持:李政葳 光明网要闻采访部主任、网络安全频道负责人

  为护航产业数字化发展持续深化,构筑新技术应用安全防护屏障,光明网网络安全频道携手中国信息通信研究院云计算与大数据研究所、《信息安全研究》杂志社,在浙江大学网络空间安全学院、《中国金融电脑》杂志社、青藤云安全等单位支持下,联合推出《安全洞察·大咖说》系列访谈活动。

圆桌对话:共议AI时代云安全防御之道

  主持人:今年迎来了中国全功能接入国际互联网30周年,随着互联网技术的不断发展,云计算逐渐成为新型数字基础设施的核心驱动力,大家作为云计算产业发展的推动者和建设者,请谈一下云时代背景下面临的安全风险发生了哪些变化?有哪些新的挑战?

  何宝宏:云计算经过10多年的发展,已经成为数字经济发展的底座。总的来说,个人体会大概有三个方面的安全威胁值得特别关注:一是云的资源类型丰富、异构性种类变多、运行周期变化带来的新安全挑战;二是云的多租户以及共享资源模式,衍生出的不同租户之间南北向安全威胁;三是云原生环境下,IT架构变革带来的应用安全风险。

  申文博:在我看来,企业上云面临的两个挑战:一个是如何在云环境中,如何构建有效的访问控制;另一个是云共享模式下,如何防范敏感数据泄露的问题。为此,企业在迁移到云平台时,需重视构建健全的访问控制和数据保护策略。通过细致的规划和技术实施,企业可以在云环境中获得更高的安全性和数据管理效率,从而顺利应对云计算带来的挑战和风险。

  李新友:从实践角度来讲,企业上云、政府上云带来的安全变化:一个是系统上云后,随着安全边界变得模糊,对系统的安全、系统的连续性带来的新挑战;二是云上数据资产的安全保障问题。为了应对这些挑战,企业和政府机构需要通过加强内部的安全意识培训、建立完善的安全管理流程和实施安全审计,来有效应对云上数据资产的安全风险,从而确保数据的机密性、完整性和可用性得到有效保障。

  胡俊:我认为有以下三个方面:从风险角度来讲,企业上云之后风险、暴露面发生变化;从攻击者角度来讲,是云计算、人工智能、大数据等新技术组成的新型数字基础设施,衍生出的新技术应用安全风险;从系统的整个生命周期角度来看,要经历开发、测试、上线、运行等过程,这个过程中潜在的软件供应链安全问题。

  主持人:人工智能与云计算之间存在着深刻的共生关系。AI驱动云计算进一步发展,云计算助力AI算力提升。随着AI与云计算深度融合,可能会伴生出哪些安全风险?

  何宝宏:近年来,随着云计算的发展,给人工智能的训练推动提供了强大的算力,而云上大数据的发展提供了强大的数据训练,这两个确实越来越走向融合模式。对于这方面的安全问题,我觉得目前主要分两类:一个是AI for Cloud阶段,算法优化等带来的新安全挑战;另一个是Cloud for AI阶段,智能云或者说计算云衍生出的新挑战。但到目前为止,因为云计算和人工智能的融合还不够深入,所以显现还是各自的安全问题,深度融合之后会产生什么新的安全风险,还有待进一步观察。

  李新友:云和人工智能结合,风险可以从云和人工智能各自的优势分析出来。当前来看,我认为最大的风险点是通过AI技术给用户画像,导致的诈骗问题。用户画像,作为AI技术的一大应用,通过分析用户的行为、偏好、交易记录等多维度数据,能够为企业提供精准的营销和用户服务策略。然而,这一技术的应用若缺乏适当的监管和道德约束,就可能成为诈骗行为的温床。

  申文博:我们现在做的两项研究,也是能揭示云和人工智能结合会带来什么样的安全威胁。第一个是从异构架构方面考虑,我们有一个研究结果显示,用GPU上面跑的恶意代码跟CPU的漏洞结合,能很容易绕过现有的保护,做到系统提权,所以我觉得这是一种新的威胁;第二个威胁是AI模型自身的安全风险,我们有一项正在进行的工作,就是把TensorFlow里面API给它滥用,让它能够在远端的电脑上弹出一个反弹Shell,就这么一个明显的恶意利用,现在的Hugging Face几乎所有网站都检查不出来。

  胡俊:云计算和人工智能两者之间其实是在相互影响促进的。融合过程中的安全风险我觉得有三点:一个是从攻击者角度看,AI降低了生成漏洞的门槛;第二个是AI应用过程中自身的风险暴露面以及数据安全风险;第三个AI模型是供需双方共同训练出来的,那么被训练过后的AI模型“价值观”以及健康度如何判断,这些都需要我们深入思考。

  主持人:随着新兴技术的不断演进,网络威胁愈演愈烈,企业在构建云安全整体防御体系过程中,需要重点关注及考虑哪些方面?

  何宝宏:当前,云安全问题大概有三个方面值得我们进一步探索。一是强化云与安全的深度融合,把安全内嵌到云里去,从设计阶段就把安全考虑进去,实现原生化的安全建设;二是随着节点越来越多,越来越智能化,安全必须走向工具化,整合云安全工具,建设智能化的安全运营平台;三是一体化,云端不仅有数据,还有各种各样的应用,所以必须要构建一体化的原生安全防护体系,实现各种技术相互联动,相互协同,而不仅仅是单点防护。

  李新友:安全无小事,任何风险都不能回避,无论哪个环节拖了都可能造成整个防护体系的安全隐患,但企业建设整体自身安全防护体系的话,核心要把控好安全和发展并步走的平衡点。企业建设整体自身安全防护体系,需要在保障安全的同时,确保业务的持续发展和创新。这需要全员参与、全面管理、合理配置资源,并持续关注和适应不断变化的安全威胁和技术挑战,以达到安全与发展并行的最佳状态。

  申文博:提升云原生安全整体防御体系,我觉得主要有两个要素:一是强化系统的全生命周期防护闭环;二是提升纵深防御能力。通过这两方面的综合实施,可以全面提升云原生安全的整体防御体系,有效保障云原生应用和数据的安全性和稳定性,确保企业信息系统在面对日益复杂的安全威胁时能够保持高效运行和可靠性。

  胡俊:从整个云安全体系架构方面来讲,一是理念上要改变,把原来防堵为主的思路调整为关注应用的全生命周期;二是随着新型数字基础设施建设的持续深化,要强化新型数字基础设施内生安全能力;三是要把安全关口前移,在系统需求设计阶段就要把安全考虑进去,这样可以极大降低安全风险,提高安全运营效率。

  监制:张宁 统筹:李政葳 拍摄:陆野 制作:刘昊、曾震宇 撰文:辛华

  相关阅读:

  “安全洞察·大咖说”系列访谈活动启动仪式在京举行

  邬江兴:云时代面临安全新风险,构建内生安全体系是关键

  谷红勋:践行安全型企业战略,持续夯实新型数字基础设施

  苗守野:加强网络安全现代产业链建设,助力产业数字化转型升级

圆桌对话:共议AI时代云安全防御之道

点击进入栏目专题页面

 
[ 责编:李飞 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 铁路迎来中秋小长假客流高峰

  • 青春版《牡丹亭》走进北京大学

独家策划

推荐阅读
“干,才是马列主义!” 中国石油大学暑期实践追寻铁人精神 “干,才是马列主义,不干,半点马列主义也没有!”“宁可少活二十年,拼命也要拿下大油田!” 以“铁人”王进喜为代表的老一代石油人喊出的铮铮誓言,激励着中国石油大学学子追寻铁人精神迈出坚实脚步。
2024-08-27 10:35
奔跑吧·少年2024年内蒙古自治区棒垒球邀请赛在鄂尔多斯市康巴什区开赛。
2024-04-20 17:03
4月2日,随着57652次检测车从南充北站5道缓缓驶出,标志着新建汉中至巴中至南充铁路南充至巴中段(以下称"巴南高铁")启动联调联试,进入工程验收关键阶段,为全线早日开通奠定了坚实基础
2024-04-03 15:11
为切实织密森林“防火网”各地组织人员巡查防火。
2024-04-03 15:11
2024年3月31日,“知音湖北 遇见浪漫孝感”春赏花活动在湖北省孝感市金卉庄园景区启动。金卉庄园花团锦簇,五彩斑斓花卉竞相绽放。人们穿梭在花海之间,享受明媚春光。
2024-04-02 15:40
2024年3月23日,由中国服装设计师协会主办的2024秋冬中国国际时装周在北京开幕。
2024-03-26 21:07
3月17日,原创独立设计师品牌SHANG1 BY SHANGYI 2024秋冬系列时装发布会在北京举行。
2024-03-18 16:39
2024年2月28日,新疆维吾尔自治区巴音郭楞蒙古自治州博湖县境内的博斯腾湖出现推冰景观。
2024-02-29 18:59
云南省曲靖市罗平县马街镇钻天坡,盛开的油菜花梯田在初升太阳映照下,勾勒出一幅田园春景图
2024-02-23 10:59
美丽的三亚湾
2024-01-20 17:42
2024年1月12日,江西省吉安市吉州区庐陵文化生态园层林尽染,色彩斑斓,市民徜徉其间,尽享生态之乐。
2024-01-13 19:43
2023年12月26日,在云南省红河哈尼族彝族自治州元阳县新街镇黄草岭村附近,游客在冬樱花与梯田边游览。
2023-12-26 15:39
2023年12月12日,新疆哈密市巴里坤县第十九届冰雪文化旅游节采冰仪式在高家湖二渠水库进行。仪式主要展示了"头冰"的开采上岸过程。开幕式上还举行迎风旗、祈福词、喝出征酒等仪式。
2023-12-13 16:08
2023年12月13日,河北省正定古城迎来降雪,古城内外银装素裹,犹如一幅淡雅的水墨画,美如画卷。
2023-12-13 15:59
2023年11月28日,贵州省六盘水市明湖国家湿地公园层林尽染,景色迷人。
2023-11-29 15:42
2023年11月28日,江西吉安长塘镇中心小学,老师指导学生剪纸。
2023-11-29 15:42
三角梅原产于巴西,现主要分布在中国、秘鲁、阿根廷、日本、赞比亚等国家和地区。其中,以海南三角梅最为出名。
2023-11-29 11:13
2023年11月23日清晨,朝霞初现,三峡库区湖北省宜昌市秭归县沿江公路G348国道的绝壁岩体上,工人们正在铺设防护网,以防止岩崩和落石。
2023-11-24 15:15
2023年11月23日,黑龙江哈尔滨,哈尔滨站工作人员正在清理站台积雪。
2023-11-23 16:02
2023年11月21日,甘肃敦煌,首趟"敦煌号"铁海联运国际货运班列装载1000吨石棉驶出,经天津港通过铁海联运发往泰国曼谷。
2023-11-21 16:55
加载更多