点击右上角微信好友
朋友圈
请使用浏览器分享功能进行分享
3月27日,2025BCS政企数字化转型及数据安全专题研讨会在湖北武汉举行。全国政协委员、全国工商联副主席、奇安信集团董事长齐向东在致辞中表示,在大模型时代,数据安全不是“选择题”,而是“必答题”。只有做好“三个更加关注”和“三个必然推动”,才能为政企数字化转型保驾护航。
随着DeepSeek等大模型的爆火,人工智能技术已经成为政企单位不可忽视的重要力量。齐向东强调,在享受AI带来的巨大红利的同时,也必须清醒地认识到,新兴技术的应用往往伴随着新的风险和挑战。特别是在数据处理和管理方面,任何疏忽都可能导致严重的后果。因此,如何平衡技术创新与风险管理成为当前亟待解决的问题。
针对大模型时代的数据安全挑战,齐向东提出了“三个更加关注”的观点。
在人工智能垂直应用场景更加需要关注“小数据”的安全问题。与传统的大数据相比,小数据经过标注、清洗和学习后,其价值被充分激发,成为企业的重要资产,一旦泄露将对企业造成致命打击。
在“小数据”安全中需要更加关注内鬼问题。内部员工了解组织情况,访问权限高,往往能绕过安全措施而不触发风险预警。特别是在大模型垂直应用爆发的背景下,数据管理员、数据标注员、算法工程师和模型运维工程师等关键岗位人员的数据访问权限更高,一旦权限被滥用或身份被盗取,后果将不堪设想。
在内鬼中应该更加关注外包问题。外包人员虽然游离于政企单位的直接管控体系之外,但出于业务需要,其数据接触权限也很大。由于监管难度高且更容易受到利益诱惑,外包人员有可能利用工作便利做出危害数据安全的行为。
在提出安全挑战的同时,齐向东也展望了数据安全领域的发展趋势,概括为“三个必然推动”。
一是必然推动数据安全爆发。随着高价值的“小数据”集中用于投喂企业的人工智能大模型,数据重要性显著提高,数据拥有者对数据安全的重视程度也将随之提高,这将推动数据安全市场的快速发展和壮大。
二是必然推动零信任架构普及。大模型在训练和应用过程中会引入更加复杂的人员角色,这要求政企单位加快推动零信任架构的普及和应用。通过对特殊身份人员以及集权和高危终端进行增强式、动态调整的访问权限管控,可以第一时间阻断风险终端和用户对资源的恶意访问,保障正常合法访问和业务平稳运行。
三是必然推动安全空间落地。在大模型垂直领域落地的许多环节都需要外包人员参与的情况下,需要对业务场景下的数据访问行为进行更加精细化的管控。通过安全空间与企业内部系统进行环境隔离,可以在人员不可信、终端不可信的前提下,允许核心数据被可信查看、加工和处理,但不能向外流转,从而有效避免数据被窃取的风险。(孔繁鑫)