陈柏珲：为AI智能体踩实安全“刹车”，夯实数字信任根基

　　近日，第十四届互联网安全大会（ISC.AI 2026）在北京召开。会上，亚洲数字经济科学院院长、美国国家人工智能科学院通讯院士陈柏珲表示，当前人工智能从“纸上谈兵”变成了直接“下场干活”，执行权下放颠覆了传统数字信任体系。

　　对比传统网络攻击与智能体攻击的差异，陈柏珲表示，在过去传统的网络攻击中，黑客依靠的是数据库注入、越权访问，或者是篡改身份令牌，他们寻找的是代码执行和编写时的漏洞，这可以通过人工审计的方式来堵住漏洞。但是在智能体攻击过程中，黑客则放弃了传统的工具，他们只用一件武器——对话，用日常用语所提出的请求就可以让AI交出最高权限。过去的攻击是在寻找代码的漏洞，现在的攻击是在寻找机器的认知缺陷。

　　针对AI智能体跨境、跨域运行带来的监管真空、责任认定难题，陈柏珲以新加坡AI治理路径为例，提出三项可落地的治理方案：第一，实施动态沙盒监管，企业不能一次性赋予智能体绝对的权限，过程中必须贯彻最小特权，对单次任务要规定时效性；第二，要设置人工拦截点，在设计核心业务调用接口过程中，必须设置人类审批的节点；第三，依托可验证且合规的AI进行常态化审查工作，实现监管技术化。

　　陈柏珲说：“伟大的赛车能够挑战速度的极限，并不是因为这个赛车有多快的引擎，而是它有一个非常优秀的刹车系统。同样的，当我们今天整个行业都在为AI智能体的高速发展而疯狂时，我们要思考，AI智能体的边界在哪里？当车辆失控的时候，谁来踩下一脚刹车？”

　　陈柏珲认为，为AI智能体构筑一套安全可靠的治理框架，不应是防范技术风险的被动策略，而是要拥抱安全的主动举措。无论时代如何变化，信任永远是智能经济体无法替代的硬通货。（文/朱昱晗）