【网络安全e点通】

　　当前，人工智能技术飞速发展，不断催生新业态、新场景，为我们生活带来了诸多便利，万物互融的“足迹”也已遍布生产生活的多个场景。但与之相伴的网络安全风险隐患也层出不穷，例如助力恶意网络攻击、滋生网络侵权行为、带来大量信息安全风险等。在此背景下，围绕人工智能的安全治理也须跟上。

　　其中，常见的与人工智能相关的网络安全攻击有这些：

　　AI投毒攻击：攻击者在AI模型的训练数据中加入恶意数据，导致模型在特定条件下产生错误的分类或聚类，从而破坏模型的准确性和完整性。

　　AI生成恶意软件：利用AI工具，攻击者可以快速发现目标系统中的漏洞，制作恶意软件，加速和扩大攻击规模。

　　AI数据隐私攻击：随着大规模数据的收集和存储，个人信息的泄露和黑客攻击的风险增加，攻击者可能利用AI模型窃取包含敏感信息的数据集。

　　此外，人工智能技术也可能被用于欺诈活动，通过AI换脸、声纹变声等技术模拟人类的行为或生成虚假信息来实施网络犯罪。

　　那么，面对人工智能相关的网络安全攻击有哪些应对措施？对安全风险又有哪些界定？针对这些问题，为了更好的推动人工智能安全治理，在9月9日举办的2024年国家网络安全宣传周主论坛上，全国网络安全标准化技术委员会制定的《人工智能安全治理框架》（下称《框架》）正式对外发布。

　　《框架》提出了包容审慎、确保安全；风险导向、敏捷治理；技管结合、协同应对；开放合作、共治共享的安全治理原则。并尝试从内生（自身）安全和应用安全维度，对人工智能安全风险进行分类，同时提出了多重治理措施。

　　其中包括，实施人工智能应用分类分级管理；建立人工智能服务可追溯管理制度；加大人工智能安全人才培养力度；建立健全人工智能安全宣传教育、行业自律、社会监督机制；促进人工智能安全治理国际交流合作等。

　　需要注意的是，面对新型AI诈骗，我们要加强个人信息保护意识，谨防各种信息泄露，无论在互联网还是社交软件上，尽量避免过多暴露自己的信息，如姓名、电话、社交账号、照片、视频等。同时，要学会利用技术手段辅助识别AI合成的音视频内容，筑牢安全防线。

　　策划：李政葳 统筹：刘昊 整理/制作：雷渺鑫 赵鹏超 刘鑫坤

更多内容欢迎扫码关注“网络安全e点通”专题