点击右上角
微信好友
朋友圈
请使用浏览器分享功能进行分享
【网络强国·百人谈】
近日，“2025中关村论坛系列活动——数字金融与科技金融大会”在北京举行。会上，国内26家机构联合发布国内首个金融领域大模型团体标准——《大模型金融领域可信应用参考框架》。上海第五空间信息科技研究院理事长朱易翔在接受光明网记者采访时表示，数据质量与安全管理是决定人工智能模型可信度的关键因素。他认为，应从数据获取、分级管理到全流程监控建立体系化机制，保障大模型安全、可靠地服务于各领域。
上海第五空间信息科技研究院理事长朱易翔
朱易翔表示，数据与模型性能密切相关，其获取来源的合规性与可信性至关重要，通过正当途径获取的可靠数据，才能为模型训练提供扎实基础。
“在模型使用数据的过程中，我们应实施数据的分级管理。”他进一步提到，要详细区分官方数据、非规范的“野生数据”甚至伪造数据，并在使用过程中进行差异化管理。此外，持续的数据安全测评与监控不可或缺。朱易翔提醒，若在模型使用中发生数据泄露或被窃取，将对大模型系统的安全造成影响。
结合自身交流经验，朱易翔表示，安全性将成为区分不同模型与场景应用的重要标尺。他以医疗领域为例分析：当两个模型功能相近时，具备全生命周期安全管理机制的模型，将更易获得用户信赖。“在数据交互频繁的应用场景中，安全性若存在缺陷，可能导致严重后果。”朱易翔说。
策划：李政葳 制作：赵鹏超 拍摄：曾震宇、赵鹏超、田津金
光明网网络安全频道＆数字化频道出品
“网络强国·百人谈”更多内容
欢迎扫码关注专栏
2025中医医院传承创新发展大会在北京开幕
“玉见文明：良渚文化特展”亮相上海
