【网络强国·百人谈】

　　近几年，随着人工智能技术不断发展，人工智能训练师的职业逐渐壮大。作为“数字职业”之一，人工智能训练师的出现，加速了人工智能由技术研发走向行业应用的过程。知道创宇业务安全开拓中心负责人鄢晓玲在接受采访时表示，越来越多的专业领域开始寻求与AI的结合，这使得人工智能训练师的重要性日益凸显。

　　“以往每一套检测引擎都有一套独立的机制，从规则制定到上线，过程繁琐且资源消耗巨大。而现在，人工智能训练师的引入正在改变这一状况。”鄢晓玲介绍，人工智能训练师在识别和处理不良内容方面发挥着关键作用。他们首先进行数据的采集和处理，针对时下热点和不良内容进行全网采集。随后，训练师使用标注工具对数据进行分类和定义，最终将样本数据标签化，以供模型学习和识别不同类型的敏感内容。

　　“在更高级别的工作中，训练师可能需要设计智能解决方案，包括智能产品应用解决方案设计以及产品功能的设计与实现。”鄢晓玲认为，人工智能训练师的工作不仅仅局限于数据的处理和模型的训练，他们还需要具备更高的创新能力和设计能力，以满足不断变化的市场需求。

　　她举例说，两年前，知道创宇的算法团队训练一次模型的周期大概在3～4周，而今年这个周期已经缩短到了每周一次。这一显著的进步得益于训练过程的高度自动化和SOP流程化，以及大量模型引擎的引入进行预标注和智能分析。这使得训练师们能够更专注于对结果的纠偏和确认，提高了工作效率和准确性。

　　未来，人工智能训练师在网络安全和内容安全领域将扮演怎样的角色？

　　“人工智能训练师的第一层角色首先是守护者。”鄢晓玲认为，无论是守护网络安全还是内容安全，他们都必须本着这样的初心来应用人工智能技术。同时，他们还需要确保在设计和实施人工智能体系时，模型能够遵守相关的伦理标准和法律法规，避免偏见和歧视问题。此外，他们还需要在不同的业务领域和安全团队之间架起桥梁，协调资源和信息，以实现更全面的内容安全管理。

　　“我们将长期坚持为国内外大模型做免费的基座安全评测。将内容安全能力面向模型厂商、模型应用产品免费开放，帮助国内模型识别风险。”她期待能够与更多的安全从业者共同探讨人工智能安全发展的技术和方案。

　　策划：李政葳　摄制：刘昊　刘鑫坤　撰文：马境远

“网络强国·百人谈”更多内容欢迎扫码关注专栏

[ 责编：李飞 ]