据CNNIC第49次调查报告显示，我国未成年人网民已达1.83亿，互联网普及率为94.9%，未成年网民拥有属于自己的上网设备的比例已达82.9%。引导儿童安全上网，抵御网络中的不良信息，为儿童营造良好的网络环境已成为全社会共同关注的话题。

　　作为中国Z世代高度聚集的综合性视频平台，哔哩哔哩平台上丰富的视听内容正逐步成为儿童上网学习、娱乐的重要选择之一。儿童的心智发育尚未完善，缺乏应对网络上不良信息的能力和意识，平台以公平、非歧视为原则，在赋能和保护儿童安全、支持儿童发展方面，通过人工智能技术和手段对不良信息进行监测和处理，并持续建设健全专业团队对不良信息作系统性防控和治理，创造儿童友好型人工智能的网络环境。

　　据了解，哔哩哔哩利用人工智能技术搭建深度学习模型，识别和干预平台中的“软色情类”“人身攻击类”等不良信息，并主动采取屏蔽策略，同时对于优质弹幕进行优选并优先展示，降低对儿童的负面影响。同时，利用人工智能优选弹幕，为儿童营造健康、积极、和谐的视听环境。

　　具体而言，“软色情类”不良信息处理模块应用于平台中的文本软色情识别。在识别并进行运营的干预后，能够有效地降低观众对于淫秽色情内容的举报数量，在部分视频观看场景下色情内容举报量下降超30%。“软色情类”不良信息处理模块可对弹幕总量中1%-2%的相关风险弹幕作自动化处理，提升了审核效率，进一步实现通过人工智能手段保障儿童在互联网上学习、娱乐的过程中不受到有害信息的损害。

　　“人身攻击类”不良信息处理模块应用于平台中的人身攻击类文本识别。在识别并进行运营的干预后，整体人身攻击类弹幕占比下降约40%。这进一步发挥了人工智能在帮助儿童的教育和发展中的积极作用：一方面，降低了针对儿童不公平、歧视性的言论的出现；另一方面，有效提升了儿童在平台的体验，有助于儿童进一步发展在互联网中表达和进行创造性思考的能力。

　　“弹幕优选”正向信息处理模块应用于平台中的正面信息引导。应用该模块能使社区中的正向内容率整体提升33%，筛选能够营造积极氛围的弹幕，营造良好的社区氛围，进一步降低互联网对儿童负面情绪、心理健康的危害。此外，“能量加油站”等心理健康服务功能，能够进一步引导儿童得到线上或线下的人工支持。

　　在创建儿童友好型人工智能网络环境过程中，一方面需要在人工智能技术上持续创新，另一方面也需要持续将保护儿童权利、赋能儿童发展置于技术迭代中的重要地位。同时，也需要结合平台自身属性，不断加强对“青少年模式”的升级。“青少年模式”的出现，不仅为了“限制”，更在于“引导”。哔哩哔哩持续从产品功能、稿件筛选、专项审核等核心环节着手，全方面、多维度、深层次对儿童作出正向引导。未来，人工智能技术在“青少年模式”场景下的相关应用将进一步升级，为视频池注入更多有助于青少年用户开阔视野、增长见闻、提升数字能力的优质内容，从而实现对儿童成长可持续的赋能。（哔哩哔哩平台供稿，编辑：孔繁鑫整理）