6月27日，在上海市南洋模范初级中学举办的“智享AI 成长有爱”为主题的“清朗e企来”沙龙活动现场，一场“刀光剑影”的辩论正在进行。围绕AI时代的未成年人防护，南洋模范初级中学的学生们和平台企业共聚一堂，展开对话。 AI的蓬勃发展，既带来创新的无限可能，也为平台的未成年人保护提出挑战。当天，市委网信办会同十多家市级未成年人网络保护专项协同机制单位共同宣布，启动“清朗守护·为你而来”未成年人网络环境整治专项行动。 在市委网信办的指导下，徐汇区委网信办发布全市首份《未成年人科学使用AI倡议书》，从政府构建良好生态、企业践行社会责任、青少年培育科学精神三方面提供引导，这也是AI时代第一份为未成年人实现数字保护的“上海方案”。前期，市委网信办已推出《上海属地网络平台算法治理合规指引（试行）》，要求平台健全涉未成年人内容审核机制，不得向未成年人用户推送侵害其身心健康的网络信息，不得设置诱导未成年人用户沉迷、过度消费等的算法模型。对哔哩哔哩、拼多多、小红书等具有算法推荐服务的互联网企业，围绕平台履行未成年人网络保护义务开展检查，要求企业严格落实技术措施，加强推送内容的鉴别，及时识别未成年人用户。 自2021年新修订的《未成年人保护法》实施以来，市委网信办陆续发布《上海属地网络平台履行未成年人网络保护义务合规指引（试行）》等规定，指导属地青少年用户量大、使用频繁的重点平台创新工作举措，发布社会责任报告，多项工作在全国走在前列。 “在互联网环境下，AI对于孩子们已不是陌生词汇，无论是来自家庭父母的影响、还是小红书、抖音等平台传播，亦或是信息群的共享，有任何消息都能广泛而迅捷地触达到每一个人。”南洋模范初级中学政史地教研组长倪科嘉告诉澎湃新闻记者，“在这样的环境下，如何正视AI对未成年人的影响、如何保护他们的独立思考能力而非事事依靠AI，成为当下的重要议题。” 对此，哔哩哔哩相关负责人坦言，近一年来，哔哩哔哩持续对未成年人模式进行优化调整，围绕“知识启蒙、安全教育、情绪疏导、兴趣发展”等主题建立内容分层推荐，并探索按年龄阶段匹配差异化的推荐策略。 “真正的保护，不是与现实完全割裂，完全去现实化的内容环境容易让孩子缺乏心理免疫力。”哔哩哔哩负责人表示，平台更应该做的是在能力允许的范围内，帮孩子建立起认知风险的第一道防线。平台对于未成年人模式的定位希望是“可控的现实暴露”和“适龄的信息锻炼”，未成年人模式不仅是一个避风港，更是一个能帮助他们成长、建立自我认知和判断力的“训练营”。 喜马拉雅为了给不同孩子适配合适的收听内容，和北师大专家合作，共同研发了“分级听读体系”，把平台的儿童内容分为了9级。内容涉及的词汇量越大，难易度越高，级别就越高。平台负责人介绍“只要父母带着孩子在我们平台上做个便捷的测试，就能知道孩子适合哪个级别，并且系统就会推送合适孩子的内容。这个分级体系为中国孩子量身定制语言成长路径，保证了内容难度、主题与孩子的心智发展阶段精准匹配。” “算法通过精准匹配，将兴趣相投的用户聚集在一起，增强用户对平台的认同感和归属感。”Soul相关负责人表示，但是过度同质化推送也会形成信息茧房，如何在个性化推荐与信息多样性之间找到平衡，是平台亟需解决的关键问题。 对此，相关负责人建议，企业需要有针对“信息茧房”和“同质化推荐”问题的防范举措。通过内容去重和多样性优化，可以提升推送内容的多元性。此外，也可以将协同过滤算法与其他算法相结合，促进用户接触到更广泛的跨领域内容。例如，在用户观看美食视频时，推荐与饮食文化、历史或健康知识相关的内容，从而拓宽他们的信息视野。 “除了有‘一键防护’、‘小红盾’、心理援助热线等功能救济被网暴的用户，小红书更大的责任是要在网暴没有发生或发生的最初阶段，就能够识别出来，遏制住，从而减少对于当事人的伤害。”小红书相关负责人表示，平台持续优化涉网暴内容的识别能力，对人身攻击、极端辱骂、咒死场景、贬低他人、恶意揣测、不友善比喻、不友好祝愿、嘲笑鄙视等内容的识别模型精准度正不断提升。 “情绪激动时，孩子们可能意识不到，花费几十元、几百元购买他人信息，或通过‘隔空喊话’机器人辱骂他人，这种行为造成的伤害有多深，影响会持续很久。更严重的是，若导致不可挽回的后果，还将承担法律责任。” 她表示，防治网暴需平台、学校、家庭联动，可通过受害案例宣讲、鼓励青少年举报违规内容等方式强化道德与法治教育。只有当孩子们深刻理解，在网络世界，受害者与加害者身份往往一念之差、瞬间可转换时，才能真正学会克制，远离网暴。 波克城市相关负责人介绍了平台整治防沉迷相关进展：一方面通过游戏内的公告、弹窗等方式，向玩家普及网络安全和合理游戏的知识，引导正确的游戏观念。 另一方面，与学校、社区等合作，开展线下的宣传活动，比如波克公益基金会牵头发起的“SDG HERO”游戏素养计划，旨在通过游戏化学习，让孩子理解游戏的正向价值，并由游戏行业从业人员出镜，为家长提供如何引导孩子合理游戏的建议，提高未成年人和家长对网络防沉迷的认识，形成社区、家长、孩子三位一体的教育体系。 AI如何来助力“破茧”呢？当AI技术可以高效实现复杂超长推理时，就可以用AI来探索更多推荐范式，比如将搜索+订阅+精选推荐的任务结合到一起，帮助我们快速从海量冗余信息中，去除噪声，获取高质量目标信息。MiniMax负责人介绍，AI大模型企业能更多应用于帮助“促进人的全面发展”，帮助我们下一代“破茧而出”。 AI助力“破茧”还可以有许多方面尝试，比如可以利用强化学习等AI技术辅助推荐算法检测与纠正，比方当AI自动检测到算法中可能存在性别偏见，向平台提供预警和纠正建议。 据徐汇区发布的《未成年人科学使用AI倡议书》中建议，未成年人应正确认识AI的作用和局限，将其视作启发思考的伙伴，保持自主性和批判性思维，验证AI生成内容准确性，避免盲目依赖和技术崇拜，以理性、科学的态度与AI和谐共处。 此外，应以AI为工具，确保在安全可控的环境中探索AI，拓宽思维边界，在创新创作中激发想象力，积极参加AI创新实践，为科技与社会发展注入青春动能。
