AI时代，未成年人保护也要更“智能”

互联网和数字技术的发展，为未成年人拓宽视野、发展自我提供了广阔的空间，同时也带来了风险与挑战。网络空间中的未成年人保护，是网络空间治理的重点问题。把好这道关，数字时代未成年人身心健康才有保障。

随着人工智能技术快速发展，未成年人在网络空间的发展和保护面临各种新型问题。不知不觉间，基于生成式人工智能的各种服务，已经进入未成年人生活的方方面面。

比如，不少AI聊天助手已经成为孩子们离不开的“伙伴”，既辅助他们展开学习、探索世界之旅，又提供精神陪伴。

但是，与未成年人从网络平台等公开渠道获取信息内容不同，AI工具与未成年人的互动处于私密状态，一旦出现不良乃至有害内容，比如对于行为和价值观的不良引导，无论是家长还是监管机关，都很难及时发现，也就难以评估未成年人使用人工智能工具产生的影响和风险。因此，针对聊天陪伴型的AI工具，无法简单沿用原有针对网络公开渠道的保护模式，需要探索针对人工智能的新型治理模式。

此外，未成年人作为“互联网原住民”，在运用人工智能进行开发和创作方面也十分活跃，如设计、生成各种智能体并对外传播。

但这个过程中，也出现了未成年人自制的智能体内容低俗、擦边的问题。由此可见，未成年人在受到不良生态影响的情况下，还可能运用人工智能技术，成为不良内容的制作者和传播者。这意味着，除了把未成年人作为保护对象、防止他们接触不良内容，还需重视正向培育和引导。建设健康安全的网络生态，促进未成年人数字素养的提升才是治本之措。

人工智能的发展，还让网络上的不良信息更容易变换形态，逃避监管。

经过长期治理，目前主要平台上已有大批违法、有害内容得到有效清理。但还有不少对未成年人可能产生负面影响和不良引导的内容，在不断“改头换面”，以不同的样貌现身，污染整体内容生态。比如，倡导厌学逃学倾向、展现校园欺凌行为，利用“网红儿童”形象炫富、恶搞、不正当营销，以及使用人工智能技术批量生成的谣言类、擦边类、误导类内容。针对新型内容，有必要紧密追踪其特征和趋势，通过“清朗”行动等专项措施展开精准打击。

另外，还有一种现象值得重视，那就是未成年人在网络空间主动实施对于他人的侵害。这在未成年人参与“饭圈”追星的领域尤为明显。从一言不合就“开盒”“挂人”，到有组织地集中实施人身攻击、施行网络暴力，未成年人一方面是网络侵害乱象的受害人，另一方面也受到负面氛围影响，可能成为侵权行为的实施者。可见，未成年人运用人工智能等技术的能力不断提升，也是一把“双刃剑”，既促进他们快速学习、成长，也放大了他们侵害他人的能力。

因此，人工智能时代，针对未成年人的保护和治理机制面临全新挑战。只有积极进行创新转型，才能有效回应新时代和新技术的需求。

具体而言，在人工智能模型和应用的开发过程中，需要在数据训练、模型优化、应用场景、服务运营各个环节都嵌入未成年人保护的理念，并进行技术和组织层面的合规设计，做好事前、事中的防范和保护。对于未成年人的保护模式，应当探索从隔离、控制的手段，转向积极培育和建设安全生态，在防范侵害的同时，积极进行正向引导和影响，特别是借助人工智能等技术能力，为未成年人呈现与营造健康积极、向上向善的内容和环境。

标签：