网络平台儿童保护全景:全球浪潮、争议焦点与启示

引言

未成年人网络保护已经成为全球儿童保护领域的焦点问题。近年来,世界各国及地区围绕儿童社交媒体使用、网络成瘾机制、AI聊天机器人、儿童个人信息保护等领域开展了诸多探索,通过立法、行政执法、司法诉讼等多种方式,试图厘清相关领域的治理规则。其中,何种产品设计构成对未成年人的成瘾性设计和诱导机制、平台应就此承担何种评估与缓解义务,仍是各方尚未形成共识的核心问题。

2026年11月6日,欧盟委员会初步认定,TikTok信息推荐机制存在兔子洞效应(rabbit-hole effect),违反《数字服务法》关于系统性风险评估与缓解的相关规定。欧盟委员会认为,TikTok将观看时长、点赞等互动信号作为兴趣依据,反复推送同类内容,可能加重焦虑、身体不满,对未成年人与脆弱成年人影响尤甚。此次初步认定并非孤立事件,而是欧盟委员会于2024年2月启动的同一宗DSA合规调查程序中,继2026年2月成瘾性设计、2026年7月未成年人账户安全之后的第三次初步认定。

基于此,本文梳理了近五年主要国家和地区在未成年人网络保护领域的相关立法、行政执法与司法案例,提炼出领域内的核心焦点问题;并针对成瘾机制治理、儿童个人信息保护、AI聊天机器人监管这三个共性问题,梳理监管主体与网络平台的主要分歧。最后,本文结合我国《未成年人保护法》《未成年人网络保护条例》等中对网络企业的相关要求,针对我国未成年人网络保护机制构建、沉迷诱导功能认定等问题提出相关建议。


第一部分 全球诉讼、监管实例


// 美国



联邦层面

美国联邦贸易委员会(FTC)依据1998年《儿童在线隐私保护法》(COPPA)的执法呈指数级加码:2019年2月,TikTok前身Musical.ly因未经家长同意收集13岁以下儿童数据且儿童账号设置不安全,例如儿童账号信息默认公开,成年用户可以直接私信儿童用户等,被罚570万美元,创下当时纪录;同年9月,谷歌与YouTube因在儿童频道上收集儿童观看用户信息,并利用这些信息进行定向广告,未遵守COPPA,向FTC与纽约州总检察长支付1.7亿美元;2022年12月,《堡垒之夜》开发商EpicGames被指控违法收集儿童信息、未及时回应或设置不必要的流程阻碍家长删除数据的请求,并且未成年帐户的默认设置不安全,默认可以与陌生用户通过短信和语音交流。此外,平台还通过界面设计诱导用户误触购买、绕过家长同意,并在消费者试图追回未经授权费用时设置障碍。最终,Epic以5.2亿美元达成和解,成为FTC历史上最大金额的儿童隐私案件。

2023年5月22日,在线教育平台Edmodo因未经家长同意收集学生个人信息用于广告等商业目的,被罚600万美元。 5月31日,亚马逊Alexa因违法收集、处理儿童语音等个人信息用以训练算法、提升商业服务并且在家长提出删除后没有彻底删除数据,被处罚2500万美元;6月5日,微软Xbox因未经家长同意收集儿童信息、未告知家长收集什么信息、为何收集以及是否向第三方披露、儿童信息保存时间过长,被罚2000万美元。

2024年7月,FTC与洛杉矶地区检察官办公室对匿名社交应用NGL采取联合执法行动,因未采取有效的年龄认证机制,违法收集儿童信息、虚假宣传AI可以保护儿童免受网络霸凌、利用虚假匿名消息诱导包括未成年人在内的用户付费,最终达成500万美元的和解(450万美元用于退款,50万美元为民事罚金)并禁止其向18岁以下人群营销或提供匿名消息服务。 2026年1月,FTC开始针对受到NGL虚假收费影响的消费者启动退款申请程序。该案体现出美国监管救济已经从“罚款”扩展到对特定产品向未成年人提供服务的直接禁令。

2025年1月,《原神》开发商米哈游因违法收集儿童信息、在未充分披露奖励概率与实际消费成本的情况下利用抽奖机制(lootbox)诱导未成年用户消费, 与FTC达成2000万美元和解并承诺除非家长同意,禁止16岁以下用户在游戏中消费;9月2日,迪士尼被指控对部分实际上属于儿童向的视频进行了错误标记,导致观看儿童接触到不适龄的功能如自动播放,并且违法收集观看儿童的信息用于广告投送,最终迪士尼与FTC达成1000万美元和解并被要求建立YouTube视频儿童属性审查制度;

2025年1月,FTC依据《联邦贸易委员会法》第6(b)条向OpenAI、Meta等七家公司发出调查令,调查AI聊天机器人对儿童的影响,以及企业在年龄限制、家长控制、风险测试、持续监测、个人信息处理和风险披露等方面采取的措施。

2026年8月21日,TikTok、字节跳动就美国司法部代表FTC提起的COPPA诉讼同意支付4亿美元和解。该案源于2024年8月DOJ/FTC起诉TikTok年龄认证存在漏洞,儿童可以通过第三方账号创建“年龄未知”账户,并且TikTok未经家长同意,收集13岁以下儿童个人信息用于广告,违反COPPA和2019年同意令。


州层面

州层面主要针对平台设计危害儿童身心健康的问题展开诉讼。

2023年10月10日,犹他州总检察长起诉TikTok,指控TikTok的成瘾性设计危害儿童并就平台安全性误导未成年用户和家长。 这是美国州层面对TikTok成瘾性设计采取诉讼行动的重要早期案件之一。2023年10月24日,纽约州总检察长Letitia James与32个州总检察长在加州北区联邦地区法院共同起诉Meta;与此同时,另外9名总检察长分别在各自州法院提起平行诉讼(通常被概括为“42州/42名总检察长对Meta采取联合行动),指控其故意设计令儿童成瘾的功能、就平台安全性误导公众,并非法收集13岁以下儿童数据。

此外,新罕布什尔州2024年6月率先起诉TikTok(州最高法院2025年7月驳回其撤诉动议),2024年10月8日,纽约州总检察长Letitia James与加州总检察长Rob Bonta共同牵头13个州加哥伦比亚特区分别起诉TikTok,指控其成瘾性设计、美颜滤镜损害未成年身心健康,违法收集儿童信息,并进行虚假安全宣传。2025年5月,初审法院驳回TikTok撤诉动议,该案目前正在上诉过程中。与此同时,阿拉巴马州于2025年4月就相似原因起诉、爱荷华州2026年4月修改诉状加入成瘾指控;阿肯色州于2024年9月起诉谷歌和YouTube。2025年4月,新泽西州起诉Discord,指控Discord虚假宣传安全功能、没有建立有效年龄验证、儿童可以接受陌生人的好友请求、平台设计增加儿童遭遇网络性侵害、色情内容和性剥削的风险。

截至2026年8月,相关诉讼已经出现两条重要结果路径:一是联邦多州起诉Meta于2026年8月26日与29个州达成和解,Meta同意支付1710亿美金并同意禁用引发心理健康问题的功能设计,实施每日使用限制、夜间禁用、强化年龄保障和家长控制等措施; 二是新墨西哥州单独诉Meta案已经成为美国州级儿童网络安全诉讼中标志性的胜诉判决。该案由州总检察长劳尔·托雷斯于2023年12月提起,检方以卧底行动取得关键证据,指控Meta平台”为捕食者创建了市场和滋生地”。2026年2月开始第一阶段审判,3月陪审团认定Meta违反该州《不公平行为法》达7.5万次、每次按上限5000美元计罚3.75亿美元——州司法部将其称为美国法院首次就社交媒体公司因产品设计危害儿童而同时承担金钱和结构性责任的案件。8月6日,法官在第二阶段裁决中认定Meta的平台构成公共妨害(public nuisance),并责令Meta支付5.67亿美元用于治理和减轻相关危害:Meta必须改进年龄认证技术,利用AI及更多数据特征提高年龄判断准确性并在两年内尽合理努力开发专门识别13岁以下用户的年龄预测模型、要求可疑账户提交年龄证明、删除30天内未通过验证的账户及其数据、限制未成年人使用时长与通知推送、为AI聊天机器人设置安全措施、强化成人联系未成年人的管控。法官在判决书中写道:”大量证据证实,Meta的社交媒体平台是造成新墨西哥州青少年当前心理健康危机的重要诱因”。目前该案正在上诉过程中。

游戏平台方面,Roblox成为继社交媒体平台之后的又一诉讼集中对象。2025年8月14日,路易斯安那州总检察长Liz Murrill起诉游戏平台Roblox,指控其未采取基本的年龄验证、安全控制,使儿童容易接触性侵害者及性剥削内容,并涉嫌便利儿童性虐待材料传播。随后肯塔基(2025年10月)、得克萨斯(2025年11月)、田纳西、爱荷华(2025年12月) 等十余州跟进起诉或调查;近80起诉讼于2025年12月合并为联邦多区诉讼(MDL-3166)。


个人诉讼

个人诉讼方面,2022年10月6日,美国司法多区诉讼审理委员会(JPML)将相关案件集中至加州北区联邦地区法院,形成“青少年社交媒体成瘾多区诉讼”(MDL-3047),由Yvonne Gonzalez Rogers法官主审。该诉讼涉及大量因社交媒体成瘾及相关产品设计遭受身心损害的未成年人及其家庭,后续亦纳入学区、地方政府等原告。截至2026年8月,已有超3100起待审案件。2026年3月25日,洛杉矶陪审团在风向标案(K.G.M.案)中裁定Meta与谷歌对一名6岁起使用YouTube、9岁起使用Instagram、后确诊重度抑郁与躯体变形障碍的原告承担赔偿责任,判赔600万美元(补偿性与惩罚性各300万,责任按Meta70%、谷歌30%分担)——该案被视为美国首个针对社交媒体平台成瘾性产品设计导致未成年人心理健康损害而取得陪审团胜诉的标志性案件;Snap与TikTok在开庭前保密和解。此后,相关诉讼并未呈现平台一方持续败诉的单一趋势,而是同时出现胜诉、和解和撤诉等不同结果。5月,首个联邦学区风向标案(肯塔基州Breathitt县)以约2700万美元庭前和解(Meta900万、Snap800万、TikTok800万、YouTube201万)。学区主张平台的成瘾性产品设计导致学生心理健康问题增加,使学校承担心理咨询、行为干预等额外成本。8月21日,一名15岁新泽西女孩P.M.Y.撤回了针对Meta、Google和Snap的诉讼。该案原属于计划中的风向标案件,TikTok此前已与其达成和解,但Meta、Google和Snap未向其支付和解款或撤诉费用。

2025年下半年起,针对未成年人权益侵害的诉讼进一步从社交媒体平台扩展至游戏平台与生成式人工智能领域,主要涉及平台内容治理、AI情感依赖以及人工智能产品责任等。

2024年10月,佛罗里达州14岁少年Sewell SetzerIII的母亲Megan Garcia起诉Character.AI与谷歌,指控Character.AI的一款模仿《权力的游戏》角色的聊天机器人与Sewell进行了长期、高度拟人化的情感互动,并在用户表示自杀想法时未采取充分保护措施,最终导致其自杀。 2025年,联邦法院拒绝了Character.AI试图依据第一修正案要求驳回案件的主张,案件得以继续推进。2025年10月,Character.AI宣布全面禁止18岁以下用户使用开放式角色聊天; 2026年1月,Character.AI与谷歌同多起诉讼家庭达成”原则性和解”。OpenAI同样深陷诉讼:16岁的Adam Raine于2025年4月自杀,其父母8月26日起诉称ChatGPT充当了”自杀教练”——在双方对话中提及自杀达1,275次(约为Adam本人的六倍), OpenAI系统标记了377条自残风险消息却从未升级干预,而GPT-4o的安全测试被压缩至一周以抢在竞争对手前发布。2025年11月又有七起诉讼在加州提起(四名死者、三名幸存者),2026年2月12起案件被协调为JCCP5431,6月佛罗里达州成为首个起诉OpenAI的州。

2026年1月,佛罗里达州总检察长James Uthmeier指控OpenAI在明知ChatGPT存在安全风险的情况下仍积极向包括儿童在内的公众推广,并涉嫌隐瞒安全风险、压制内部安全警告以及违反佛罗里达州消费者保护法。


// 英国


2017年11月,14岁女孩Molly Russell死亡。有信息表明,她去世前六个月内在Instagram浏览了超过16,000条内容,其中2,100条与自杀、自残、抑郁相关, 算法还向她推荐了34个”悲伤或抑郁类”账号。 2022年9月30日,高级验尸官安德鲁·沃克作出结论:Molly”死于自残行为,且当时患有抑郁症并受到网络内容的负面影响”,相关内容”以超过最低程度的方式促成了她的死亡”——这是英国司法首次将算法推荐内容与儿童死亡直接关联,此案推动了英国《在线安全法案》的通过(2023年10月)。该法建立了由英国通信管理局(Ofcom)负责监管的平台安全制度,要求受规制的平台采取措施降低儿童接触有害内容的风险。2025年7月,该法案的”儿童安全义务”正式生效,Ofcom可对违规平台处以最高1800万英镑或全球年收入10%(以高者为准)的罚款,高管在极端情形下面临刑事责任。

数据保护监管方面,2023年5月,英国信息专员办公室(ICO)对TikTok处以1270万英镑罚款。ICO认定,TikTok在2018年至2020年期间允许约110-140万名13岁以下儿童使用其平台,却未采取充分措施识别和移除这些儿童,也未依法取得家长同意,从而违法处理儿童个人数据。2026年2月23日,ICO依据《通用数据保护条例》(简称“UKGDPR”)对Reddit调查发现,平台未实施有效年龄保障措施,违法收集、处理儿童信息,未在规定时间内完成用于识别和降低儿童数据处理风险的数据保护影响评估(DPIA)。ICO对该平台作出处罚1447万英镑。2026年4月1日,Reddit提起上诉。

2026年6月,英国政府进一步提出”全球最严”方案:禁止16岁以下人群使用部分主流社交媒体;模拟恋爱或性关系的AI”浪漫伴侣”聊天机器人须执行18岁准入。8月,英国政府进一步提出针对16—17岁用户的默认夜间访问限制,计划将午夜至早6点设为默认限制时段,并默认关闭夜间推送通知、自动播放和个性化信息流。



// 欧盟



数据保护与《数字服务法》

在数据保护层面,2023年9月15日,爱尔兰数据保护委员会(DPC)对TikTok处以3.45亿欧元罚款,调查期间自2020年7月至12月,重点涉及对13至17岁用户存在四类主要合规问题:儿童账户默认公开设置、”家庭配对”(FamilyPairing)功能无法核实操作者是否为家长本人、以”黑暗模式”弹窗诱导儿童选择低隐私选项、年龄验证机制可被轻易绕过,共违反《通用数据保护条例》(GDPR)第5(1)(a)、5(1)(c)、5(1)(f)、12(1)等八项条款。

此外,2025年5月,爱尔兰数据保护委员会再次对TikTok作出5.3亿欧元罚款。原因在于,委员会认为TikTok向中国传输欧洲经济区用户数据,并存在透明度问题,相关行为违反了《通用数据保护条例》。该案并非专门针对未成年人,但体现了欧盟对大型平台数据治理义务的持续强化。

《数字服务法》(DSA)轨道上,监管重心侧重于产品设计安全本身。

2025年5月27,欧盟委员会宣布对Pornhub、Stripchat、XNXX和XVideos等色情平台启动正式调查,指控其涉嫌违反《数字服务法》(DSA),重点在于平台是否采取了有效年龄验证措施,防止未成年人接触成人内容。

2026年1月26日,欧盟委员会根据《数字服务法》(DSA)针对X平台启动正式调查,并将Grok功能纳入调查范围,重点审查X是否充分评估和降低Grok部署可能造成的非法内容传播、性别暴力及对身心健康产生严重负面影响等系统性风险,其中包括可能涉及儿童性虐待材料的风险。

2026年2月6日,欧盟委员会公布对TikTok长达两年调查的结论,初步认定其”无限滚动、自动播放、高度个性化推荐算法”构成”成瘾性设计”,未能充分评估这些成瘾功能对用户身心健康的影响,包括未成年人和弱势成年人,违反了《数字服务法》(DSA),并认为现有屏幕时间管理和家长控制措施不足以有效降低成瘾性使用风险。委员会据此要求TikTok对产品基本设计进行调整,包括限制无限滚动、加强屏幕休息机制并调整推荐系统。该结论当时仍属于初步调查意见,并非最终处罚决定。

2026年2月17日,欧盟委员会根据《数字服务法》(DSA)对电商平台Shein启动调查程序,调查内容包括可能涉及儿童性虐待材料的违法产品、成瘾性设计、推荐系统透明度等方面。值得注意的是,委员会将“积分、奖励”等促使用户持续参与互动的设计作为成瘾性设计的一部分进行调查。说明“成瘾性设计”已经不是只针对TikTok、Instagram这类社交媒体,而开始扩展至电商平台。

2026年3月26日,欧盟委员会根据《数字服务法》对Snapchat启动调查程序,认为Snapchat相关内容涉及招募未成年人参与犯罪活动,向儿童传播毒品等非法商品信息,向未成年人销售电子烟和酒精等年龄限制产品等问题。

2026年4月15日,欧盟委员会宣布其年龄验证解决方案已经具备技术部署条件。应用旨在让欧盟用户证明其年龄足以访问法律上限制年龄的网站,如起始年龄须年满18岁才能访问色情、赌博等成人限制在线内容。应用可以在用户无需提供进一步个人信息的前提下确认用户是否达到某一年龄范围,并敦促成员国加快应用推广。

2026年7月10日,欧盟委员会初步认定Meta因Instagram和Facebook的成瘾设计违反了《数字服务法》(DSA),调查重点包括无限滚动、自动播放、推送通知以及平台高度个性化的推荐系统等功能。委员会调查显示,Meta未能充分评估其成瘾设计对用户身心健康的风险,包括未成年人和弱势成年人,且Meta目前的缓解措施未能有效应对其成瘾设计带来的风险。

2026年7月24日,欧盟委员会再次针对TikTok发布初步调查结论,认为TikTok的未成年人账户默认安全设置不符合《数字服务法》(DSA)要求。委员会指出,未成年人用户可以选择将账号设置为“公开”。这意味着任何用户都可能观看未成年人的内容。该设置还允许通过“为你推荐”,推荐大龄未成年人发布的内容被推荐给其他TikTok用户,这可能导致未成年人用户受到网络欺凌、诱骗等风险。委员会据此初步认为,TikTok应该进一步强化未成年人账户的隐私设置,默认情况下账号仅应对该未成年人用户已关注的用户可见,并且不应通过“为你推荐”(ForYouFeed)页面向其他用户推荐未成年人内容。


成员国

2021年4月9日,荷兰数据保护局(AutoriteitPersoonsgegevens)对TikTok处以75万欧元罚款。原因是TikTok向大量儿童用户提供的隐私信息是英文,导致儿童无法充分理解TikTok如何收集、处理和使用其个人数据。该案调查后来还涉及TikTok隐私友好设计、儿童数据处理及父母同意等问题。

2022年9月15日,爱尔兰数据保护委员会(DPC)对Meta旗下Instagram处以4.05亿欧元罚款,调查对象就是儿童个人数据。委员会认为,Instagram允许儿童使用商业账号功能时,邮箱、电话号码被公开披露,且儿童Instagram账户默认为公开状态违反了数据保护的相关要求。

2023年7月,法国通过第2023-566号法律设立15岁”数字多数年龄”,要求15岁以下注册社交媒体须经父母授权、由法国视听与数字通信监管局(ARCOM)认证年龄验证方案,违者可处全球营业额1%罚款,但因与欧盟DSA的协调问题迟迟未能落地。2026年1月27日,法国国民议会进一步通过禁止15岁以下未成年人使用社交媒体的法案《保护未成年人免受使用社交媒体所带来风险的法律》,并于7月21日完成正式立法,成为欧洲首个出台此类禁令的国家。但8月中旬,法国宪法委员会裁定该禁令过度限制通信自由、不符合比例原则而构成违宪,裁定核心禁令条款违宪并予以撤销。宪法委员会认为,保护未成年人免受社交媒体成瘾、孤立、色情诱惑、网络骚扰和欺诈等风险属于正当目标,但相关禁令覆盖范围过广,未根据平台功能、内容及实际风险加以区分,也未考虑未成年人的年龄、成熟程度、家庭情况等个体差异,因而对交流自由造成“不必要、不适当且不成比例”的限制。

除欧盟层面的监管外,多个成员国自2025年以来相继推动社交媒体最低年龄和年龄验证制度。西班牙于2026年2月3日宣布拟禁止16岁以下未成年人访问社交媒体,并要求平台实施有效年龄验证。丹麦政府于2025年10月提出禁止15岁以下儿童使用更多社交媒体,但允许13岁以上儿童经父母同意使用。挪威政府则于2026年4月宣布拟向议会提交法案,将社交媒体最低年龄设定为16岁,并明确由科技企业承担用户年龄验证责任。希腊于2026年4月宣布,2027年1月1日起,15岁以下儿童不得使用社交媒体,并要求平台实施可靠的年龄验证和现有账户重新验证机制。此外,欧洲议会研究服务局2026年的研究显示,欧盟多个成员国已经采取、提出或正在考虑设置社交媒体最低年龄。


// 亚太地区



澳大利亚

2024年11月,澳大利亚联邦议会通过《2024年网络安全修正(社交媒体最低年龄)法》(Online Safety Amendment(Social Media Minimum Age)Act2024),并于2025年12月10日正式实施,要求被认定为年龄限制型社交媒体平台采取“合理措施”,防止16岁以下用户持有账户,平台违反义务最高可处4950万澳元罚款。 Facebook、Instagram、TikTok、Snapchat、X、YouTube等主要平台均被纳入适用范围, 澳大利亚电子安全专员(eSafety)负责承担平台合规监督职责,2026年1月公布数据显示,相关平台已移除约470万个被识别为16岁以下的账户访问权限。

2026年3月,eSafety又对Facebook、Instagram、Snapchat、TikTok和YouTube开展合规评估并指出存在重大合规疑虑,包括未能提供便捷或有效的报告年龄限制账户的途径,现有措施不足以防止16岁以下未成年人新建账户等。 6月底,澳大利亚政府提出修法,将平台违反最低年龄义务的最高民事罚款由4950万澳元提高至9900万澳元,同时扩大eSafety获取平台信息和开展执法调查的权限。


马来西亚

马来西亚2025年通过的《Online Safety Act 2025》及其配套制度,将社交媒体和大型互联网服务提供商纳入更严格的在线安全监管框架,明确16岁作为社交媒体账户最低年龄的政策方向,并要求平台承担年龄确认和阻止低龄用户注册、持有账户的责任。2026年,马来西亚通信与多媒体委员会(MCMC)进一步推进年龄验证机制,要求平台探索利用政府身份证明等方式确认用户年龄。


印度尼西亚

印度尼西亚于2025年颁布第17号政府条例(PP No.17 Tahun 2025,PP TUNAS),即《电子系统提供者儿童保护治理条例》,要求电子系统提供者针对儿童提供数字服务时进行风险识别和分类,并采取内容过滤、儿童友好型举报机制、快速补救等措施。2026年3月,通信与数字事务部又颁布第9号部长条例(PermenKomdigi No.9 Tahun 2026),作为PP TUNAS的实施细则,正式构成目前印尼儿童数字保护制度的具体实施依据。具体来说:13岁以下儿童仅可注册使用专门为儿童设计的低风险网络服务账户,且必须征得父母同意;13至16周岁儿童可注册使用低风险网络服务账户,但仍需征得服务同意;16至18周岁儿童经父母同意,可以注册、使用网络服务账户。因此,印尼的立法特点不是单纯设置统一的社交媒体最低年龄,而是要求平台根据儿童年龄和服务风险采取差异化保护措施。


新加坡

新加坡信息通信媒体发展局(IMDA)于2023年7月18日发布的《网络安全操作守则》(Online Safety Code)要求具有较大影响力的社交媒体服务建立系统性的在线安全措施,包括针对儿童采取更高水平的保护措施、降低儿童接触有害内容的风险,并建立风险评估、内容治理、用户举报和申诉等机制。 此后,新加坡又将监管进一步延伸至年龄保障,要求指定的应用分发服务平台(ADS)实施年龄保障措施,以防止不满18周岁儿童下载和使用不适龄应用。


第二部分 全球诉讼、监管重点


上述诉讼与处罚虽跨越不同法域,但指控结构较为趋同,主要可归纳为六方面问题。

一、成瘾性设计认定

成瘾性设计是当前在行政和司法案件中最为关注的问题之一。相关机制虽然使用addictive design、persuasive design、design features contributing to excessive use等不同概念,但关注的共同问题是:平台是否通过产品设计持续捕获用户注意力、强化重复行为、延长使用时间,并削弱用户主动停止使用的能力。无限滚动、自动播放、推送通知、个性化推荐、连续互动、可变奖励、社会反馈、游戏化奖励、限时/消失内容、稀缺性以及已读回执等均被认定可能导致儿童成瘾或过度使用。例如美国卫生局在一篇关于屏幕使用危害警告的报告中指出,无限滚动、自动播放、算法推荐、连续打卡奖励等功能设计会促进用户使用,并建议允许儿童和家长选择退出。

二、儿童身份识别与年龄验证

儿童身份识别作为网络平台履行保护职能的前置性措施,自2024年以来,欧盟、美国围绕网络平台年龄认证机制的诉讼与行政案件频发,经粗略统计目前相关案件已超过五起。这些案件的争议核心,主要是平台是否采取了有效技术措施识别儿童用户的年龄,以防范接触成人内容等不适宜信息。在儿童年龄识别机制的构建上,不同国家和地区对责任主体的规范路径存在明显差异:比如自2026年起,西班牙、挪威先后宣布拟禁止不满十六周岁儿童访问社交媒体服务,并且明确规定网络平台应当承担用户年龄验证与识别的主体责任;而为了在保护用户个人信息的前提下实现未成年人年龄识别,推动《数字服务法》落地实施,欧盟早在2025年7月就发布了统一的年龄验证解决方案,并在2026年4月公开宣布该技术已经具备部署条件,督促成员国采纳实施。马来西亚2025年通过的《Online Safety Act 2025》及其配套制度,将社交媒体和大型互联网服务提供商纳入更严格的在线安全监管框架,明确16岁作为社交媒体账户最低年龄的政策方向,并要求平台承担年龄确认和阻止低龄用户注册、持有账户的责任。马来西亚为执行社交媒体账户最低年龄政策,通信与多媒体委员会于2026年要求平台探索利用政府身份证明等方式确认用户年龄。

三、社交媒体管理

儿童基于使用社交媒体所引发的成瘾、内容安全、行为风险等也成为近年来各国家和地区关注重点。但在社交媒体管理方面,目前国际思路存在较大区别。2024年11月28日,澳大利亚联邦参议院通过《2024网络安全(社交媒体最低年龄)修正案》(“Online Safety Amendment (Social Media Minimum Age) Bill 2024”),禁止不满十六周岁儿童使用多数社交媒体,据此,澳大利亚成为世界上第一个通过立法全面限制不满16岁未成年人使用多数社交媒体的国家。英国在Molly Russell案中认定社交媒体的信息推荐机制对儿童带来的负面影响,并推动了《在线安全法案》的通过,2026年6月,英国宣布禁止16周岁以下人群使用部分主流社交媒体的立法。截止目前,西班牙、马来西亚、印度尼西亚等国家也先后出来限制未成年人使用社交媒体的法案。

综合来看,可以总结出当前关于未成年人使用社交媒体管理的几种思路:一是如澳大利亚,全面限制不满十六周岁儿童使用多数社交媒体服务;二是如印度尼西亚,根据儿童不同年龄段作为接受不同风险程度网络服务的划分标准;三是如新加坡,不直接禁止儿童使用社交媒体服务,但要求具有较大影响力服务提供者采取更有利的安全保护措施。此外,2026年1月,法国国民议会通过禁止未成年人使用社交媒体的法案,但8月中旬,宪法委员会裁定该法案过度限制通信自由,因违反宪法被撤销。由此可见,对于未成年人社交媒体使用的监管仍处在探索阶段,如何在保护儿童身心健康、规避网络风险的同时,平衡未成年人享有的数字时代通信自由与发展权利,是各国立法需要解决的核心问题。

四、儿童用户个人信息处理

因处理儿童用户个人信息引发的案件主要集中在行政处罚层面,且问题几乎覆盖了个人信息处理规则公开,以及信息收集、存储、使用、公开和删除的全流程。2021年4月,荷兰数据保护局就曾对TikTok作出罚款处罚,原因是该平台仅向儿童提供英文版本的隐私政策,导致儿童用户无法充分理解其关于个人信息收集、处理和使用的相关规则。2023年,美国联邦贸易委员会接连对Edmodo、亚马逊和微软作出处罚,这三家企业分别对应在线教育、智能语音助手和在线游戏平台领域,处罚事由包括未经家长同意收集儿童信息、未披露个人信息收集范围和收集原因、违规利用儿童信息开展算法训练等。此后,美国各州层面、英国也先后出现了多起同类处罚案件。由此可见,当前全球范围内针对儿童个人信息处理的合规标准正在持续收紧,行政执法机构的监管重点也从形式合规转向实体合规。

五、网络性虐待侵害防治

儿童性剥削作为国际治理重点,基于网络环境引发的儿童性虐待材料(CSAM)传播问题也逐渐成为各国监管和治理方向。从现有案例来看,监管方向一方面包括对网络平台现有安全措施,如年龄验证、儿童账户保护、内容识别审查等的有效性审查,是否达到识别和阻止儿童性虐待材料,或避免儿童接触相关风险;另一方面,也包括对方司法机关对于网络平台发起的诉讼。例如,2023年,新墨西哥州司法部针对Meta平台开展卧底调查,工作人员创建伪装成未成年人的诱饵账户,发现这些账户很快受到成年人的性接触和诱导,并据此对Meta提起诉讼。2026年3月,陪审团最终认定Meta在平台安全问题上误导消费者并危害儿童,认定其违反州消费者保护法,判处3.75亿美元民事罚款。

六、AI聊天机器人监管

随着生成式人工智能技术的发展应用,AI聊天机器人基于拟人化、无限迎合等特质所引发的个案也陆续曝光。2024年美国佛罗里达州14岁少年Sewell SetzerIII受AI聊天机器人诱导自杀,次年美国联邦贸易委员会依据《联邦贸易委员会法》向多家公司发起调查令,AI聊天机器人对于儿童影响即属于调查范围之一。2026年6月,英国政府宣布拟进一步加强对AI聊天机器人的儿童保护,提出主要用于提供性关系的“浪漫伴侣”类AI聊天机器人不得向18岁以下儿童提供;对于一般用途AI聊天机器人,则要求用户在使用能够进行露骨性互动的功能时证明其已年满18岁。这表明,全球监管体系正针对AI聊天机器人的技术特性,构建面向儿童的分层防护机制,以应对人工智能场景下新型儿童权益侵害风险。


第三部分 成因机制及控辩意见


一、平台成瘾性设计控辩意见

以K.G.M v. Meta和New Mexico v. Meta为例。在K.G.M v. Meta案件中,时年17岁的原告(Kaley Glenn-Mills)起诉平台,声称她自幼起开始使用社交平台,平台的设计使其被迫沉迷,导致她患上焦虑、躯体认知障碍等心理疾病。原告主张平台承担侵权责任,要求平台赔偿其心理健康损害。Meta和YouTube委托律师坚持开庭,认为他们具有强有力的法律抗辩,即原告难以证明社交平台成瘾和人身损害存在因果关系。而New Mexico v. Meta中,检方通过公共妨害理论主张平台应对州内的未成年人心理健康损害承担责任。根据案件起诉状、上诉状、法院驳回动议书和判决书,我们将各方观点总结如下。

1. 原告与初审法院主张及理由



(1)平台的设计是造成心理健康损害的重要因素

原告通过提交专家证言、分析成瘾性设计作用链条来构建因果关系。K.G.M和New Mexico的案件中,均援引了美国卫生部报告,指出平台提升用户参与度的设计会对儿童造成损害。K.G.M中,原告认为,平台设计并不是与心理健康损害无关的中性工具,而是导致其持续使用平台并接触有害内容的重要因素。原告律师将YouTube和ins比作为网络赌场,无限滑动就像是老虎机的下拉把手,连续的通知推送,迫使她不停使用社交媒体。平台设计还给她推送有害且致郁的内容,怂恿她实施自残行为,使她进行不良社会比较并出现身体认知问题。原告提交了专家证言,称平台的一些功能设计能够造成原告所述的精神伤害。这些设计迫使她观看不良内容,是造成她心理健康受损的重要因素;在新墨西哥案中,原告提交专家证言,认为社交媒体的使用是导致部分未成年人心理疾病的直接原因。并称有研究表明,使用社交媒体的时间越长,未成年人身心受到损害的风险越大。因此,平台的成瘾性设计迫使未成年人增长使用时间,平台应对心理健康损害承担责任。


(2)平台明知或者应当知道相关设计存在风险

根据Meta内部研究和内部人员证言,Meta明知无限滚动、自动播放等设计能够促使用户持续使用社交媒体且明知这些设计具有成瘾性。此外,Meta明知未成年人由于身心尚处于发展过程,更容易受到这些设计的影响,沉迷于社交媒体的使用,但Meta仍不断强化该设计以提升用户参与度并获利。


(3)平台在设计和运营上存在过失

在K.G.M中,原告认为Meta没有充分警告未成年人及其父母Instagram的成瘾性和相关心理健康风险。原告并不知道平台的设计存在缺陷和致害风险,如果Meta有告知产品可能存在的风险,家长知晓风险就不会允许孩子继续使用该平台。


(4)平台设计行为构成公共妨害

New Mexico v. Meta案中,新墨西哥州检方以公共妨害(public nuisance)为重要法律依据,主张Meta经营的Facebook、Instagram等社交媒体平台对未成年人造成持续、广泛的心理健康和安全危害。法院认为平台的设计与运营行为构成公共妨害。认定公共妨害的关键在于Meta是否不合理地干扰了公众共同享有的一项权利。法院将平台的行为类比为工厂污染,工厂获利的同时,向公共环境排放了污染,产生公共危害并由公众承担,工厂的行为构成公共妨害需要承担相应的责任。同理,平台通过广告、用户注意力获利,但将心理健康危害、成瘾、性剥削风险等成本转移到儿童、家庭等外部社会上。法院将儿童心理健康认定为公共利益,平台的设计损害了未成年人心理健康进而加重了学校、医院、执法机构等公共资源等负担。因此法院认为,平台的行为构成公共妨害,需要承担相应的责任。


2. 被告平台的抗辩及理由

被告主张平台对原告的心理损害不负赔偿责任,主要围绕三个问题展开:Section 230免责、第一修正案保护以及因果关系和侵权责任构成要件不足。



(1)平台受到《通信规范法》第230条保护而免责

根据Section 230规定,交互式计算机服务提供者作为第三方内容的出版者或发言人(publisher or speaker)享有广泛的豁免权,不因用户生成的第三方内容承担责任。Meta认为,原告的精神损害是由第三方上传的内容导致的而非平台责任。无限滚动等设计只是让原告观看第三方发布的内容,帮助用户更好地获得想要的信息,而非伤害用户。平台将其功能设计比作传统新闻媒体所使用的吸人眼球的头版和筛选引人驻足的信息以获得流量和收益,平台在此过程中仍扮演发行者(publisher)的角色,受到section 230免责保护。

法院认为,原告一直使用ins而非Facebook观看内容,可能与ins中的功能设计有关(正是因为ins的功能设计导致原告长期使用该平台观看不良内容造成心理健康损害)。

但是平台认为,原告并未对具有相同功能设计的Facebook“上瘾”,说明真正导致问题的不是“功能本身”,而是Instagram通过这些功能向她呈现的第三方内容。原告主张Instagram的功能设计使用户成瘾,但Meta认为所谓“成瘾性功能”只有在这些功能承载、筛选和传播第三方内容时才产生所谓效果。因此平台的功能设计并不能脱离第三方内容独立发挥作用导致原告成瘾并受心理损害。没有第三方内容,无限滚动、点赞、推荐等功能本身并不会造成原告所主张的心理伤害。


(2)平台设计受第一修正案言论自由保护

Meta主张平台的发布和传播第三方信息受到第一修正案的保护。平台做的只是基于自身价值取向将第三方发布的内容进行排版和选择,正如传统报纸选择和排版内容一样,Meta如何组织和呈现第三方言论是受到言论自由保护的表达。此外,平台主张传播散布他人合法言论也受到言论自由的保护。平台认为原告所称的“有害内容”,如来自其他用户的负面评价、造成原告焦虑但属于他人表达自由的点赞,均受到言论自由的保护。因此原告的请求直接针对Meta言论自由的表达,并将迫使Meta改变其组织排版内容的方式,该请求违反第一修正案。


(3)原告无法证明平台负有侵权责任

第一,原告无法证明平台的设计与其损害之间存在因果关系。平台认为证明因果关系的方法主要包括事实因果关系证明(but-for cause)、重要因素证明和医学专家证明。关于事实因果关系,原告无法证明如果原告没有使用Instagram,她就不会遭受这样的精神损害;关于重要因素证明,原告无法证明平台的设计是导致其心理损害的重要因素。平台主张家庭才是导致原告心理健康损害的主要因素,而非社交媒体。。原告的心理健康问题主要受到家族精神疾病史影响。原告的姐姐有进食障碍,原告的母亲曾患有抑郁症,根据专家证言,这会导致原告比一般人患上抑郁症的概率高出2-4倍。平台还提交了医疗记录表明社交媒体成瘾并不是其接受心理治疗时关注的重点;关于医学专家证明,Meta认为原告没有提供适格的专家证言证明在医学上平台设计与心理损害存在合理的因果关系,没有任何科学证明表示平台导致沉迷。


第二,原告的证据不足以证明平台存在未进行风险提示的过失。若要证明平台存在过失,需要证明如下三点:一是平台有义务进行风险提示,二是一个合理的平台应该作出风险提示,三是提示将会避免原告所受的伤害。平台主张原告无法证明上述任一条件。首先,平台没有义务作出风险提示,因为平台不知且不应当知晓设计存在或可能存在危害。根据先例规定,平台只需知晓当时主流科学医学知识,而在原告开始使用Instagram的几年内,未有科学证明社交媒体与心理健康危害之间存在因果关系。同时,在原告注册Instagram账号时,尚未出现原告所控诉的功能设计,平台在当时根本无从警告。并且,目前为止科学界仍未有主流观点证明社交媒体存在危险,因此,Meta不知晓设计存在危险也不负有警告提示的义务。其次,即使假设平台存在提示义务,原告也无法证明一个合理的平台会作出风险提示。许多平台和网站都存在原告所称的“成瘾性设计”,但没有证据表明这些平台网站曾进行过风险提示,更遑论在2015年这样做是合理的。


第三,若想要成立未提示风险过失与心理损害之间的因果关系,需要证明平台未进行风险提示是造成原告损害的重要因素。然而原告无法证明这一点。假设原告家长最初看到了风险提示,由于家长不知晓孩子何时开始使用的Instagram,家长无法阻止后续的损害。同时,有记录显示原告在注册时并未阅读Instagram的服务条款,即使平台进行了风险提示,原告也不会阅读,这样也无法阻止后续损害发生。另有证据表明,即使原告知道平台有限制功能可以帮助其限制使用时长,原告也不会选择开启限制功能。平台律师强调所谓成瘾性功能是可以被关闭的,如果不想使用,就可以关掉,那么视频滚动将不会是无限的。因此,原告无法证明如果存在平台警告提示将会极大程度上减少或者避免原告所受的伤害。


二、平台处理儿童信息案中监管机构的主张

与成瘾性设计案件主要通过民事侵权诉讼解决不同,儿童个人信息问题通常由监管机构通过行政调查、行政处罚或者和解方式处理。美国主要监管机构为联邦贸易委员会(FTC),英国则主要由ICO负责。美国的主要法律依据包括《儿童在线隐私保护法》(COPPA),英国则主要适用UK GDPR中关于儿童个人信息保护的规定。监管机构一般主张如下:

1. 平台是儿童隐私保护法的规制对象。尽管部分平台声称其面对的是普通群众,不适用相关儿童隐私保护法,但监管机构调查认为,平台有专门面向儿童的栏目或频道,向第三方公司营销平台是“top destination for kids”,并且存在儿童内容的分类项目。为此监管机构认为平台是相关儿童隐私保护法的规制对象,应当遵守相应的法律规定。

2. 平台明知用户是13岁以下儿童仍收集其信息。平台将某些频道划分为0-7岁儿童观看的内容,监管机构据此认为平台知道某些频道是专门面向儿童的,但仍通过持续性标识符追踪并收集儿童信息,用以投放定向广告并获得巨大收益。

3. 违法收集、使用、处理儿童信息。依照COPPA和GDPR规定,收集、使用、处理儿童信息需要提前通知家长或者征得家长同意,但是平台直接按照一般用户数据的方式收集、使用、处理儿童信息,未获得家长授权,用于如定向投广等商业目的违反儿童隐私保护法的规定,侵害儿童隐私与个人信息。此外,有的平台如TikTok还建立了复杂、难以使用的删除申请机制,并在大量情况下没有及时回应父母请求。

三、平台年龄认证机制中各方主张

在该类案件中,监管机构往往认为平台在年龄认证机制上存在缺漏或不足,导致儿童进入普通模式而非专门针对儿童的安全模式,进而面临接触不良内容或信息过度收集的风险。平台会认为已有的年龄认证机制具备合理性,符合比例原则并且能更好地保护言论自由。

1.监管机构主张



(1) 年龄门槛机制存在缺陷,无法有效识别儿童

如TikTok长期以来通过要求用户填写出生日期来判断其是否达到13岁。如果用户填写的出生日期显示其已满13岁,便可以进入普通页面并使用完整功能。机构还发现,儿童能够在第一次输入真实年龄后重新启动注册程序,并再次输入一个显示其已经13岁的虚假生日,从而创建普通账户。换而言之,TikTok此前已经通过第一次注册知道该用户可能未满13岁,但系统仍允许其再次尝试并修改年龄。此外,监管机构认为,TikTok存在了一个可以绕开年龄认证的渠道,即通过使用第三方平台如Instagram和Google的账号凭证可以直接在TikTok上注册一个“年龄未知”的账号。还有的平台如reddit,虽然规定13岁以下儿童不得创建帐户,但没有建立相应的验证机制,甚至没有要求用户申报年龄。


(2)平台明知儿童虚报年龄且存在儿童用户

平台及其员工长期知道儿童会通过虚报年龄来通过年龄门槛。并且有内部文件表明很多用户会在age gate中填写虚假信息。


(3)平台具有更准确的年龄识别技术,却未采用

平台已经拥有更准确的年龄判断技术,即“grade level”。该技术是根据用户在平台上的行为及其他指标进行年龄判断,具有更强的客观性。然而,监管机构认为 TikTok 没有将这一技术有效用于识别和删除普通平台上的13岁以下用户。因此,平台的年龄认证机制存在严重漏洞,平台在实际知道儿童存在的情况下,未经通知其父母或获得同意,违法收集、使用、处理儿童的个人信息,用以个性化推荐、定向广告或分享给第三方公司。同时,由于年龄认证的漏洞,儿童在使用平台时缺乏青少年模式,从而会接触到成年内容,包括色情、自残、自杀等有害内容,侵害未成年人权益。


2. 平台抗辩理由



(1)自我申报年龄效果有限

如reddit认为,“收集年龄”并不等于真正有效的年龄认证。仅仅让用户自己填写年龄或出生日期,并不能有效保护儿童,因为儿童可能会虚报年龄。因此,平台不设置年龄自我申报机制是合理的。


(2)年龄认证损害平台的匿名性和隐私

平台认为,用户之所以愿意在平台讨论一些敏感问题,与平台所提供的匿名环境密切相关。如果要求所有用户提供年龄、出生日期、身份信息等其他个人信息以认证用户是否是儿童,可能会破坏匿名性,导致用户不愿意发表真实意见。


(3)儿童用户仅占少数,不符合比例原则

例如,reddit表示自己平台96%的用户年龄超过18岁,接近99%的用户年龄超过13岁。为了保护少数儿童,要求绝大多数成年用户提供额外的个人信息,平台认为这违反了比例原则。


(4)年龄认证技术存在不确定性

平台认为年龄认证技术在相关时期仍处于发展阶段。不同年龄认证技术的准确性不同,有些技术并未被充分证明有效,某些技术本身会产生新的隐私风险,监管机构之间也没有形成统一的技术要求。因此 平台认为采取谨慎态度不轻易设置或改变年龄认证技术,是为了避免为了儿童保护而引入新的隐私风险。


(5)年龄认证问题涉及言论自由

平台认为,当前的年龄认证设计,是保护儿童安全与保护言论自由平衡的结果。如果严格设置年龄认证,将会增加成年人自证的负担,影响成年人获取受保护表达内容的权利。


四、AI聊天机器人责任归属

以Sewell Setzer III案为例,其母亲Megan Garcia的核心主张为:



(1)Character.AI产品设计存在缺陷

软件属于侵权法意义上的 “产品”,并非仅受第一修正案保护的言论服务。产品刻意采用高风险拟人化设计,如模仿人类语气,AI 角色经常谎称自己是人类等,设计上追求用户粘性而非安全。这些设计并非实现产品功能的必要条件,但会对前额叶尚未发育完全的未成年人造成可预见的心理伤害。平台会生成性化内容、自杀鼓励内容,同时缺少有效的过滤防护,即便触发过滤弹窗,有害输出仍然继续出现。


(2)未对风险尽到告知义务

Character.AI在应用商城的适龄级别为“12+”分级,向公众传递适合低龄儿童的错误信号。但平台明知产品存在性剥削、心理伤害、自杀诱导风险,却没有向家长、未成年人作出充分的风险警示。尽管后期修改为“17+”,但已经对Sewell造成的伤害无法挽回。


(3)漠视自杀危机,缺少危机干预机制

当Sewell表达自杀意念时,系统并未断开对话或引导真人心理救助,也没有通知监护人。而是通过“Please do, my sweet king(请这么做,我亲爱的国王)”相关表述,进一步强化Sewell的极端行为意愿,直接助推悲剧发生。


针对原告提出的各项过错,Character Technologies的核心抗辩意见为:



(1)AI 生成内容受第一修正案保护

Character Technologies主张,Character.AI的生成内容属于言论自由范畴,应受到第一修正案的保护。用户与 AI 角色的交互模式,与电子游戏中的非玩家角色(NPC)、社交媒体平台上的人际互动具有同质性,而后两者均已被美国联邦最高法院认定属于受第一修正案保护的表达范畴。为此,原告的诉讼请求实质上是要求限制 AI 生成言论的内容与传播,构成对言论自由的非法限制,因此其诉求应被第一修正案排除。


(2)Character.AI属于服务,不适用严格产品责任

Character Technologies认为,针对原告认为本案属于产品责任的诉求,Character.AI不应被认定为产品,严格产品责任规则不应适用。具体来说,传统产品责任的适用对象为有形动产,而 Character.AI 的核心是提供交互式 AI 对话服务,其输出属于思想、信息、表达类的无形内容;其次,司法实践中通常不将思想、表达、创意等无形内容认定为产品,若将产品责任扩张至 AI 生成内容,违背产品责任制度的立法目的。


(3)Character.AI对死者不负有法定注意义务

Character Technologies认为,侵权法上的注意义务以特殊关系为前提,被告与死者 Sewell之间不存在监护、管控等特殊关系,因此没有法律义务防止死者的自伤行为。针对原告提出被告违反《佛罗里达州计算机色情与儿童剥削防治法》,辩称原告没有充分的事实指控证明 AI 在网络上模拟了性行为,无法满足该法条的适用要件;针对原告“未履行警示义务”的主张,则辩称原告未能证明自身有监控孩子使用电子设备、使用家长控制功能或阅读软件警告的习惯,因此警示缺失与死者死亡之间不存在因果关系。



第四部分 启示与讨论


一、我国现有治理机制下,其他规制措施的必要性讨论

与国外大多数国家的规制逻辑不同,自2021年施行《未成年人保护法》(2020年修订)以来,我国就采取了源头监管的治理逻辑。在公众高度关注的网络沉迷归因——网络游戏管理方面,要求建立统一的未成年人网络游戏电子身份认证系统,作为识别、管理未成年人游戏服务的前置性措施。同年,国家新闻出版署发布《关于进一步严格管理切实防止未成年人沉迷网络游戏的通知》,将未成年人游戏时段严格限制在每周五、周六、周日和法定节假日每日20时至21时,并对不同年龄段未成年人游戏充值消费金额作出相应限制。在社交媒体、音视频等网络服务方面,则通过“未成年人模式(此前称青少年模式)”以实现有害内容过滤、使用时间管理、风险功能屏蔽等能力。此后《信息技术 网络游戏未成年人监护系统技术要求》《网络安全技术 移动互联网未成年人模式技术要求》等国家标准相继落地,进一步细化法律层面的强制性要求。

可以说,按现有的制度设计,未成年人接触互联网过程中可能引发的使用成瘾、不当内容、高风险行为、过度消费等核心问题已经通过法律、标准予以回应并在事前阶段过滤阻隔。那么在我国这一治理逻辑下,是否还需要对国际层面热议的成瘾设计、年龄识别、社媒管理等具体问题进行讨论、规制呢?笔者认为是有必要的。

一是要看到现有机制的局限性

不论是网络游戏电子身份认证还是未成年人模式,从保护机制的启动方式来看,都严格依赖于用户触发。其实际保护效果不仅取决于平台是否提供相关功能,更取决于未成年人、监护人是否知悉、选择并使用。但就当前情况来看,后者实际情况并不理想。我中心在2024年发布的《县域未成年人网络消费调研报告》数据显示,县域未成年人上网时间过长,超过80%未成年人周末及节假日玩网络游戏时间超过国家规定;未成年人使用青少年模式比例低,对于内容质量低下、社交功能受限等意见普遍较大。这说明,仅靠未成年人、监护人在用户侧的自发管理,不足以实现未成年人网络保护的目的。

二是“设计安全”“身份识别”已成为法律要求,网络平台应当依法落实

“设计安全”并非近些年才纳入国际层面的议题。我国早在2020年修订的《未成年人保护法》即提出“网络产品和服务提供者不得向未成年人提供诱导其沉迷的产品和服务。”2024年施行的《未成年人网络保护条例》进一步规定,“网络产品和服务提供者应当及时修改可能造成未成年人沉迷的内容、功能和规则。”这意味着,平台本身的内容、功能和规则是否制造或者增加了沉迷风险?已上升为网络平台需要考量的法律责任,具有明显的设计安全逻辑。而在身份识别问题上,针对当前未成年人网络保护痛点问题,立法也展开了相关探索。例如《人工智能拟人化互动服务管理暂行办法》提出,拟人化互动服务提供者应当在保护用户隐私权和个人信息的前提下,采取有效措施识别未成年人用户身份。因此,与其说上述机制是国际层面近年凸显的新问题,不如说是在未成年人网络保护治理工作不断探索下,如何在我国现有法律制度框架进行落实,使其发挥应有效用。


二、“可能造成未成年人沉迷的内容、功能和规则”认定

《未成年人网络保护条例》施行近三年以来,《可能影响未成年人身心健康的网络信息分类办法》《未成年人用户数量巨大和对未成年人群体具有显著影响的网络平台服务提供者认定办法》等配套文件已经相继出台。第四十二条关于“网络产品和服务提供者应当及时修改可能造成未成年人沉迷的内容、功能和规则”尽管自公布之初就受到广泛关注,但目前仍无关于进一步细化落实的文件或标准讨论。欠缺具体的认定办法,条例所提出的禁止提供、及时修改等法律责任不满沦为空谈。在这一方面,英国、美国和欧盟已相继在针对TikTok、Instagram等大型平台行政案件,以及官方指南等文件中陆续回应。这与条例所强调的可能造成未成年人沉迷的内容、功能和规则具有一定的契合性,相关探索经验或可以为我国的规则细化提供参考。本文将当前国际关于成瘾性设计梳理总结如下,以期引发进一步讨论和关注。



(一)无限滚动(infinite scroll)

无限滚动是指用户不断向下滑动,平台持续加载新内容,没有明确的结束点。

欧盟委员会2026年TikTok成瘾性设计案件、2026年Instagram和Facebook成瘾性设计案件均将infinite scroll列为重点成瘾性设计;Ofcom 2026年《Exploring the relationship between persuasive design on online platforms, and the time that children spend on them》也将无限滚动纳入persuasive design研究;英国CDEI 2020年《AI Barometer》进一步将infinite scrolling列为可能导致addictive behaviour的persuasive design。其核心机制是取消自然停止点,使内容消费形成连续流,降低用户主动结束使用的可能性。


(二)自动播放(autoplay)

自动播放是指视频自动播放结束后直接开始下一个内容自动播放,无需用户操作。

欧盟委员会2025年《Guidelines on the protection of minors under the Digital Services Act》将autoplay列为会促成过度使用、建议对未成年人默认关闭的功能;2026年TikTok及Meta成瘾性设计案件均进一步将autoplay纳入成瘾性设计调查/初步认定。


(三)推送通知、召回机制(push notifications)

欧盟委员会2025年《未成年人保护指南》将push notifications列为可能促成过度使用的功能;2026年TikTok和Meta案件均将push notifications列为成瘾性设计。Ofcom 2026年研究以及英国CDEI 2020年《AI Barometer》也将notifications列为persuasive design。其核心机制是在用户离开平台后重新唤起注意力,刺激用户返回。


(四)高度个性化推荐(highly personalized 

recommender system)

这一设计是利用用户行为数据不断预测用户最容易继续观看什么,再把这些内容持续推送给用户。欧盟委员会2026年TikTok和Meta案件均将高度个性化推荐系统列入成瘾性设计。Ofcom 2026年研究将personalised algorithms纳入persuasive design。英国CDEI 2020年《AI Barometer》指出,平台利用算法和用户数据学习用户最可能参与的内容,并以提高持续参与的方式呈现。个性化推荐本身并非当然等于成瘾性设计,监管关注的是其与持续参与目标、其他强化功能结合后产生的风险。


(五)连续互动/Streaks

连续互动包括连续签到、连续聊天、连续观看等,一旦中断,之前积累的成果会消失。欧盟委员会2025年《未成年人保护指南》明确将communication streaks列为会促成过度使用的功能,并建议默认关闭;Ofcom 2026年研究将visible streaks and counters纳入persuasive design。其核心机制是使用户为了维持连续记录而持续登录、互动,停止使用会产生中断或损失感。


(六)可变/间歇性奖励

可变性奖励是指每一次操作之后得到不确定的奖励。英国CDEI 2020年《AI Barometer》明确把variable rewards列为persuasive design,并专门分析variable interval reward schedules:用户在经过不确定时间或操作次数后获得特别有吸引力的内容。FTC委员Bedoya 2023年官方讲话也将intermittent variable rewards列为社交媒体延长青少年使用时间的设计策略;Ofcom 2026年研究进一步从reward-based design角度分析奖励机制。其核心机制是利用不确定奖励形成期待—操作—奖励—再次操作的循环。


(七)点赞、评论及受欢迎程度指标

FTC委员Bedoya 2023年官方讲话将quantified public popularity that enables social comparison列为persuasive design策略;Ofcom 2026年研究则将likes、comments等社会互动功能纳入social influence相关机制。其核心机制是通过社会认可、社会比较和互动反馈强化持续参与。


(八)游戏化、积分、挑战和进度奖励

Ofcom 2026年研究将reward-based features作为四类persuasive design之一,涉及挑战、奖励、进度、连续记录等。相关欧盟EDPB材料也从问题性或强迫性行为风险角度讨论periodic rewards、status/reputation improvements、collection completion和gamification。其核心机制是把普通使用行为转化为任务、竞争和奖励,使用户产生完成目标的动力。


(九)限时/消失内容

欧盟委员会2025年《未成年人保护指南》将ephemeral content列为可能促成过度使用的功能;FTC委员Bedoya 2023年官方讲话列举content that expires within a predetermined window。其核心机制是通过‘现在不看以后就消失’制造即时查看压力。


(十)稀缺性

限时活动、限时奖励、每日任务。Ofcom 2026年研究从scarcity和限时奖励角度分析了‘特定时间才能获得的奖励’如何制造期待和fear of missing out。其核心机制是制造错过损失,使用户产生立即查看和持续检查的压力。


(十一)已读回执

欧盟委员会2025年《未成年人保护指南》明确将read receipts列为可能促成过度使用的功能,并建议默认关闭。该功能通过向用户传递‘对方是否已经看到消息’的信息强化社交压力和即时回应压力。


三、探索建立以未成年人识别为核心的网络保护机制

未成年人网络保护具有明显的前置性特征。沉迷预防、性侵害防治,亦或是人工智能时代下的风险防控等均离不开“未成年人识别”这一基础问题。为此,建立有效的未成年人年龄识别机制,应当成为完善未成年人网络保护制度的重要基础。

《未成年人网络保护条例》已经确立了特定网络服务场景下的真实身份信息核验要求,规定网络服务提供者为未成年人提供信息发布、即时通讯等服务的,应当依法要求未成年人或者其监护人提供真实身份信息;未提供的,不得提供相关服务。但现实悖论是,除非未成年人本人或监护人主动接受实名认证,纳入平台保护范畴,否则平台受限于《个人信息保护法》规定的必要性要求等张力,显然无法通过要求所有用户实名认证的方式识别未成年人。要破解这一悖论,需要探索构建不依赖用户主动申报、依托技术手段实现的被动年龄识别机制,在收集最少必要个人信息的前提下,完成对未成年人用户身份的自动识别,平衡未成年人网络保护与个人信息保护之间的张力。

从国际实践看,欧盟正在探索一种更加注重隐私保护的年龄验证路径。2025年7月,欧盟委员会发布统一年龄验证解决方案的技术蓝图;2026年4月15日,宣布该方案达到技术部署条件。该方案允许用户在访问具有法定年龄限制的网络服务时证明自己达到特定年龄,而无需直接向服务提供者披露、留存真实身份、准确年龄或者其他不必要的个人信息。欧盟实践表明,“年龄验证”与“网络平台留存身份信息”并非不可分割,也与我国早在2021年施行的“未成年人网络游戏电子身份认证系统”在技术构建上存在共通的设计逻辑。

综上,我国或可以推动未成年人网络身份识别由传统的“实名信息核验”逐步向“年龄验证”转变。一方面,可借鉴《人工智能拟人化互动服务管理暂行办法》的要求,要求平台采取技术手段判断用户是否可能属于未成年人,并对未成年人用户采取相应的特殊保护措施,提供申诉渠道。另一方面,也可探索建立国家统一的网络用户年龄验证机制。例如使用“网证”等认证机制,用户注册“网证”账号并使用其注册、登录网络平台时,网络平台仅获取用户“是否未满18岁”或者“是否达到特定年龄门槛”等必要结果的校验信息,而无需重复收集和留存用户姓名、身份证号码等完整身份信息。由此,可以形成从实名制向年龄识别,从身份信息留存向年龄结果验证的转变,在强化未成年人网络保护的同时贯彻个人信息处理的必要性和最小化原则。


往期文章

你问我答|家庭保护与学校保护篇

“小额爱心”二十年,温暖2752名受伤害孩子的人生

在长大的地方,重新看见“为了正义”

本篇文章来源于微信公众号: 致诚儿童