分类归档 中心原创

通过

青少年中心召开“儿童网络保护研讨会”

左右滑动查看更多

为了更好推动中国儿童网络保护的发展,促进社会各界在儿童网络保护方面的交流合作,2024年6月28日下午,北京青少年法律援助与研究中心举办了儿童网络保护专题研讨会。会议邀请了国际儿童保护专家、联合国儿童基金会东亚太平洋区域办公室儿童保护项目主任瑞秋·哈维,团中央维护青少年权益部二级巡视员滕素芬,中国网络社会组织联合会秘书处负责同志,中央网信办网络法治局法规处副处长何思东,全国人大常委会法工委刑法室副处长伊繁伟,最高人民法院民一庭少年审判工作办公室四级调研员倪俊龙,公安部刑侦局打拐办副处长王永灿,国务院妇儿工委办公室儿童处二级主任科员王新宇,北京师范大学新闻传播学院党委副书记、未成年人网络素养研究中心副主任祁雪晶,首都师范大学政法学院社会学与社会工作系教授、北京超越青少年社工事务所主任席小华,北京互联网法院综合审判三庭四级高级法官崔璐,北京市丰台区人民检察院第一检察部检察官助理王颖以及企业代表百度业务监察部高级经理迟慧敏、快手研究院研究员农雅晴等人。北京青少年法律援助与研究中心主任佟丽华以及中心的国内外暑期实习生代表等一同参加研讨会。


本次会议共分为主题发言和圆桌论坛两个环节,北京青少年法律援助与研究中心执行主任于旭坤主持了主题发言环节,圆桌论坛环节由北京师范大学新闻传播学院党委副书记、未成年人网络素养研究中心副主任祁雪晶主持。

北京青少年法律援助与研究中心执行主任于旭坤



主题发言


北京青少年法律援助与研究中心主任佟丽华的发言主题是《中国未成年人网络保护的发展、挑战与机遇》。他认为,中国在未成年人网络保护方面正处于快速发展的阶段,国家制定的《未成年人保护法》、《未成年人网络保护条例》等立法政策初步奠定了我国未成年人网络保护的基础。同时,相关执法、司法部门的改革也在快速推进。但是,中国未成年人网络保护的挑战仍然存在,这主要体现在需推动法律政策的执行、要深入研究网络风险的具体内容、数字时代快速发展引发的对儿童教育的断代现象以及对农村留守儿童关注和保护不足等方面。为此,佟丽华建议应当开展更多基础调研,进一步了解未成年人的上网习惯以及隐藏的网络风险;强化针对农村儿童尤其是留守儿童的网络保护,加强对他们的教育、引导;推动落实平台的主体责任,平台企业可以成为儿童网络保护的重要积极力量。

北京青少年法律援助与研究中心主任佟丽华


会上,国际儿童保护专家、联合国儿童基金会东亚太平洋区域办公室儿童保护项目主任瑞秋·哈维女士做了《东亚太平洋区域儿童网络性侵的流行趋势及采取的行动》的主题发言。她提出,儿童网络保护在全球是值得令人关注的问题。从相关国际机构的统计研究来看,自2019年以来,有关儿童网络性侵材料的报告数量增长87%;超过半数的受访者表示在18岁之前曾遭受过来自网络的性侵。她还提到,生成式的人工智能对儿童网络保护产生新的威胁,这让平台的内容审核人员和司法人员不堪重负。她表示,东盟国家已经将数字转型作为未来的一个工作重点,需要确保将儿童的权利保护和福祉放在工作的核心地位,联合国儿童基金会将继续作出积极努力。

国际儿童保护专家、联合国儿童基金会东亚太平洋区域办公室儿童保护项目主任瑞秋·哈维


团中央维护青少年权益部二级巡视员滕素芬的发言题目是《“团”聚力量 呵护明天》。她用图文并茂的形式介绍了共青团开展的相关工作,并分享了她对未成年人网络保护的思考和建议。滕素芬提到,近年来,共青团始终站在为党育人的政治高度,在深度参与网络立法普法、协同各方构建晴朗网络空间、引导青少年树立正确的网络观、有序回应青少年网络保护重点关切等方面积极开展工作。着眼未来,还需要多方发挥各自优势,在防范网络沉迷、加强网络内容监管、坚守网络安全等方面进一步加强交流、凝聚共识、深化合作、积极作为。

团中央维护青少年权益部二级巡视员滕素芬


全国人大常委会法工委刑法室副处长伊繁伟做了《刑事立法关于儿童网络保护的发展与展望》的主题发言。他提到,为保护儿童权益,近年来中国立法机关对《刑法》、《刑事诉讼法》等相关法律进行了一些修改完善。对于通过或者借助网络实施的性侵、性骚扰未成年人,传播对儿童为对象的色情制品,以及针对未成年人实施的其他的网络犯罪,均可以根据案件具体情况来适用《刑法》规定的相关罪名,如强奸罪、猥亵儿童罪、传播淫秽物品罪等定罪处罚。《刑事诉讼法》设置了“未成年人刑事案件诉讼程序”专章,对办理未成年人案件的方针原则、办理案件的特殊规定、附条件不起诉和犯罪记录封存等作了规定,有利于在刑事诉讼中保障未成年人的合法权益。下一步,立法机关愿意听取社会各方面对于有关未成年人保护刑事法律制度方面的意见和建议,进一步完善刑事法律对未成年人的保护。

全国人大常委会法工委刑法室副处长伊繁伟

 

最高人民法院民一庭少年审判工作办公室四级调研员倪俊龙的发言主题是《未成年人网络保护刻不容缓,凝聚合力溯源治理》。他从依法妥善审理涉未成年人网络案件、及时制定涉未成年人网络保护的规范性文件、深入开展网络保护法宣传教育、加强部门联动等方面介绍了最高人民法院在儿童网络保护等方面开展的工作。倪俊龙认为,未成年人心智尚未发育成熟,抵御网络风险的能力相对较弱,家庭、学校、社会等应当进一步引导和监管。因此,为了更好保护未成年人,应当加强网络保护法律政策的贯彻实施、注重网络侵害的源头预防、推动建立未成年人网络公益诉讼衔接机制,并积极推动互联网企业落实未成年人保护责任。除此以外,还要通过调查研究等方式及时掌握未成年人上网用网的规律,加强网络意识形态的正向引导。

最高人民法院民一庭少年审判工作办公室四级调研员倪俊龙

 

国务院妇儿工委办公室儿童处二级主任科员王新宇以《扎实做好新时代网络空间儿童保护与发展工作》为题作了发言。他指出,未成年人在网络空间同样享有发展权和受保护权,我国已经有150多部涉网络领域的法律政策及规范性文件,这都为系统化地推进儿童网络保护工作提供了有力支撑。他还从强化网上思想引领、加强互联网上立德树人能力,落实协同育人机制、提升儿童及其家庭网络素养,推动相关法律政策落实、加强儿童网络保护等三方面,分享了扎实做好新时代网络空间儿童保护与发展的工作思考。

国务院妇儿工委办公室儿童处二级主任科员王新宇



圆桌论坛


在圆桌论坛环节,祁雪晶与席小华、崔璐、王颖、迟慧敏和农雅晴等人参与了讨论。大家围绕如何更好加强儿童网络保护、防治儿童受到网络性侵害等问题进行了讨论。

北京师范大学新闻传播学院党委副书记、未成年人网络素养研究中心副主任祁雪晶


席小华老师分享了他们开展的一些调研数据,她认为要阻断隔空猥亵的发生,就要恢复未成年人线下沟通的机会,避免和减少侵害人的情感漠视,还要加强对朋辈群体的干预以及网络监管等。

首都师范大学政法学院社会学与社会工作系教授、北京超越青少年社工事务所主任席小华


北京互联网法院综合审判三庭四级高级法官崔璐结合北京互联网法院审理的未成年人相关的网络案件,总结了未成年人网络保护在网络信息、网络欺凌、个人信息保护、网络沉迷等方面的问题,她认为人民法院可以通过梳理未成年人保护规则、建立有利于未成年人的审判机制、建立全流程司法调解制度以及开设线上家庭教育指导平台等方式来维护未成年人合法权益。

北京互联网法院综合审判三庭四级高级法官崔璐


北京市丰台区人民检察院第一检察部检察官助理王颖提到,涉及未成年人网络保护案件尤其是网络性侵案件中,隔空猥亵案件有所增多,体现了案件难发现、证据难固定、从线上发展到线下、有目的的物色铺垫等情况,检察机关将继续坚决打击网络性侵和猥亵等案件,并积极开展法治教育宣传工作,还要强化落实强制报告与入职查询等制度。

北京市丰台区人民检察院第一检察部检察官助理王颖


百度业务监察部高级经理迟慧敏介绍,百度作为搜索引擎平台,致力于通过提升法律法规的网络曝光度、分析研究未成年人的搜索内容、开发专门的智能工具等多重手段加强未成年人对法律知识和正向信息的获取,未来还将持续优化服务,确保用户信息获取的安全与健康,同时,根据未成年人的搜索习惯进行精细化改进,以更好地帮助他们健康成长。

百度业务监察部高级经理迟慧敏


快手研究院研究员农雅晴介绍了直播、短视频场景中如何平衡未成年人参与权和隐私权等思考,她提到,快手高度重视未成年人的安全和发展问题,成立了未成年人保护合规委员会,并通过持续的技术创新和规则制定等方式建立全流程的风险防控机制,也会支持有益于未成年人健康成长的优质内容,希望未来进一步深化与社会各界的合作,共同完善未成年人保护的生态共建。 

快手研究院研究员农雅晴


儿童网络保护是当今全球范围内未成年人保护领域的热门话题,我国在立法、监管、司法、行业自律、平台实践等方面积累了较为丰富的经验。此次会议上,来自我国立法机关、政府部门、司法机关、群团组织、国内外专家学者以及平台企业代表等共同参加研讨,期望能够促进社会各界在儿童网络保护方面的交流合作,保护孩子们在网络空间的健康成长!


本篇文章来源于微信公众号: 致诚儿童

通过肖利娜

发布!婚姻家庭诉讼中的未成年人保护问题研究报告出炉

家庭在未成年人成长中至关重要,父母离婚直接关系到未成年子女的切身利益。但是,在家事案件尤其是在离婚案件办理过程中未成年人权益容易被忽视,这不仅将严重影响未成年人身心健康成长,也导致离异家庭未成年人更容易走上违法犯罪道路或者权益受到严重侵害。单纯以保障孩子权益为由不让感情确已破裂的父母离婚并不是好的解决方法,当前应当尽快关注的是如何在离婚案件中最大限度保障未成年人的合法权益,将父母离婚“风波”对孩子权益的负面影响降到最低。


为了更好地了解婚姻家庭案件中的未成年人保护问题,并积极推动未成年人保护工作,北京市致诚律师事务所和北京青少年法律援助与研究中心组建专门课题组,通过查阅裁判文书网等平台,统计分析了2020年至2022年三年内涉及未成年人婚姻家事二审案件1382,以此为样本进行了全面的研究,并形成了一个总报告和五个分报告,共计约8万字


这些报告分析了很多案例,统计了法院准予离婚比例、婚姻存续时间、未成年子女的年龄和性别、抚养关系确立、抚养费数额、探望权纠纷和未成年人财产保障等基本数据和信息;围绕是否准予离婚、确立抚养关系和抚养费数额、未成年子女的探望权等方面,梳理了当前司法实践中存在的主要问题;根据相关法律政策和当前工作实际,提出了在离婚案件中保障未成年人合法权益的具体建议。


2024年1月12日上午,《2020-2022年度婚姻家庭诉讼中的未成年人保护问题研究报告》及相关分报告正式对外发布,来自央广、中国妇女报、法治日报、中国青年报、北京日报社、北京青年报、南方都市报等多家媒体的新闻记者参加了发布。会上,北京市致诚律师事务所主任、北京青少年法律援助与研究中心主任佟丽华介绍了研究报告的背景和主要考虑,北京市致诚律师事务所合伙人律师、北京青少年法律援助与研究中心执行主任于旭坤概述了报告的主要内容并与媒体记者进行了交流。


佟丽华介绍开展专题研究的思考和主要建议:


最大限度减少父母情感冲突以及离婚对未成年人的负面影响


当前结婚或离婚的情况面临着很多复杂的形势。总的趋势,结婚的人数越来越少,2013年是中国结婚人数最多的一年,达到将近1347万对,而后每年结婚人数逐年下降,到2022年每年结婚人数只有683.5万对。而每年离婚人数曾经呈鲜逐渐增高的趋势,到2019年达到最高,当年办理离婚手续的有470.1万对。在疫情三年离婚人数不断下降,2022年离婚只有287.9万对。


很长时间内,在民政登记离婚人数大幅增加情况下,在法院通过判决、调解离婚的案件数变化并不很大,一直保持在每年60万对左右。离婚人数最多的2019年,法院判决、调解离婚案件有65.3万对,占所有离婚对数的将近14%。但2022年法院判决、调解离婚达到创纪录的77.9万对,占到所有离婚对数的27%,所占比例超过2019年将近一倍。


所以要看到的一个问题是:结婚的人数在减少,如何保持家庭的和谐稳定,如何保障父母有效履行监护职责,如何让孩子获得父母的有效监护,将不仅对未成年人保护有最大意义,也对中国未来的家庭结构以及家庭建设具有重大意义。而在这个过程中,法院审判工作将扮演越来越重要的角色。


破碎的婚姻离还是不离?如何减轻父母感情冲突给孩子们带来的伤害?在大量的未成年人违法犯罪或权益受到侵害的案件中,都看到了父母情感冲突甚至离婚的家庭背景。观察很多案件,父母离婚固然会对孩子造成影响,但在父母情感冲突处理过程中,离婚过程中以及离婚以后,父母很多不当行为、孩子权益受到忽视、相关制度对孩子权益保障不到位会对孩子成长带来更大影响。


所以,不是简单地要求感情确已破裂的父母不要离婚,而是如何及时解决父母情感冲突中的问题症结,如何在处理离婚案件中最大限度保障孩子的权益,才是当前未成年人权益保障工作中必须要高度重视的问题。


我们的研究报告揭示了当前父母离婚案件中未成年人面临的一些困境:


一是司法机关对判决离婚持谨慎态度是对的,但在很多案件中,对感情破裂的认定过于机械,有的多次判决不离婚,但往往没有细致审查离婚案件背后的原因,没有针对离婚主要原因采取有针对性的矛盾化解措施,导致父母的矛盾并未解决,孩子依然生活在父母情感冲突激烈的家庭。这种家庭环境对孩子成长持续带来负面影响。


二是确立或者变更抚养关系、抚养费支付、探望权的行使,更多还是成年人视角,最有利于未成年人的原则并未得到有效贯彻。这直接导致在涉少父母离婚案件中孩子的权益受到严重影响。


三是办理涉少父母离婚案件的理念以及制度严重滞后。目前最高人民法院审理涉少离婚案件的相关司法解释与1993年司法解释基本相同,而93年司法解释依据的是1980年的《婚姻法》。40多年过去,我国婚姻家庭关系特别是在未成年人保护方面的认识已经发生根本性的变化,国家制定了《反家庭暴力法》《未成年人保护法》《家庭教育促进法》等很多新的法律,新的法律所确立的很多新的理念以及制度并未有效反映到涉少家事案件审判中。


涉少父母离婚案件涉及人的情感,容易引发长期的社会矛盾甚至恶性案件,但缺乏专业的律师、社工、心理咨询师的有效介入,以致缺乏专业的调解、心理干预、法律援助、家庭教育、社会帮扶等配套工作。


所以我们建议,目前少年审判改革需要尽快建立独立建制的少年法庭,尽快将涉少家事审判作为少年审判制度改革的重要内容。今年正好是中国少年法庭建设40周年。1984年上海长宁区法院成立少年法庭,开启了我国少年审判事业从无到有的进程。在近40年时间里,中国少年法庭建设取得了巨大成就,为保障未成年人健康成长发挥了重要作用。但在一个很长时期内,中国少年法庭主要是刑事案件审判庭,主要审理的是未成年人犯罪的案件。近些年来,开始大力关注未成年人为被害人的犯罪案件。


2023年6月1日当天,最高人民法院张军院长公开宣布在最高法院启动三审合一的少年审判制度改革,在重视传统涉少刑事案件基础上,重视涉少民事、行政案件的审判,这是中国少年司法制度发展历史上具有里程碑意义的改革。2023年下半年,河北高院已经推动在高级人民法院、中级人民法院普遍建立了独立建制的少年法庭,在基层人民法院也要求确定专门法官来审理涉少案件。专门建制的少年法庭才能培养专业的少年审判法官,才能从根本上有效推进涉少父母离婚以及其他家事案件中未成年人权益的保障。


所以,建议国家尽快在最高人民法院和各省高级人民法院、中级人民法院成立独立建制的少年法庭,在基层人民法院建立专门的少年法庭办案组;建议最高人民法院尽快结合相关最新立法,出台审理涉少家事案件的司法解释,尽快推进涉少家事案件的相关配套制度建设,为夯实家事纠纷中未成年人权益的保障奠定制度基础。


每个孩子的成长都涉及到家庭。父母有效履行监护职责、父母对孩子的关爱和保护是未成年人实现各种权利的基础,是保障孩子不受伤害、避免走上违法犯罪道路的基础。


所以,不论父母感情如何、是否离婚,从司法制度上及时化解父母情感冲突、适当隔离父母情感冲突与抚养教育孩子之间的关系、最大限度减少父母情感冲突对孩子的负面影响从而在父母情感冲突中有效落实最有利于未成年人的原则,是新时代家庭建设以及未成年人保护工作应当解决的重点问题。


相信随着少年审判制度改革的深入开展,将对化解父母情感冲突、促进家庭和谐、有效保障未成年人健康成长发挥更加重要的作用。


《2020-2022年度婚姻家庭诉讼中的未成年人保护问题研究报告》及相关分报告内容较为丰富,篇幅较长,现将报告内容简述如下,以飨读者。



01

研究样本的基本情况



报告统计的1382个案例样本涵盖了除港澳台地区以及西藏自治区的30个省级行政区,具有一定的广泛性。在这1382个案件中,最多的两类是离婚纠纷案件和抚养费纠纷案件,两类案件共1036件,约占所有案件样本的四分之三。其中,离婚纠纷案由的有610件,变更抚养关系案由的有158件,抚养费纠纷案由的有426件,探望权纠纷案由的有188件,占比分别为44.1%、11.4%、30.8%、13.6%。在上述案件中,发现以下现象:


1. 样本中约有56.8%的离婚案件含有未成年子女问题


课题组发现,即便离婚案件相关信息受到越来越多的关注,但是,有多少离婚案件涉及到未成年子女,尚无全国性统计数据。课题组以“离婚纠纷”为案由检索了裁判文书网、元典数据库等平台公开的离婚纠纷案件,增加设定了“二审案件”“判决书”“结案年度为2020年、2021年、2022年”的条件,并剔除掉仅显示案号但无具体判决内容的案件,共识别出2020年至2022年度共计1074个离婚纠纷二审案件。


据此统计,在2020年至2022年度公开的离婚案件样本中,涉及到未成年子女的离婚纠纷案件占比为56.8%(=610/1074),这与一些基层法院的统计数据较为一致。


2.样本中共涉 1649 名未成年人,女性未成年人略多


在1382个案例样本中,共有12个案件没有显示出未成年子女的人数。就已知的1370个案件中,共涉及1649名未成年人。其中,独生子女家庭1118个,二孩家庭 224 个,三孩家庭 27个,四孩家庭 1个。独生子女家庭占了大多数,占比为81.6%(=1118/1370)。


样本显示,男性未成年人占比为47.9%,女性未成年人占比为52.1%,案涉女性未成年人略高于男性。


3.涉案未成年子女的平均年龄约为8.0周岁


统计发现,在离婚纠纷、抚养费纠纷、变更抚养关系纠纷和探望权纠纷这四类案件中的未成年人平均年龄为8.0岁。


其中,在518件判决离婚的离婚纠纷案件中,能够明确年龄的未成年人数为267人,平均年龄为7.8岁,略低于样本中的整体平均年龄。


4.离婚纠纷的样本中,父母的平均年龄分别约为37岁、35岁


统计发现,父亲的平均年龄为37.3岁,母亲的平均年龄35.0岁。在样本已知的父母年龄中,父亲最大年龄为54周岁、母亲为51周岁,该案中双方在离婚过程中因财产分割、未成年子女的抚养费等问题发生纠纷;父亲的最小年龄为27周岁、母亲为24周岁,该案中女方因遭受交通事故而受重伤,婚生子年龄不详,平时随父亲及其祖父母生活,后判决由男方直接抚养,女方每月支付800元抚养费。


5.样本所涉有未成年子女的婚姻存续时间约近9年


统计发现,有未成年子女的平均婚姻存续时间为8.8年,最长的持续时间为29年,最短的为不足1年。


6.样本所涉离婚案件的起诉主体超六成是女性


样本显示,女性提起离婚诉讼的占比超过六成,是男性的1.76倍。这在某种程度上说明女性的自主意识越来越强,对自身价值和情感需求有了更多关注。


7.样本所涉起诉两次而判决离婚的案件占比约为三分之一


从样本来看,到人民法院起诉一次就被判决离婚,占已知离婚次数案件的53.5%,剩下46.5%的涉未成年子女的离婚案件是起诉两次、三次、四次以及多次。其中,起诉两次而被判决离婚的案件为150件,占比为31.8%,约占三分之一。


8.样本所涉案件平均诉讼时长约为2年零2个月


统计样本发现,自第一次起诉到二审判决生效的平均用时约为2年零2个月。在这平均两年多的纠葛中,双方之间的指责、谩骂、冷漠以及对未成年子女抚养权的争抢、互相推诿等均给未成年人带来很大的身心伤害,也在一定程度上浪费了司法资源。


9.样本中判决由母亲直接抚养的约七成


总体来看,绝大多数父母都愿意直接抚养未成年子女,父母双方或者一方主张未成年子女随己方共同生活的占比为97.8%。但是,案例样本中由母亲直接抚养的情形占比达67.1%,父亲一方占32.6%,前者基本上是后者的2倍。


在涉及两名未成年子女的抚养问题时,约60.4%的案件判决由父母一方同时抚养两名未成年子女。


10.样本中约有44.3%的变更抚养关系诉求获得人民法院支持


案例样本中,共有158件变更抚养关系纠纷,其中有70个案件获得人民法院的支持,即法院最终判决变更抚养关系,占比达到44.3%。


11.样本中追索拖欠抚养费的案件占比近四分之一


从样本数据来看,在426件抚养费纠纷案件中,有308个案件是要求不直接抚养一方支付抚养费及其他费用。其中,单独向父亲或者母亲一方追索拖欠的抚养费的情形最多,共100件,占整个抚养费纠纷的比例为23.5%,近四分之一。


12.样本中平均每月抚养费数额约为1620.8元


样本数据显示,未成年人的平均抚养费约为1620.8元/月。其中,给付最多的为10万元/月,该抚养费系双方协议离婚时约定的数额;给付最少的是1800元/年(即每月150元),主要原因是女方再婚后的经济条件较差且其正在怀孕。


样本中抚养费区间以每月已满500元不满1000元为主,抚养费不满1000元/月的占所有已知案件的57.7%,未成年子女的抚养费整体偏低。


13.样本所涉案件每月探望未成年子女1-4次最为常见


从样本数据来看,就探望时间、地点、频率、方式等产生争议是探望权纠纷的常见类型。其中,每月1-4次探望是最为常见的频次,占所有探望权纠纷的81.9%;明确约定或者判决可以将孩子接走探望的占比约60.1%。


在探望权纠纷样本中,共有54个案件明确提及对孩子在寒暑假、节假日期间的探望,占比达28.7%。如果存在距离较远等情况,人民法院也会判决不直接抚养一方通过视频探望未成年子女。


14.样本中仅有3.3%的父母在分割财产时为未成年子女单独预留财产


在案例样本中,仅有17对父母在分割财产时为未成年子女单独预留了财产,占整个判决离婚案件样本总量的3.3%,比例非常低。


在这17个案例中,房屋是主要大额财产,共有11个案件中的未成年子女享有房屋利益,5件涉及到公司、公积金、股票、征收款等财产,剩下1件则既包括房屋也包括商铺、股权等财产。



02

司法实践中存在的主要问题



在分析上述相关案件数据的基础上,报告认为当前在涉未成年人的离婚案件办理过程中还存在很多问题,有些是因为缺乏较为明确的上位法及其司法解释的规定,在审判实践中难以遵循统一标准,不同审判法官在相似案件中可能作出不同判决;有些是因为现有规定并未充分体现最有利于未成年人原则,而是从成年父母的角度出发进行规定,具有一定的滞后性;有些则是因为审判法官缺乏未成年人保护视角,在审判中忽略了未成年子女的合法权益等。主要表现在:


1.简单考虑维持未成年人的家庭完整,但未分析父母离婚的背后原因


一是在立法层面,当前我国《民法典》及相关司法解释认定夫妻感情确已破裂的因素较为简单,与现实情况存在脱节现象。我国《民法典》及相关司法解释列举了重婚或者与他人同居、实施家庭暴力或者虐待遗弃家庭成员、有赌博、吸毒的恶习屡教不改等法定离婚事由。但是,样本中真正因重婚、与他人同居或者与他人发生暧昧关系等而判决离婚的比例并不高,总计仅有24件;因家庭暴力而判决双方离婚的案件仅有13件,占所有离婚案件的比例仅为2.5%;样本中没有1件因为赌博、酗酒或者吸毒等恶习而判决离婚的案件。


基于研究样本,双方在主观上是否均同意离婚以及客观上是否满足分居年限是人民法院判决离婚的最常见原因,这两类案件占样本所涉全部判决离婚案件的86.9%,其他判决离婚的依据情形包括双方家庭关系不和、出现家庭矛盾等。


二是针对当事人提出的有关家庭暴力、出轨他人等情形,人民法院存在未进行深入调查亦不进行回应的问题。比如:女方主张男方有经常酗酒赌博以及存在家庭暴力等行为,人民法院因其未能提供证据予以证实,且双方认可因感情不和分居的时间未满二年,判决不予离婚。在这个案件中,女方提到了曾两次报警,但遗憾的是,裁判文书中并没有显示人民法院是否调取了相关报警记录,是否查明了相关事实,以及是否开展了法庭教育等。那么,判决不准予离婚以后,男方会不会有所改变、双方的感情有没有可能修复、未成年子女的家庭环境是不是变得更好……这些都尚未可知。


三是没有深入调查婚姻当事人启动离婚程序背后的原因,也没有积极推动背后矛盾的解决。启动离婚程序的背后往往隐藏着深层次矛盾,有的可能是夫妻感情确已破裂,有的是存在其他利益、感情纠葛,有的则是存在合法权益受到侵害的情形等。如果没有查明背后的原因并积极引导当事人解决,那么简单、草率地判决准予离婚或者驳回离婚诉求,都可能无法使双方矛盾得到有效化解。


2.草率判决离婚,而并未全面考虑未成年人的抚养问题


父母对未成年子女有抚养、教育、保护的义务,应将能否妥善解决未成年子女的抚养问题作为是否准予双方离婚的考量标准。但是,有的法院会在一方缺席的情况下作出判决。在离婚诉讼中,一方未到庭,双方无法就抚养未成年子女等问题进行充分协商,人民法院并不能在全面听取相关意见基础上作出综合判断,这种确认抚养关系的方式过于草率。


在案例样本中,如果一方不到庭,也有一些法院没有判决双方离婚。但是,即使不判决双方离婚,很多法院也并没有为未成年人的父母提供家庭教育指导等服务,父母双方的感情可能仍然难以修复,而未成年子女的抚养问题仍然没有得到根本解决。


3.确立或者变更抚养关系时,很多案件仍然以成年人视角为主


最高人民法院《关于适用〈中华人民共和国民法典〉婚姻家庭编的解释(一)》从44-48条、55-57条共用八个条款就抚养关系问题作出规定,其中前五条是确定直接抚养关系,后三条是变更抚养关系。司法解释的上述规定不论是从基本理念、还是从具体内容层面,都有不足之处。其中最关键的一条司法解释,即第46条与1993年发布的《最高人民法院关于人民法院审理离婚案件处理子女抚养问题的若干具体意见》第3条几乎相同,而1993年的司法解释是依据1980年《婚姻法》的规定,仍然主要从成年人视角来进行考量,比如:一方是否已做绝育手术或者因其他原因丧失生育能力;一方是否有其他子女,子女随其生活的长短等。


上述内容显然落后于时代的发展,没有充分体现最有利于未成年人的原则,很多法院在依据上述规定作出裁判时,则会忽略甚至侵犯未成年人的权益。比如:在一个案件中,一审法院在征求两个孩子意见的基础上,判决两名未成年子女全都由父亲抚养。但是,二审法院以“女方已做绝育手术”为由予以改判,判决女孩由女方抚养,男孩由男方抚养。虽然二审法院改判具有法律依据,但是却忽略了未成年子女的真实意见。


4.确立或者变更抚养关系时,并未有效听取未成年人的真实意见


在确认和变更抚养关系的情况下,征求8周岁以上未成年人的意见应是人民法院审理的一个必经环节。但是,从样本来看,裁判文书中明确写明询问、征求或者考虑年满8周岁以上未成年子女意见的案件比例并不高,占比仅为51.9%。在有的案件中,当事人在开庭时提交了未成年人书写的“意愿书”,双方进行了质证,但是人民法院在裁判时并没有提到是否采纳了未成年人的意见。


在有些案件中,有的父母一方以纵容孩子玩游戏、不上学等不利于未成年子女身心健康的方式来“诱惑”未成年人或者逼迫未成年子女同意与其一起生活。这个时候,人民法院不能只是简单询问就以尊重孩子意见为由作出草率判决,而是要从最有利于孩子的原则出发进行综合考量。比如:在一起案件中,男方出具两名未成年子女的证言,拟证明其对姐弟二人很好。但是人民法院审理查明,证言系二人受父亲逼迫所写,而其中一人明确表示想随母亲一起生活。最后,二审法院在充分尊重未成年子女本人意见的基础上进行改判。


5.抚养费范围过窄,没有考虑除生活、教育、医疗以外的费用


涉及抚养费,我国司法解释规定抚养费主要包括未成年子女的生活费、教育费、医疗费三项具体费用,并用“等费用”作兜底性表述。但从案例样本来看,抚养费的范围主要是生活费、教育费、医疗费,一般无其他费用。


生活费一般是未成年子女在衣食行方面的开销,均属日常生活支出,这部分费用应予保障。而教育费、医疗费需要不要另行支付以及支付多少,往往是双方的争议焦点。在很多案例中,人民法院仅支持基本的教育费用,或者认为抚养费已经包括了教育费、医疗费用,无需再另行支付。此外,课外培训、兴趣班、保姆照顾等本身具有一定的持续性和连续性,如果仅仅因为父母离婚就停止了未成年子女的这部分费用,也会损害未成年人的利益。


6.抚养费数额普遍较低,难以满足未成年人的实际需求


如果仅是从抚养孩子的费用来看,不直接抚养一方平均每月支付1620.8元的抚养费似乎并不低,加之一些父母的收入可能较低,每月拿出1600多元的抚养费已属不易。


但是,抚养费仅是未成年子女在成长过程中的基本费用,直接抚养一方不但要支付日常费用,还需要花费更多时间、精力照顾未成年子女,有的还因为无法外出工作而降低了收入,其付出要远远多于不直接抚养未成年子女的一方。从这一角度来看,要求不直接抚养未成年子女的一方支付较高数额的抚养费具有一定的合理性。


7.过于关注父母的收入水平,且计算抚养费的基数不统一


从案例样本来看,在确定抚养费数额时,存在三方面的问题:


一是忽略了子女的实际需要和当地的实际生活水平这两个因素,而更多从成年人的视角来考虑父母的负担能力。很多法院在确定抚养费数额时,主要是依据父母的负担能力,即依据其收入的20%-30%计算。


二是一些资产性收益并未被计算到父母“总收入”的基数中。从样本案例来看,一些法院在裁判文书中显示的“月总收入”往往是不直接抚养方每月固定的工资收入,较少考虑到房租、股票、股权、拆迁等其他资产性收入。


三是对具体收入的认定标准不一。在出现无法查明不直接抚养方的具体收入等情况时,因为没有统一的标准,各地法院在计算抚养费数额时会引用不同的计算基数。比如,有的依据同行业平均收入计算抚养费;有的依据当地人均可支配收入为基数计算抚养费数额,具体又分为全体居民、城镇居民和农村居民人均可支配收入三种情况;有的依据居民人均生活消费支出计算抚养费数额;还有的依据人身损害(交通事故)赔偿标准计算抚养费数额,但有的是依据消费性支出计算,有的是依据人均可支配年收入计算等等。


8.忽略了未成年人对探望的情感需求以及相关权利


我国《民法典》规定的是未成年人的父母享有探望权,那么,未成年子女能否要求父母进行探望?从司法实践来看,法院的认识存在分歧。


一种观点认为,探望权既是父母法定的与子女相处的权利,亦是其履行抚养、教育子女的法定义务;子女不仅是被探望的对象,亦享有主动请求和接受探望的权利。因此,判决支持未成年子要求探望的诉讼请求。


另一种观点认为,未成年子女要求探望在道德上、情理上应予支持,但是在法律上不应强制。另有法院认为,未成年子女作为被探望的对象,不属于法律规定的探望权纠纷起诉的主体。基于上述理由,一些法院会判决驳回未成年子女要求探望的诉讼请求。


本报告赞同第一种观点,一方面,探望既是父母的权利,同时也是父母履行监护职责、家庭教育职责的方式之一,是应当履行的法定义务;另一方面,未成年子女享有被探望的权利,其要求探望的诉请应当获得支持。当然,如果不直接抚养的父母一方没有不利于未成年子女身心健康的行为,未成年子女应当履行配合探望的义务。


9.认定“不利于未成年人身心健康成长”的标准不明确


我国《民法典》及相关司法解释都规定,如果出现不利于子女身心健康的情形,可以变更抚养关系或者申请中止探望。从案例样本来看,当前对“不利于未成年人身心健康成长”的认定存在差异,人民法院往往采取比较严格的认定标准,很多显而易见的不利于未成年人身心健康的因素都未被考虑。


以探望权纠纷为例,样本中申请中止另一方探望的共有17件,比如主张另一方存在暴力行为、有抽烟打牌等恶习、患病、孩子不愿意接受探望、不具备独立照看孩子的能力等,但是这些主张均因所提交的证据或所罗列的事由不足以证明探望一方有不利于子女身心健康的行为,而未获得法院支持。


10.离婚案件对未成年人的财产权问题考虑不足


未成年子女财产权的实现在很大程度上依赖于父母,如果父母在分割财产时没有为其预留财产,那么未成年子女通常很难获得财产,甚至有的未成年人的财产权会受到父母的侵犯。比如,有的案件中,未成年子女本身享有拆迁利益或者房屋份额等,但是父母在分割财产时,将本属于未成年子女的财产作为夫妻共同财产进行了分割,侵占了孩子的权益。此时就特别需要人民法院认真查明事实,避免未成年子女的财产权受到侵犯。


父母离异势必会对未成年子女的生活、心理等产生一定影响,定期定额支付抚养费一般无法完全涵盖未成年子女的所有花费,如果条件允许,还是建议父母在分割夫妻共同财产时,为未成年子女专门留出一部分费用以更好保障其未来教育、生活等,尽可能保障其原有生活水准不降低。



03

在婚姻家庭中强化未成年人保护的建议



在涉未成年子女的离婚案件中,未成年人是重要的主体之一,但是未成年人在家庭中的主体地位常常被忽视。归根结底这体现了未成年人保护理念的欠缺。为了更好保护未成年人的合法权益,可以考虑在法律政策规制、少年审判机构建设、社会支持系统搭建等方面开展工作。


1.在观念上充分认识家事案件尤其是离婚案件对未成年人保护的重大意义


传统上,我国少年司法体系中一直都关注未成年人犯罪问题,近些年来,也越来越重视未成年权益受到侵害的问题,实际上,这些案(事)件的背后很多都存在家庭因素。可以说,家事案件尤其是离婚案件中未成年人保护工作意义重大,需要引起重视。


单纯指责离异家庭没有实际意义,更应该关注在父母离婚前后及离婚过程中是否真正考虑到了未成年人的合法权益。令人痛心的是,很多父母的不当行为严重侵害了未成年人的权利。比如为了争夺抚养权、为了得到更多财产、为了抚养费和探望权、为了感情上的泄愤等所表现出来的人性当中种种丑恶的一面给孩子造成的身心伤害,或因过度执着于离婚纠纷而长期不能给予孩子足够的关注,这恰恰是对孩子最大的伤害。这就需要夫妻双方学会反省自己的不足,人民法院、婚姻登记部门等也应从尽可能修复夫妻关系、为未成年人创造良好家庭成长环境的角度出发,深入分析当前婚姻中的问题并积极推动问题解决。如果确无和好可能,父母双方可以离婚,但应当妥善处理孩子的问题。


2.成立独立建制的少年审判庭,从体制上全面推进涉未成年人离婚案件的更好解决


我国《未成年人保护法》和《最高人民法院关于加强新时代未成年人审判工作的意见》都规定了确定专门机构或者指定专门人员办理涉及未成年人案件,结合当前未成年人审判工作实际,建议最高人民法院和各省高级人民法院、中级人民法院普遍设立“三审合一”的独立建制少年法庭,在基层人民法院建立专门的少年法庭办案组,着力打造一支对未成年人审判工作有热情、有爱心、有专业素养并懂得未成年人身心特点的优秀法官队伍。


在具体工作中,要从法律上的相对独立实现法院内部管理上的真正独立。因为只有独立的管理才能真正形成统一的少年司法指导思想、才能及时根据国家最新法律制定司法解释、才能对下级或者基层少年法庭工作形成有效指导,才能更好地将最有利于未成年人原则落到实处。


3.研究出台专门的司法政策文件


随着经济社会的发展,我国婚姻家庭关系尤其是在未成年人保护方面的认识已经发生了根本性的变化。传统上认为家庭中以父母为主宰、未成年子女为附属的观念已经彻底改变,最新制定的《民法典》以及修订后的《未成年人保护法》都确立了最有利于未成年人原则,未成年人保护已经形成全社会的共识。在这种情况下,最高人民法院关于抚养关系确立、父母探望权行使等相关司法解释就明显滞后,没有充分体现最有利于未成年人的原则。


因此,建议最高人民法院从保护未成年人的视角出发,贯彻最近几年《未成年人保护法》《家庭教育促进法》《民法典》等法律的最新规定,通过发布司法政策文件等形式细化感情破裂、确立和变更抚养关系、确定抚养费的科学标准,确立未成年子女享有探望权、父母应当履行探望义务,规定不利于未成年子女身心健康的具体情形等。


4.就婚姻家庭中的未成年人保护问题开展业务培训


关于涉及未成年人离婚案件的规定包括《民法典》及司法解释、《未成年人保护法》《预防未成年人犯罪法》《家庭教育促进法》等,但是一些处理离婚案件的婚姻登记部门工作人员或者审案法官、妇联干部以及相关社会组织等并没有系统学习,以至于忽略了对未成年人权益的维护。


为了不断增强保护未成年人的意识和能力,建议定期对未成年人审判庭的法官和民政部门工作人员、妇联干部以及相关社会组织等开展专题培训,帮助其了解当前未成年人保护工作的新任务、新形势,掌握国家有关未成年人保护的最新法律政策,及时沟通、转介、处理一些重点复杂疑难案(事)件,以更好解决在工作中遇到的新问题,为未成年人健康成长营造良好环境。


5.涉及未成年子女的婚姻家庭纠纷应当经过调解程序


我国《民法典》第1079条第2款规定,人民法院审理离婚案件,应当进行调解。《未成年人保护法》第24条第1款规定,未成年人的父母离婚时,应当妥善处理未成年子女的抚养、教育、探望、财产等事宜。为了“妥善处理”涉未成年子女相关问题,开展调解工作不失为一种有效的手段。因为调解既能及时厘清、解决家庭纠纷,还能够不伤和气地处理涉及未成年子女的相关问题,尽力将父母离婚对未成年子女的伤害降到最低。但是,实践中一些法院的调解工作往往是流程性的,有的法官在庭审中明显缺乏耐心和经验;很多地方的婚姻登记部门都没有特别关注有未成年子女的夫妻双方的离婚问题,缺乏保护未成年人的敏感度。


为了使调解的效果更好,建议人民法院不断加强调解平台的建设、应用和推广,强化司法机关与妇联、民政、人民调解委员会以及第三方机构等不同调解机制的联动。此外,人民法院或者婚姻登记部门还可以将相关调解工作委托给专业第三方社会组织,社会组织不仅应帮助解决矛盾、调解双方和好,也应视情况调解双方和平离婚,并引导和平、友好地处理未成年子女的抚养、探望等问题。


6.深入开展对父母双方的家庭教育指导


对父母进行家庭教育指导不仅是法律的规定,也符合维护未成年子女合法权益的现实需求,应当将家庭教育贯彻到涉未成年人案件办理的全过程。


在提供家庭教育指导时,婚姻登记部门的工作人员、审案法官等应当告知父母双方,离婚可能给孩子带来的损害,在离婚过程当中如何最大限度保障孩子权益以及离婚后父母双方应当注意哪些问题,要努力实现化解婚姻家事纠纷和维护未成年人合法权益的有机统一。


7.及时监督并干预未成年子女权益受到侵害问题


离婚后父母双方仍然都是孩子的监护人,仍要履行监护职责和家庭教育责任。在父母没有积极履行监护职责,或者不正确实施家庭教育而侵害未成年人受教育权等合法权益时,公安机关、人民检察院、人民法院可以根据情况对父母予以训诫,并可以责令其接受家庭教育指导。人民法院还可以根据有关人员或者单位的申请,依法作出人身安全保护令或者撤销监护人资格等等。除此以外,如果涉嫌遗弃罪、故意伤害罪、虐待罪等,则应当依法追究刑事法律责任。


实践中,一些地方法院已经对不负责任的父母发布了家庭教育指导令,有的还与第三方机构合作开展了家庭教育指导工作,为更好保护未成年人合法权益做出了积极努力。但是,从未成年子女权益受到侵害的现实情况来看,当前来自国家公权力的监督和干预力量是远远不够的,未来应当继续加强这方面的工作。比如,在一个变更抚养关系的案件中,已经进入青春期的婚生女之所以强烈要求由母亲直接抚养,其中一个重要原因是她多次受到父亲朋友的性骚扰。但是,人民法院在审理时没有回应性骚扰问题。如果真的涉及到违法犯罪,人民法院应当本着最有利于未成年人原则将相关案件线索移送至公安机关处理;如果不存在违法犯罪问题,也可以告诫父母多关注女儿的生理、心理和情感需求,给予未成年子女更多关爱,而不是回避未成年人反映的问题。


8.强化社会支持体系建设


在涉未成年人离婚案件办理过程中,很多未成年人需要心理辅导、社工支持、法律援助,很多案件需要专业调解,目前不论是法院还是政府部门或者妇联等,都缺乏专业人才。一些优秀的专业社会组织尚未深入参与到涉未成年人离婚案件的处理当中,需要人民法院、政府部门和妇联组织等进一步加强培育和支持力度。


建议遴选出一批在未成年人保护和婚姻家事领域具有一定工作基础,且有意愿、有能力参与社会调查、婚姻家事调解、法律援助等相关工作的优秀社会组织。人民法院、政府部门和妇联组织等要与其建立密切联系,使之成为处理涉未成年人婚姻家事案件的有益助手,并通过政府购买服务等方式支持第三方社会组织开展专项服务,为未成年人健康快乐成长创造良好家庭环境。

本篇文章来源于微信公众号: 致诚儿童

通过肖利娜

检测令条款:欧盟《预防与打击儿童性虐待的条例》会侵犯隐私权吗?


自人类进入数字时代以来,儿童性虐待与性剥削在网络世界中呈现出新的样貌。欧盟委员会(European Commission)在2022年5月的新闻稿中指出,仅在2021年,全球就报告了8500万涉及儿童性虐待的图片与视频,儿童性虐待现象极为普遍。


为了防止儿童性虐待的蔓延,欧盟委员会通过了《预防与打击儿童性虐待的条例》(Regulation to Prevent and Combat Child Sexual Abuse,又称Child Sexual Abuse Regulation, CSAR)的提案,要求网络平台在接到执法机构的命令时对其平台内容进行检测,以阻止儿童性虐待材料在平台上的传播。


但这一检测令条款遭到隐私权与人权保护组织的极大反对,他们认为该条款的实施会不可避免地侵犯用户隐私,尤其是破坏端到端加密。与之相反,儿童保护组织大力支持欧盟的这一提案,认为用户隐私保护与儿童保护可以共存。


儿童保护与用户隐私保护的冲突问题是复杂的,理解争议双方的观点有助于我们看到这一问题的细节,也能让我们进一步思考其背后的问题。



01

作为全球现象的性剥削与性虐待


近年来,随着互联网的普及,儿童网络性虐待(sexual abuse)与性剥削(sexual exploitation)在全球范围内日趋严重。根据英国慈善机构儿童社会(The Children’s Society)的定义,儿童性虐待指“儿童被强迫、诱骗进行性行为”,儿童性剥削则指“成年人通过向儿童提供礼物、金钱,甚至表达好感等方式骗取儿童的信任,从而引诱儿童进行性行为,为儿童性虐待的一种”,儿童性剥削具体可能体现为剥削者引诱儿童向其发送性暴露照片、与其发生性对话或直播、拍摄性行为等。[1]


自1998年美国国会成立的国家失踪和受剥削儿童中心(National Center for Missing & Exploited Children, NCMEC)设立专门接受在线儿童性剥削举报的平台CyberTipline以来,CyberTipline已审核了由公众或网络平台报告的数亿张涉及儿童在线性虐待内容(Child Sexual Abuse Material, CSAM)的图像,该平台的工作人员会尝试找到发生性虐待的地点信息,并将该信息传送给当地的执法机构以供进一步调查。


仅是2022年,CyberTipline就收到来自世界各地的超过3200万涉嫌儿童在线性剥削的报告,包括儿童性拐卖、儿童性骚扰、未经允许向儿童发送色情制品、网上引诱儿童发生性行为等,而其中有超过99.5%的内容都疑似涉及持有、制造、传播CSAM。[2]

来源:CyberTipline网站


英国儿童保护慈善机构全国防止虐待儿童协会(National Society for the Prevention of Cruelty to Children,NSPCC)在2018年2月至3月进行的一份关于儿童上网体验的调查显示,在英国,每20名儿童中就有1名在与陌生人进行直播时被要求脱掉一件衣服。[3] 


在欧盟国家,由欧盟发布的一份关于打击犯罪的报告显示,2022年共发现了684起儿童性剥削案件,这些案件中有536起涉及新的儿童性剥削制品。执法机构对此开展了60项调查,而只有30名犯罪嫌疑人被执行逮捕。[4] 


欧盟理事会网站的人权频道页面揭示了更惊人的数字:在欧洲,约有五分之一的儿童遭受过某种形式的性暴力,包括性骚扰、强奸、性诱拐、露阴癖等;70%-85%的儿童认识施害者,而绝大部分的施害者是儿童信任的人;三分之一的儿童从不告诉任何人有关性虐待的事,儿童因羞愧、害怕、不知何为性暴力或误认为与施害者处于某种“亲密关系”中而保持沉默。[5]

来源:欧盟理事会网站 [6]


02

欧盟CSAR提案的检测令条款


为了更好地防治儿童网络性虐待,2022年5月11日欧盟的立法建议与执行机构欧盟委员会通过了一项预防与打击儿童性虐待的立法提案——《预防与打击儿童性虐待的条例》(下称“CSAR”)[7],委员会在CSAR提案通过当天发布的新闻稿中指出,在欧洲,儿童网络性虐待的防治目前主要依靠网络平台的自愿检测与报告,而事实证明,自愿行动是不够的,欧洲需要统一的规则来预防与打击儿童性虐待。[8] 


然而,这一提案引发了极大争议,仍处于欧盟理事会(Council of the European Union)的讨论阶段,需要理事会与欧洲议会(European Parliament)的共同表决通过才能生效。


CSAR的关键规定在于,它要求网络服务提供方必须评估并降低其平台上存在的儿童网络性虐待的风险,并在需要时采取针对性措施来检测、报告并移除涉及CSAM的内容。而争议正是围绕着CSAR关键规定中的关键:检测令条款(Detection Orders,第7-11条)

来源:EUR-Lex欧盟法律公开网站


关于检测令的规定集中在CSAR的第7-11条。根据这五项条款的规定,CSAR授予协调机构(Coordinating Authorities)要求司法机构或独立行政机构发出检测令的权力,以要求网络托管服务或人际通信服务的提供方(如Instagram,Facebook等,下称“提供方”)对其特定服务的儿童性剥削情况进行检测。


协调机构由各成员国提名并指定,负责CSAR的执行,包括启动检测令程序、屏蔽程序与删除程序,监督检测令、屏蔽令与移除令的执行,以及在国家层面协调与CSAR的所有相关工作。


在启动检测令程序时,协调机构应当先拟定检测令要求的草案(draft request),在其中写明检测令的主要内容与发出检测令的理由,将草案发至根据CSAR设立的新欧盟中心(EU Center)与提供方,听取双方意见后,再次考虑其检测令要求。


如果协调机构仍认为其要求合理,确实有证据表明平台存在着严重的儿童性虐待情况,以及在考虑受检测令影响的各方的基本权利与利益后,认为确实利大于弊,那么协调机构则应在酌情调整草案后,将草案发送至网络服务提供方。提供方应当在协调机构规定的合理期限内,向协调机构出具一份检测令执行计划,若检测令的执行存在高风险,或与儿童网络性诱拐相关,那么提供方必须评估执行检测令对数据保护的影响,同时必须听取数据保护国家机构的意见。


在收到提供方出具的执行计划后,协调机构若再次确认其要求合理,那么则有权正式向司法机构或独立的行政机构发出检测令要求,相应机构在收到要求后,应当继续作出评估,若检测令要求确实有合理依据,那么其有权发出检测令。


检测令发布后,收到检测令的网络服务提供方即有义务检测其服务中的CSAM。检测报告将会发送至EU Center,该中心将对涉嫌CSAM的内容进行检查,以排除错误报告,并在必要时将其转交执法部门和欧洲刑警组织(Europol)。


03

EDRi对检测令条款的反对意见


致力于保护人权与自由的非营利国际性倡导组织欧洲数字权利(European Digital Rights,EDRi)自2022年CSAR提案出台以来就是该提案的最激烈反对者之一。


2022年10月,EDRi将其对CSAR的立场写成了一份名为“人人都能安全上网:维护私密、安全的通信”(A safe internet for all:upholding private and secure communication)的报告,分析了CSAR通过的背景、欧盟法律框架、CSAR关键条款,并给出了结论与建议[9];2023年5月,EDRi将报告的关键点进一步总结成了一本26页的小册子[10]


在这本小册子中,EDRi将批评的矛头之一对准了检测令条款,认为该条款会不可避免地侵犯用户隐私权

来源:EDRi网站


EDRi归纳了三种可能会被要求进行检测的内容——已知的CSAM(known CSAM),新的CSAM(new CSAM)与儿童性诱拐(child sexual grooming),并对这三种内容的检测方式分别提出了批评。


(1)已知的CSAM


已知的CSAM通常指的是以前报告、审查过并已存入哈希(hash)数据库中的图像或视频。哈希值是通过哈希函数对输入数据生成的固定长度的字符串或数字。这个过程是单向的,意味着从哈希值无法还原出原始输入数据,因此它常常被用于加密明文。


检测已知的CSAM的过程是这样的:扫描网络平台上的内容,如用户发出的信息等,并将其与哈希数据库中的内容进行比对,如能比对成功,则说明扫描的内容为收录在数据库中的已知的CSAM。


针对检测已知的CSAM的方式,EDRi质疑数据库及扫描技术并不像其开发者主张的那样精确,对其精确性并不存在独立验证,因为在法案实施影响评估报告(Impact Assessment)中,涉及扫描、检测技术准确性的数据来源于技术开发者本身。


EDRi作出这一论断的依据有二:一,出具报告的欧盟委员会称,其对扫描、检测工具准确性的评估完全基于开发商自行报告的统计数据;二,EDRi的成员也进一步作出了信息获取自由(A Freedom of Access to Information,FOIA)的申请,要求委员会提供其认为扫描、检测工具有足够准确性的更多依据,委员会根据这一申请,确认其基于行业声明(industry claims),即开发商本身的陈述,作出了准确性判断,并没有独立的第三方对扫描、检测工具的准确性进行验证。


(2)新的CSAM


新的CSAM指的是以前未被报告且认定为CSAM或未放入哈希数据库的内容。检测新CSAM则依靠裸露程度检测等基于AI的技术,这类AI技术经过大量训练,以区分开CSAM与非CSAM。EDRi质疑这类技术不仅会标记CSAM内容,而且会标记CSAM之外的满足裸露程度要求或其他指标的内容,例如标记儿童洗澡时的照片或穿着比基尼的成人照片为CSAM。


EDRi首先批评了被欧盟委员会认为具有极高准确度的PhotoDNA技术,该技术由微软开发,是目前用于检测CSAM内容的主要技术之一。根据LinkedIn于2021年发布的其在2021年7月14日至2021年12月31日期间使用技术检测、报告和删除CSAM的相关数据,被PhotoDNA识别为CSAM的75个文件中,只有31个的确是CSAM,而这就意味着该技术的准确率只有41%。


依据Meta爱尔兰分公司(Meta Platforms Ireland Limited)2022年2月发布的其在2021年11月8日至2021年12月31日期间使用技术检测、报告和删除CSAM的相关数据,EDRi强调,在不到两个月的时间里,检测技术对207个Facebook与Instagram账户作出错误报告,认为其传播CSAM并删除了其账户,此外,还有数千名用户仍在就删除其账户提出申诉[11]


而错误报告的后果是极为严重的,EDRi引述了一篇纽约时报于2022年8月21日发布的报道,报道中提到一位父亲拍下了儿子的裸体发给医生寻求医疗建议,这些照片与视频自动备份到谷歌云储存空间(Google cloud),两天后,因这些内容被标记为CSAM,其谷歌账户被禁用,他失去了所有朋友、同事的联系方式,以及儿子一岁时的所有照片。接着,这位父亲还受到当地警察局的调查。


(3)儿童性诱拐


儿童性诱拐指的是刻意与儿童或儿童的家人建立情感关系,以降低儿童或其家人的戒心,进而达到性虐待的目的。检测则需要使用基于AI的语言分析与概率技术来搜寻诱拐证据,包括可能表明某人正在诱拐儿童的文字、音频或其他行为,这些AI技术大量学习过现有的儿童性诱拐模式。


如同其对检测新CSAM的技术的态度,EDRi认为,基于AI技术检测儿童性诱拐也存在误报的可能。不仅如此,EDRi进一步指出,由于儿童性诱拐的判断很大程度上基于其文字、音频或其他行为的前后语境,并且性诱拐行为的构成也依赖于不同欧盟国家对性同意年龄的规定,AI技术很难理解语境与法律框架的不同,因此会更容易产生误报结果。


即使是最先进的基于机器学习的自然语言处理(Machine Learning-based Natural Language Processing,ML-NLP)模型,其在学习大量的人类自然语言后,也会在理解人类语言中的情感、理解上下文语意、识别文本中的关键词等自然语言处理主要任务上有着高达百分之几的错误率。


以上批评聚焦于检测技术的准确性及误报的后果,EDRi还强调了检测令对端到端加密(end-to-end encrypted, E2EE)的影响。端到端加密是一种安全通信方式,其中通信的两端(发送方和接收方)之间的数据在整个传输过程中都是加密的,即使在数据传输的中间节点(如网络服务提供商)也无法解密或访问其内容。强调隐私与安全性的通信软件已经采用了端到端加密,如WhatsApp与Signal,二者都默认以端到端加密的方式保护用户的所有消息与通话。


EDRi认为,尽管CSAR规定检测用于特定情形,但确定特定情形的过程要求平台检测所有人的内容,包括端到端加密内容。由于CSAR提案并不将端到端加密内容作为不受检测的例外,那么这就会从根本上破坏端到端加密的安全性。因为目前已知可用于检测E2EE内容的方法要么会削弱加密,要么会需要引入客户端扫描(Client-Side Scanning,CS,指在加密前或解密后,在通信的一端对手机、电脑等客户端设备上的内容进行扫描),而客户端扫描受到网络安全保护与人权保护人士的严重诟病。


EDRi引用了致力于保护隐私权的非营利组织隐私国际(Privacy International,PI)2022年9月发布的一份关于隐私保护与端到端加密的报告,报告称,客户端扫描可以通过比对用户设备上的信息与储存在远程服务器上的信息,使得执法部门能够对用户设备进行远程搜索,而不仅仅是阅读加密通信的内容;它为了寻找CSAM,而扫描了所有用户通过端到端加密发送的内容,这是一种不加区分的、普遍的监控,这种监控很有可能会引发严重的寒蝉效应,人们会限制自己与他人的沟通方式,并进行自我审查,对言论自由和结社自由产生不利影响。[12]

来源:Privacy International网站


04

ECLAG对检测令条款的支持意见


2022年4月,英国非营利组织网络观察基金会(Internet Watch Foundation, IWF)、欧洲儿童保护社会组织Eurochild等65个非政府组织成立欧洲儿童性虐待立法倡导小组(European Child Sexual Abuse Legislation Advocacy Group,ECLAG),致力于推动欧盟数字与社会政策对儿童的保护,是CSAR的坚定支持者。2023年10月,ECLAG发布报告,旨在回应CSAR提案发布后反对者对隐私权的忧虑,谈及反对者对CSAR存在的6个误解以及与CSAR有关的6个事实。[13] 报告中的以下几点直接回应了反对者对检测令条款的质疑:

来源:Child safety in Europe网站


第一,对于检测技术的准确性,ECLAG引述了以国际性咨询公司Ecorys为首出具的法案实施影响评估报告,报告显示,目前已采用的检测技术报告新的CSAM内容的准确率明显高于90%,一些现存的诱拐检测技术在经人工审核之前准确率则为88%。[14] 


另外,ECLAG的成员Eurochild在2023年10月24日发布的一篇评论文章中指出,具有高安全性与隐私性的检测技术不仅存在,且已在被使用,例如Thorn开发的Safer Tool与谷歌公司开发的内容安全API(Content Safety API)。[15] 


Safer Tool通过与哈希数据库进行匹配以及AI技术来分别识别已知CSAM与新CSAM,识别出的内容经由人工审核后可直接发送给相关的网络举报热线[16];内容安全API则基于AI技术,专门用于检测可能包含新CSAM的图片,并进行分级,其给出的优先级越高,图片越可能包含CSAM,使用内容安全API的网络平台可以据此决定对图片进行人工审核的顺序。[17]


第二,针对检测技术会破坏端到端加密的指控,ECLAG指出,在端到端加密中,已存在足以保护隐私的检测技术,如客户端扫描。


目前,WhatsApp已采用该技术自动在用户客户端检查可疑网址(Universal Resource Locator, URL),在不影响端到端加密的情况下防止恶意网址在其加密信息服务上传播[18];


Chrome[19]和Edge[20]等浏览器也以同样的方式在用户导航至危险网站或下载时向用户发出警告;苹果公司也同样推出了“敏感内容警告”和“通信安全”工具,该工具会扫描儿童设备上的本地信息,标记发送和接收的含有裸露内容的信息[21]

来源:苹果手机“设置”


第三,ECLAG认为,反对者关于“检测技术将读取所有信息,造成大规模监控”的指控基于对检测令程序、现有技术的误解,以及毫无根据的恐惧情绪。


首先,根据CSAR提案,检测令只有在经过风险评估、多重审查、法院命令等程序后才可能发出,因此检测技术几乎不可能被滥用


其次,检测技术不会读取(read)或“理解(understand)”所有信息,其只是寻找匹配的对象。就已知的CSAM内容而言,检测技术通过哈希值匹配数据库中的已知CSAM的内容与检测内容;就新的CSAM而言,检测则通过AI技术来进行,该技术受训区分开CSAM内容与合法内容,AI技术标记出可能为CSAM的内容,最后进行人工审核


05

结论


总结而言,EDRi对检测令条款的批评有三:第一,质疑检测令所需运用的技术,认为检测三种CSAM内容的现有技术都会产生误报,准确率不够高,误报不仅会使用户失去其网络账号,还有可能给用户招致被调查的麻烦;第二,检测令条款的存在会从根本上破坏端到端加密,无法保护用户的隐私权;第三,目前能够在端到端加密环境下进行检测的客户端扫描技术,要求扫描用户设备上的所有内容,这可能引发严重的寒蝉效应。


尽管ECLAG在EDRi发表其批评的一年后才发布报告,它对批评的回应却显得有些无力:ECLAG强调现有检测技术准确性高且被广泛使用,但并未提供对技术准确性的独立验证,也没有回应对客户端扫描技术的质疑;而面对“引发大规模监控社会”的担忧,ECLAG仅仅强调检测技术可靠,以及检测令程序严格。


作为普通读者,我们或许难以判断能够平衡儿童网络性虐待防治与隐私保护的技术是否存在,但即使专业人士能够证明这样的技术存在,我们也能从反对者与支持者的交锋中感知到,若欧盟公民质疑欧盟权威机构与拥有技术的网络公司可能滥用权力侵犯隐私,这背后的信任危机则是亟待解决的又一棘手问题。


注释

[1]https://www.childrenssociety.org.uk/what-we-do/our-work/preventing-child-sexual-exploitation/what-child-sexual-abuse-and-exploitation (last visited Dec 18, 2023).

[2]https://www.missingkids.org/cybertiplinedata (last visited Dec 18, 2023).

[3]https://learning.nspcc.org.uk/media/1559/livestreaming-video-chatting-nspcc-snapshot-2.pdf?_ga=2.145132017.476434600.15577 (last visited Dec 18, 2023).

[4]https://www.consilium.europa.eu/media/65450/2023_225_empact-factsheets-2022_web-final.pdf (last visited Dec 25, 2023).

[5]https://human-rights-channel.coe.int/stop-child-sexual-abuse-in-sport-en.html (last visited Dec 25, 2023).

[6]https://www.consilium.europa.eu/en/policies/prevent-child-sexual-abuse-online/ (last visited Dec 18, 2023).

[7]提案全文见:https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=COM%3A2022%3A209%3AFIN (last visited Dec 15, 2023).

[8]https://ec.europa.eu/commission/presscorner/detail/en/ip_22_2976 (last visited Dec 25, 2023).

[9]https://edri.org/wp-content/uploads/2022/10/EDRi-Position-Paper-CSAR.pdf (last visited Jan 3, 2024).

[10]https://edri.org/wp-content/uploads/2023/05/CSAR-summary-booklet.pdf (last visited Jan 3, 2024).

[11]https://transparency.fb.com/sr/eu-csam-derogation-report-2022/ (last visited Dec 18, 2023).

[12]https://privacyinternational.org/sites/default/files/2022-09/SECURING%20PRIVACY%20-%20PI%20on%20End-to-End%20Encryption.pdf (last visited Dec 29, 2023).

[13]https://www.childsafetyineurope.com/wp-content/uploads/2023/11/ECLAG_Myth-Busting-Facts-on-the-EU-CSA-Regulation-Public-Version-1.pdf (last visited Jan 1, 2024).

[14]https://home-affairs.ec.europa.eu/system/files/2023-06/Comments%20from%20the%20Commission%20to%20the%20European%20Parliamentary%20Research%20Service%27s%20impact%20assessment_en_0.pdf (last visited Dec 15, 2023).

[15]https://www.eurochild.org/news/learn-the-facts-key-insights-on-the-eus-proposed-csa-regulation/ (last visited Dec 18, 2023).

[16]https://safer.io (last visited Jan 2, 2024).

[17]https://protectingchildren.google/tools-for-partners/#learn-about-our-tools (last visited Jan 2, 2024).

[18]https://faq.whatsapp.com/393169153028916/?cms_platform=web (last visited Dec 15, 2023).

[19]https://safebrowsing.google.com/ (last visited Dec 15, 2023).

[20]https://support.microsoft.com/en-us/microsoft-edge/how-can-smartscreen-help-protect-me-in-microsoft-edge-1c9a874a-6826-be5e-45b1-67fa445a74c8 (last visited Dec 15, 2023).

[21]https://www.wired.com/story/apple-communication-safety-nude-detection/ (last visited Dec 15, 2023).

本篇文章来源于微信公众号: 致诚儿童

通过肖利娜

国际视角:数字时代网络性剥削对儿童权利保护的挑战



数字时代科技飞速发展,儿童性剥削问题在网络环境中显现出其深刻的严重性和普遍性。近期的报道揭示一个名为LAION-5B的开源图片数据库中存在上千张涉及儿童性虐待内容的图片,而这些图片原本将作为人工智能模型的训练数据。这不仅仅是一个孤立的事件,而是问题的冰山一角。与此同时,尽管大型平台企业如Meta报告了数百万起儿童色情案件,但其算法推荐系统和信息加密技术引发争议不断,如何判定儿童权利保护与个人隐私保护的边界成为无法回避的议题。我们应汲取国际实践经验,积极参与相关立法和政策制定,共同应对数字时代儿童性剥削问题,确保每个孩子都能在数字时代享有安全、无忧的童年。


PART/1

一、儿童网络性剥削问题现状


2023年12月20日,美国华盛顿邮报(The Washington Post)报道称,美国斯坦福大学互联网观察站(Internet Observatory)的研究人员在一个名为 LAION-5B 的流行开源图片数据库中发现了至少 1,008 张涉及儿童性虐待(sexual abuse)内容的图片,而Stable Diffusion等人工智能图片生成模型正是依靠该数据库来创建超逼真照片的。LAION-5B的代表回应称,该数据库已经被暂时下架,“以确保在重新发布之前是安全的” [1]


数字时代人工智能技术迅猛发展,任何人只需向人工智能模型输入简短的描述,就能获得一张逼真的图像。而考虑到人工智能模型拥有根据已有材料进行快速学习、训练、重新创建图像的能力,LAION-5B数据库中一千多张涉及儿童性虐待的照片可能会为人工智能图像生成器提供令人担忧的能力——每个孩子都值得拥有一个安全的童年,而数字时代的网络环境中,这还只是儿童性剥削(sexual exploitation)问题的冰山一角。


根据世界卫生组织(World Health Organization)的定义[2],性剥削指为性目的实际滥用或企图滥用(受害人的)弱势地位、权力或信任,包括但不限于从对他人的性剥削中获取金钱、社会或政治利益;性虐待指通过暴力或在不平等或胁迫条件下,实际或威胁对身体进行性侵犯[3]。在数字时代,互联网高度普及和科学技术快速发展的背景下,儿童性犯罪内容猖獗,解决网络空间的儿童权利保护问题刻不容缓。


根据英国非营利组织网络观察基金会(Internet Watch Foundation, IWF)在其官方网站上发布的数据,在过去的十年间,显示儿童被强奸、折磨和性虐待的图片和视频增加了1800%[4]。而根据其2022年度报告[5],IWF在2022年共评估了375,230份举报儿童性虐待内容的相关报告,这个数字较2021年增加4%,较2020年增加25%[6]。在IWF所评估的报告中,255,588份报告被确认包含儿童性虐待内容,或在对相关内容进行相关宣传。其中,包含受害者自制内容(self-generated content)的已采取措施的报告总数为199,363份,占被判定包含违法内容的报告总数的78%,而这个数字相较于2021年增加9%。这些自制内容可能是未成年人有意拍摄和分享的,但在大多数情况下是在线引诱(online grooming)或性勒索(sextortion)的结果[7]。而根据国际非营利组织国际互联网热线协会(International Association of Internet Hotlines, INHOPE)2022年度报告[8],在其全年收到的587,852起潜在虐待儿童案件的报告中,84%的儿童性虐待材料(Child Sexual Abuse Material, CSAM)是全新的内容。这些数据揭示了数字时代儿童性剥削问题[9]的严重性,国际社会需要采取更加有力的措施来应对和确保儿童在网络空间中的安全。


美国非营利组织儿童救助联盟(Child Rescue Coalition, CRC)的在其官方网站上发布的数据[10]又揭示了儿童性剥削问题的普遍性。在其成立以来发现的7,250万涉及儿童色情犯罪的IP地址中,最广泛分享的CSAM文件与超过250万个IP地址相关,这显示儿童色情犯罪内容在网络媒介上传播的速度惊人,而其传播的隐秘性使得非营利组织或司法机构难以及时对违法内容进行锁定和处理——即使已经有超过250万个IP地址获取了它们;更为可怕的数据是,儿童网络色情犯罪者通常在他们的一生中侵害50到150名未成年人;约1/5的女孩和1/20的男孩在18岁之前将经历某种形式的性虐待[11]


PART/2

二、数字时代的新问题:Meta的算法推荐到信息加密技术引发争议


数字时代的儿童权利保护问题紧迫,而又复杂。平台企业的大数据及算法应用,在为及时、动态地定位违法内容提供技术支持的同时,也可能无意识地促成违法行为的猖獗。以Meta为例,纵使其积极与非营利组织合作,协助调查和报告儿童色情内容——根据美国国家失踪和受剥削儿童中心(National Center for Missing & Exploited Children, NCMEC)于2023年12月7日发布的数据显示,仅在2022年,Meta报告了超过2,000万起通过其旗下社交软件Messenger和Facebook传播的分享儿童色情图像的案件[12]。但与此同时,其所应用的技术手段也暴露出诸多问题,为数字时代的儿童网络保护带来新的挑战。


2023年6月7日,《华尔街日报》(The Wall Street Journal)揭露了Instagram帮助推广儿童性剥削内容的问题[13]。由于平台应用的算法推荐系统习惯于将有共同兴趣的人联系起来,导致为恋童癖寻找发布和销售儿童色情内容的账号提供了事实上的便利。恋童癖通过搜索标签(hashtag)等方式找到发布及出售非法内容的Instagram账号,算法技术进而记录并学习用户的行为模式,向用户不断推荐儿童性虐待相关术语和关联账户。文章还提到,发布及出售非法内容的Instagram账号通常不会公开发布非法内容,而是通过发布内容“菜单”邀请买家进行特定交易,其内容本身具有隐蔽性。再加之平台监管不善,导致一个庞大的地下交易网络迅速滋生。


在相关研究结果公布后,Meta迅速回应,声称禁用了相关搜索标签并在迅速建立小组处理系统的算法推荐问题,并采取措施整治平台上的非法账户[14]。但令人担忧的是,在报道发布的6个月后,《华尔街日报》于2023年12月1日发布了跟踪报道[15],披露Meta所采取的举措并不尽如人意。根据《华尔街日报》和加拿大儿童保护中心(Canadian Centre for Child Protection)进行的测试显示,Meta的推荐系统仍在推广儿童色情内容。尽管Meta已经删除与恋童癖有关的标签,但其系统有时会推荐措辞具有轻微变化但内容一致的新标签;即使Meta收到关于可疑账户的报告,也在认定和删除的方面表现不稳定;类似的问题不仅出现在Instagram上——Meta的一位发言人表示,公司已经在Facebook的搜索结果中隐藏了19万个群组,并禁用了数以万计的其他账户,但工作结果并不令人满意。


另一争议关乎Meta为促进个人隐私保护,在社交软件通信中升级信息加密技术所引发的对儿童网络权利保护的间接损害。2023年12月6日,Meta在其官方网站上发布消息[16]称,为更好地保护用户的信息安全,其将在社交软件Messenger上的全部私人聊天及通话功能中应用端到端加密技术(end-to-end encryption, E2EE),该技术的应用使通信内容在从离开发送端设备到到达接收端设备的整个过程中都受到加密保护,除非发送端或接收端的用户选择向平台报告信息,否则任何第三方无法在传输过程中访问或解读通信内容。从个人隐私权利保护的角度来看,这无疑是极大的技术进步。然而美国国家失踪和受剥削儿童中心(National Center for Missing & Exploited Children, NCMEC)及英国全国警察局长理事会(National Police Chiefs’ Council, NPCC)则先后于2023年12月7日及2023年12月8日于其官方网站发布文章[17],呼吁关注该技术对儿童网络权利保护的影响。NCMEC在文章中提出[18],在过去十多年来,Meta选择积极检测和删除涉及儿童被性虐待和剥削的图像和视频,而端到端加密技术将消息权限严格限制在传输的两端导致任何第三方无法检测所发送的信息中是否包含儿童性剥削内容,被动地给犯罪者提供保护。NCMEC进而敦促Meta停止应用端到端加密技术,直到其能够在加密信息中检测、报告和删除儿童性虐待图像。


PART/3

三、数字时代儿童性剥削问题再审视


我们对于网络儿童性剥削问题的讨论不应只停留在其他国家——从国内媒体《新京报》于2023年9月7日曝光的针对未成年人“隔空猥亵”的相关案例来看[19],我国也面临类似困扰。数字时代的儿童性虐待材料的传播以互联网为媒介,具有跨国性质。打击相关犯罪,有效的国际协作不可或缺,这需要我们高度关注国际动态。2023年11月8日,联合国73个成员国推出促进和保护儿童权利的经修订决议草案[20],提出数字时代的信息技术对儿童权利保护所带来的挑战的紧迫性。在国际社会制定相关政策的过程中,我国作为数字技术领先、平台经济高度发达的国家,应当积极参与立法和政策制定进程,提出治理经验,并探讨不断涌现的新问题。


身处算法和人工智能技术迅速变革的浪潮中,回应保护儿童权利的时代要求成为迫切之需,现状严峻,我们不能掉以轻心。除了关注大型平台企业、国际组织和各国政府为保护儿童权利所做的努力外,我们也需认识到数字技术应用带来的全新挑战。如何动态地审查和删除寄生在网络环境中的违法行为?如何平衡个人隐私保护和儿童权利保护?如何划定儿童权利保护过程中对个人隐私审查的边界?这都是需要我们思考的问题。打击儿童性剥削,确保每个孩子都能在数字时代享有一个不被打扰的童年。



注释


[1]https://www.washingtonpost.com/technology/2023/12/20/ai-child-pornography-abuse-photos-laion/,最后访问日期:2023年12月25日。

[2]https://www.who.int/docs/default-source/documents/ethics/sexual-exploitation-and-abuse-pamphlet-en.pdf?sfvrsn=409b4d89_2,最后访问日期:2023年12月22日。

[3]关于性剥削和性虐待概念的区分,根据儿童性剥削机构间工作组 (Interagency Working Group on Sexual Exploitation of Children,IWG) 2016年在卢森堡通过的《保护儿童免受性剥削与性虐待的术语指南》(Terminology Guidelines for the Protection of Children from Sexual Exploitation and Sexual Abuse),儿童性剥削这一概念与其他形式的儿童性虐待的不同之处在于剥削中潜在的交换概念,即“剥削”指的是不公平地利用某物/某人来为自己谋取好处或利益,包括金钱和非金钱交换。虽然对这两种概念加以区分,但也必须承认它们之间有相当多的重叠,而且从语义上讲,这两者之间的区别可能不会完全清楚。例如,许多儿童性虐待案件也涉及到对儿童的某种利益或交换,如赠送礼物、提供关注和关爱等非物质利益。同样,从利用儿童脆弱性的意义上讲,剥削的概念可以说适用于所有虐待受害者。

[4]https://www.iwf.org.uk/policy-work/end-to-end-encryption-e2e/,最后访问日期:2023年12月20日。

[5]https://annualreport2022.iwf.org.uk/,最后访问日期:2023年12月15日。

[6] https://annualreport2020.iwf.org.uk/trends,最后访问日期:2023年12月19日。

[7]https://inhope.org/EN/articles/what-is-self-generated-csam, 最后访问日期:2023年12月20日。

[8]https://www.inhope.org/EN/articles/inhope-annual-report-2022, 最后访问日期:2023年12月15日。

[9] 关于性剥削与性虐待概念的使用,实践中存在语义不明或混用的问题。本文认为,根据上文提及的世界卫生组织的定义,在网络平台发布儿童性虐待材料难以认定为性虐待行为,属于从针对他人的性虐待中获得利益,应被认定为性剥削行为。

[10]https://childrescuecoalition.org/the-issue/, 最后访问日期:2023年12月15日。

[11] 同上注。

[12]https://www.missingkids.org/blog/2023/devastating-blow-child-protection-meta-expands-encryption, 最后访问日期:2023年12月19日。

[13]https://www.wsj.com/articles/instagram-vast-pedophile-network-4ab7189, 最后访问日期:2023年12月19日。

[14] 同上注。

[15]https://www.wsj.com/tech/meta-facebook-instagram-pedophiles-enforcement-struggles-dceb3548, 最后访问日期:2023年12月20日。

[16]https://about.fb.com/news/2023/12/default-end-to-end-encryption-on-messenger/, 最后访问日期:2023年12月20日。

[17]关于NCMEC 所发布的文章,请见https://www.missingkids.org/blog/2023/devastating-blow-child-protection-meta-expands-encryption, 最后访问日期:2023年12月20日;关于NPCC所发布的文章,请见https://news.npcc.police.uk/releases/npcc-response-to-metas-rollout-of-end-to-end-encryption, 最后访问日期:2023年12月20日。

[18] 同上注。

[19] 罗艳、胡杰:《斩断“隔空猥亵”隐秘黑手》,载《新京报》,2023年9月7日。

[20]United Nations, Seventy-eighth session, Third Committee, Agenda item 67, Promotion and protection of the rights of children, A/C.3/78/L.19/Rev.1



本篇文章来源于微信公众号: 致诚儿童

通过肖利娜

在美国引发关注的案件:社交平台是否对青少年身心健康造成损害?


2023年11月7日,Facebook前安全主管阿图罗∙贝哈尔(Arturo Bejar)在美国参议院小组委员会就社交媒体和青少年心理健康危机作证,揭示了 Instagram 上存在的安全漏洞,对青少年,包括他自己的孩子的心理健康和身体健康产生的负面影响。他还揭示了包括扎克伯格(Mark Elliot Zuckerberg)在内的 Meta 高管如何明知 Instagram 造成的伤害,却选择不采取有效的措施来改变这种状况。阿图罗是继Facebook前举报人弗朗西斯∙豪根(Frances Haugen)在国会就 Facebook 和 Instagram 对儿童的伤害作证的第二人,其证词也是在美国43个州总检察长起诉 Meta 伤害青少年并导致青少年心理健康危机两周后发表的。

在美国,约有2100万青少年在使用社交媒体,如今,已有 1200 多个家庭对 TikTok、Snapchat、YouTube、Roblox 和 Meta(Instagram 和 Facebook 的母公司)等社交媒体公司提起诉讼。本文选取了三个对Meta,TikTok和Snapchat提起的个人诉讼,目的是想更加直观和深入地了解举报人阿图罗∙贝哈尔、弗朗西斯∙豪根和美国43位总检察长所揭示和起诉的社交媒体平台对青少年造成身体和心理伤害的严重状况。



01


一、亚历克西斯、凯瑟琳和杰弗里斯∙彭斯诉Meta人身伤害案

2022年6月6日,亚历克西斯∙斯彭斯(Alexis Spence)及其父母凯瑟琳∙斯彭斯(Kathleen Spence)和杰弗里∙斯彭斯(Jeffery Spence)(统称“原告”),向美国加利福尼亚州北区地方法院提起对Instagram 的母公司 Meta的人身伤害诉讼。诉状称,Meta 的 Instagram 是造成亚历克西斯沉迷 Instagram 的罪魁祸首,导致她从 11 岁开始出现焦虑、抑郁、自残、饮食失调和自杀念头。

在沉迷 Instagram 之前,亚历克西斯是一个自信、快乐的孩子,她喜欢阅读、写作、帮助他人和动物。她梦想成为一名兽医,积极参加歌唱比赛和戏剧表演,喜欢成为聚光灯下的焦点,并寻找机会发光发热。然而,在她 11 岁时,在未经父母同意的情况下开设了自己的第一个 Instagram 账户。几乎是一瞬间,她就被引向了宣传厌食症、负面身体形象和自残的网站。后来,她绕过了设备的家长控制,创建了多个秘密 Instagram 账户,并通过更改应用程序图标在设备上隐藏了 Instagram以向父母隐藏她的社交媒体账户。随着时间的推移,亚历克西斯患上了饮食失调症,因为 Instagram 的算法引导她浏览的内容越来越多地包含体重过轻的模特、不健康的饮食和饮食失调的内容,最终导致了她的精神健康问题以及自残和自杀的念头。她不得不接受专业的心理咨询、住院治疗、门诊治疗,参加饮食失调项目,并可能在余生都需要服务犬的帮助,以及持续的医疗护理。

原告在诉状中称:“本产品责任诉讼旨在追究被告 Meta Instagram 产品的责任,因为该产品导致并加剧了 Meta 公司对美国儿童和青少年造成的日益严重的心理健康危机,特别是自 2013 年起对亚历克西斯造成的伤害,当时她年仅 11 岁”。

原告声称,“所有伤害都是由亚历克西斯接触和使用 Meta 有不合理危险和缺陷的社交媒体产品 Instagram 造成的。Meta 知道她未满13岁,却在设计其产品时鼓励这种非法和未经授权的使用,同时还鼓励其开设多个账户”。

原告还称,“用 Meta 自己的话说,它制造了一场‘完美风暴’(Perfect Storm),让人上瘾、进行社交比较、接触到令人难以置信的有害内容和产品功能,然后通过 Alexis 的 Feed、Explore、Stories 和 Reels 功能,操作其算法来推送和宣传有害内容”。

原告在救济请求中,请求法院判决给予禁令救济。原告还要求法院对亚历克西斯过去遭受的身体和精神痛苦以及收入和谋生能力损失给予金钱和惩罚性赔偿。

美国昆尼皮亚克大学(Quinnipiac University)法学院助理教授韦恩恩格尔对此诉讼的分析认为,类似的诉讼在过去都以失败告终,主要原因是社交媒体平台根据《通信体面法案》(the Communications Decency Act)第 230 条声称享有豁免权。然而,亚历克西斯的诉讼与众不同,Meta 应该为此感到担忧。首先, 亚历克西斯的诉讼是在豪根披露 Facebook 的内部研究(即 Facebook 论文)之后提起的,该研究表明 Meta 知道其社交媒体产品会让少女高度上瘾并对其造成伤害。其次,这是首批指控设计缺陷的诉讼之一:Instagram 内置的某些产品特性和功能存在根本性缺陷,这些缺陷造成了亚历克西斯的精神和身体伤害。第三,它没有指控用户上传到平台上的内容造成了伤害,而是以内容中立的方式针对 Instagram 的特点和功能。相比之下,亚历克西斯对Meta 的诉讼主要集中在 Instagram 的 “Feed + Profile and Explore”、”好友推荐 “和 “赞 “上,其中后者可能是最有力的主张。她的诉讼请求可以表述为无论用户在 Instagram 上发布的内容如何,这些产品功能和特性都造成了伤害。韦恩教授对该诉讼的走向还提出预判,他认为,与其他法院相比,美国加利福尼亚州北区地方法院对技术的理解更为透彻,因此该诉讼可能会在 Meta 的驳回动议中胜诉,但前提是地方法院采用适当的因果关系分析。


02


二、切斯∙纳斯卡父母诉TikTok过失致死案

2023年3月22日,切斯∙纳斯卡(Chase Nasca)的父母向纽约萨福克县最高法院对社交媒体平台 TikTok提起过失致死诉讼,要求 TikTok承担直接导致切斯的精神状况出现问题并导致其死亡的责任。

切斯是一个聪明外向的孩子,学习成绩优异,热爱运动,并参加过竞技体育。他没有焦虑或抑郁的病史,有支持他的家人和好友,在 2021年底被奥林匹克发展计划足球队录取。切斯在六年级升入初中后拥有了自己的第一部手机,这样父母就可以在需要时联系到他。据他父母所知,切斯当时并没有开设 TikTok 账户,但无法确定,因为 TikTok并不核实年龄,也不要求未成年人开设账户必须征得父母同意。从2021年10月开始,TikTok引导切斯访问危险和有害的账户,这些账户宣传高度抑郁、暴力、自残和自杀主题。 

诉状称,TikTok的平台设计在如何接受用户进入其平台、选择向用户展示哪些内容以及使用令人上瘾的算法最大限度地延长用户屏幕时间等方面存在固有缺陷。TikTok 向 16 岁的切斯发送了数千段未经请求的自杀视频,其中一些频建议年轻人应该走到行驶的火车前结束自己的生命。在收到这样一段视频后不久,切斯在给朋友发去“我做不下去了”(I can’t do it anymore) 的信息后进入了他家附近的长岛铁路轨道,不幸身亡。

诉讼还称,这些压抑和暴力的内容创作者使用 TikTok的黑暗、自杀主题歌曲,使他们的视频更具冲击力,并使用流行标签来确保最大限度地放大。

诉状进一步称,TikTok 知道暴力、危险、极端和心理上令人不安的内容比安全和良性的内容更能引发未成年人的多巴胺反应。

切斯父母向法院提出损害赔偿请求,同时提出禁令救济,要求法院命令TikTok 停止被指控的有害行为,纠正其社交媒体产品中不合理的危险推荐技术,并向未成年用户及其父母发出警告,说明TikTok 的社交媒体产品会使人上瘾,对毫无戒心的未成年人构成明显的危险。

3 月 23 日,即该诉讼提起后的第二日,美国国会众议院能源和商业委员会举行听证会,主题是TikTok:国会如何保障美国数据隐私和保护儿童免受网络伤害(TikTok: How Congress Can Safeguard American Data Privacy and Protect Children from Online Harms)。切斯的父母参加了听证会,就儿子的死亡发表了情绪激动的证词。TikTok 首席执行官周受资(Shou Zi Chew)对儿童保护问题做出回应,称TikTok在近几个月推出多项功能,为年轻用户提供额外保护,包括为18岁以下用户设置60分钟的每日使用时限。周受资认为,很多被指出的风险都是假设和理论上的风险,没有看到任何切实证据。在书面证词中,周受资做出四大承诺,其中第一项承诺是关于儿童网络保护的,承诺TikTok将把安全,尤其是青少年安全,作为其首要任务。


03


三、塞莱娜∙罗德里格斯母亲诉Snapchat产品责任诉讼案件

2022 年 1 月 20 日,塞莱娜∙罗德里格(Selena Rodriguez)的母亲塔米∙罗德里格(Tammy Rodriguez)向美国加利福尼亚州北区地方法院对社交媒体平台Snapshot和Meta提起产品责任诉讼。诉状称,”本产品责任诉讼案旨在追究被告造成和加剧美国儿童和青少年精神健康危机的责任,特别是追究 11 岁的塞莱娜因沉迷使用和接触被告不合理、危险和有缺陷的社交媒体产品而非正常死亡的责任。

塞莱娜九岁时开始沉迷于 Snapchat 和 Instagram。当她 11 岁时,已经因为整天不停地查看通知而睡眠不足。她经常与男性互动,并向他们发送露骨的自拍照,这些照片随后被公开分享,导致她在学校受到欺凌。塞莱娜患上了饮食失调症、自卑和严重的抑郁症。尽管她多次入住精神病院、接受门诊治疗,她的母亲也曾试图取消她访问社交媒体的权限,但塞莱娜对社交媒体的沉迷最终导致她于 2021 年 7 月 21 日自杀身亡。

诉状称,社交媒体巨头未能提供足够的保护措施,防止有害和剥削性的内容。Snapchat 的盈利模式取决于儿童的在线时长。因此,儿童不仅仅是偶然发现有害信息,实际上是被指向有害信息。

诉状又称,Snapchat 用户可以发布被称为 “快照 “的图片或视频。Snapchat 为用户提供了为 “快照 “设置时间限制的功能,因此一旦被浏览,它们就会立即消失。这就造成了一种错觉,即在 Snapchat 上发布的图片和视频都是暂时的,这可能会鼓励青少年分享他们原本不会分享的内容,如露骨的图片或网络欺凌信息。这一功能还可能鼓励性掠夺者积极参与该平台。

诉状还称,Snap 地图(Snap Map)的功能允许用户分享和查看彼此的位置。理论上只有 “好友 “才能看到,但许多 Snapchat 好友并不是青少年用户认识的人,他们可能是性掠夺者或毒贩。Snapchat 的这些独特功能防止了家长的监控,迫使用户每天使用该平台,并允许用户暴露自己的位置。

塔米向法院向提出损害赔偿请求,同时提出禁令救济,要求法院命令Snapchat停止被指控的有害行为。

Snap 的一位发言人告诉美国广播公司新闻(ABC News):”该应用与许多心理健康组织密切合作。为 Snapchatters 提供应用内工具和资源,这是我们持续努力确保社区安全的一部分。”发言人补充说:“听到塞莱娜去世的消息,我们感到非常悲痛,我们对她的家人表示同情。虽然我们不能对正在进行的诉讼的具体细节发表评论,但对我们来说,没有什么比我们社区的福祉更重要。”

社交媒体受害者法律中心(SMVLC)创始人马修∙格曼(Matthew Bergman)律师告诉美国广播公司新闻:“我相信他们并不想让这种事情发生,但如果他们的缺陷产品的可预见后果导致了这些可怕的结果,那么他们不仅要承担法律责任,还要承担道义责任。我相信陪审团最终会认定两家公司对塞琳娜的死亡负有责任。

 


参考文献 



  1.  Refer to A Meta engineer saw his child face harassment on Instagram. Now, he’s testifying before Congress,  https://apnews.com

  2. Families suing social media companies, video of 60 Minutes

  3. Refer to Spence et al v. Meta Platform, Inc.,f/k/a Facebook, Inc. https://unicourt.com

  4. A New Lawsuit Says Instagram Hurts Teenagers by Design, by Wayne Unger, https://slate.com

  5. Refer to Teen took life after receiving 1000 unsolicited videos:I can’t do it anymore.https://www.news.com.au

  6. TikTok CEO出席美国国会听证会:封禁不是唯一选择。https://www.thepaper.cn

  7. Refer to Rodriguez v. Meta Platforms Inc. And Snap, https://socialmediavictims.org

  8. Refer to Mom sues social media giants for allegedly driving her 11-year-old daughter to suicide, by Leda A;vim and Penelope Lopez, https://abcnews.go.com




本篇文章来源于微信公众号: 致诚儿童

通过肖利娜

美国42州总检察长起诉Meta指控危害未成年人心理健康

美东时间10月24日,美国33个州总检察长在加利福尼亚州北区向Meta发起了联邦诉讼,指控其子公司 Facebook 和 Instagram 社交媒体平台上的功能使儿童和青少年上瘾,危害未成年人心理健康。另外有9名总检察长在各自的州提起诉讼。来自41个州和华盛顿特区的总检察长组成的两党联盟对Meta的此次诉讼,再次引发全球网络企业,尤其是大型平台企业如何加强未成年人网络保护的关注和热议。


01

为什么起诉 Meta?


42个州总检察长的诉讼共同描绘了这样一幅图景:一家公司为了让尽可能多的年轻人上瘾,将产品安全问题置之不理,以此牟利更多利润。


诉状称,Meta在设计Facebook和Instagram应用时加入了 “操纵性的有害功能”,目的是让年轻用户在这些应用上停留更长时间,并反复使用。根据联邦诉状,Meta 是通过算法设计、大量提醒、通知和所谓的无限滚动浏览平台内容等功能来实现这一目的的,这种通过操纵儿童和青少年多巴胺反应的功能最大限度地延长他们在平台上的时间,故意诱使他们上瘾,强迫性地使用社交媒体,毒害了青少年的心理健康。


诉状又称,包括 Meta 自己的研究在内的多项研究表明,未成年人使用Meta的社交媒体平台后,会产生抑郁、焦虑、失眠、干扰教育和日常生活以及许多其他心理健康的负面结果。总检察长们指控一些功能,比如点赞和社交比较功能会导致焦虑和抑郁情绪加重,但由于 “害怕错过文化和社会潮流”,他们不得不继续使用该应用。另外,Meta 继续使用一种视觉过滤功能,助长青少年用户的身体畸形,导致与饮食失调有关的身体形象问题。检察长们指出这已经不是 Meta 第一次因对青少年,尤其是少女的身体形象造成潜在伤害而受到批评了。2022年,一名 19 岁女孩的父母起诉该公司,称他们的女儿沉迷于 Instagram,并患上了饮食失调症和自杀倾向。


诉讼还指控 Meta 在未经父母同意的情况下收集 13 岁以下用户的个人数据,违反了《儿童在线隐私保护法》(Children’s Online Privacy Protection Act,简称 COPPA)。Meta 向 13 岁以下的儿童推销其平台,并实际知晓这些儿童使用其社交媒体产品,但 Meta 拒绝征得家长的同意。并且,Meta试图将各州所说的有害做法扩展到虚拟现实,包括Meta的Horizon Worlds平台以及聊天应用WhatsApp Messenger。



02

对 Meta 提起诉讼的目的是什么?


根据《儿童在线隐私保护法案》(COPPA),该诉讼旨在让 Meta 停止使用有害的算法策略,停止未经父母同意非法收集年轻用户(13 岁以下)的个人数据,并阻止 13 岁以下用户加入该平台。同时,该诉讼要求根据各州的消费者保护法,将 Meta 的设计功能视为非法,并处以高额经济处罚。


纽约州总检察长莱蒂西亚•詹姆斯(Letitia James)在一份宣布提起诉讼的声明中说:“儿童和青少年的心理健康状况不佳,达到了创纪录的水平,而 Meta 等社交媒体公司难辞其咎。该诉讼敦促联邦法院命令 Meta 停止操纵策略,并支付巨额罚款和赔偿金”。内布拉斯加州总检察长迈克•希尔杰斯(Mike Hilgers)在一次新闻发布会上说:”我们希望这种活动停止使用其误导性算法。“我们希望确保它适用于 COPPA”。田纳西州总检察长 乔纳森•斯克尔梅蒂(Jonathan Skrmetti )补充说:“这不是钱的问题。这是为了保护儿童。我们希望该公司改变其行为”。



03

诉讼可能产生的影响有哪些?


针对总检察长关于Meta涉嫌伤害儿童的诉讼,Meta 发言人说:”我们感到失望的是,总检察长们没有与整个行业的公司开展富有成效的合作,为青少年使用的众多应用程序制定明确的、适合其年龄的标准,而是选择了诉讼这条道路。”并指出,公司与各州一样,致力于为青少年提供安全、积极的上网体验。公司已经推出了一系列功能,为青少年用户及其家庭提供支持。


美国国家公共电台驻洛杉矶的记者鲍比•艾林(Bobby Allyn )认为,此次诉讼的结果可能会对Meta产生深远影响。如果案件继续审理下去,Meta 可能会被处以额外的罚款,其业务活动也会受到限制。Meta 为自己的做法辩护并证明自己合法经营的能力将决定这场法律战的结果。Meta 可能会为自己辩护,称自己遵守所有适用的法律法规,并已采取预防措施保护年轻用户。如果法院作出不利于 Meta 的裁决,并认为指控有理,Meta 可能被迫对其算法和功能进行修改,以消除人们对成瘾和心理健康的担忧。


美国东北大学法律和社会学副教授希拉里•罗宾逊(Hilary Robinson)更是认为,这可能是科技界一个具有里程碑意义的时刻。他说:“数十位总检察长提起诉讼,声称 Meta 公司违反了消费者保护法,这让人联想到针对大烟草公司和大药厂采取的具有里程碑意义的法律行动。如果胜诉,这些案件可能会改变科技公司在消费者保护方面的责任承担方式。在我看来,利用国家权力的时机已经成熟。这只是又一次试图找出如何有效利用国家权力的方法,既不破坏使用这些东西的人的利益,又能约束这些对个人家庭造成严重后果的真正负面的外部因素”。


美国两党总检察长这次的广泛联盟凸显了两党的州执法者都把保护儿童和青少年免受网络伤害放在了优先位置。根据纽约大学的保罗•巴雷特(Paul Barrett)推测,即使Meta认为它可以提供矛盾的证据表明某些儿童可能会从适当的行为中受益,它也不会希望无限期地在舆论法庭上进行斗争。与由美国大多数州组成的两党联盟就儿童安全问题展开的长期斗争,可能让 Meta 难以承受。而各州州长的对此类诉讼的目标通常旨在达成和解,而不是在法庭上获胜。和解可能会迫使 Meta 同意做出改变,以减轻诉讼所指出的一些伤害。虽然总检察长选择专门针对一家社交媒体公司,但他们可能会寻求以 Meta 为例,从而在整个行业产生反响。



作者:李 萍

北京青少年法律援助与研究中心高级研究员


本篇文章来源于微信公众号: 致诚儿童

通过肖利娜

佟丽华:《未成年人网络保护条例》的时代意义


人类社会快速进入数字时代,网络在带给未成年人学习、交友、娱乐等便利的同时,也带来了不良内容、安全、个人信息泄露、沉迷等各种新的风险。联合国儿童基金会、世界卫生组织、国际电信联盟都在高度关注未成年人网络保护(Child Online Protection, COP)问题,但在全球治理机制以及世界各国的专门立法方面,普遍缺乏有效的探索。根据媒体报道,2023年10月24日,美国加州等33个州总检察长联合起诉Meta, 理由是误导公众对其平台重大危险的认识,故意诱使年幼的儿童和青少年上瘾,强迫性地使用社交媒体,最后导致儿童和青少年产生抑郁、焦虑、失眠、干扰教育和日常生活以及许多其他负面后果。但诉讼是不得已而为之的事后救济,如何构建符合数字时代要求的未成年人网络保护新机制,是世界各国普遍面临的重大挑战。一个有意思的巧合是,也是在10月24日,我国国务院全文发布了《未成年人网络保护条例》,这应该是全球第一部全面规范未成年人网络保护的国家级综合立法。该条例在坚持最有利于未成年人原则、追求社会共治等国际共识基础上,一是全面规定了培育未成年人网络素养、规范网络信息内容、保护未成年人个人信息、防治未成年人网络沉迷等未成年人网络保护领域的基础制度,需要政府相关部门、家长、学校等认真学习;二是强调了平台企业主体责任,为我国网络企业尤其是大型平台企业构建未成年人网络保护合规体系指明了方向,这不仅有利于发挥平台企业在我国未成年人网络保护中的积极作用,也将为人类社会探索数字时代的未成年人网络保护新机制贡献“中国智慧”。

鉴于网络企业尤其是大型平台企业在未成年人网络保护中的重要作用,本文结合条例及相关法律政策要求,探讨如何构建未成年人网络保护合规体系,以实现网络企业规范、健康、持续发展。

2023年9月27日,佟丽华在联合国人权理事会第54届会议上就儿童网络欺凌问题发言


【一】

对未成年人用户数量巨大或者对未成年人

群体有显著影响的网络平台企业提出特别要求


在很多大型社交娱乐以及信息资讯类平台企业,面临着复杂的未成年人保护形势。对未成年人用户数量巨大或者对未成年人群体有显著影响的网络平台企业不仅要模范遵守本条例关于网络企业所有合规制度的要求,还必须从六个方面遵守特别的要求:一是在服务的设计、研发、运营等不同阶段,都要考虑是否适应未成年人身心特点,要定期开展未成年人网络影响评估;二是明确规定要提供未成年人模式以及未成年人服务专区,这进一步为当前不同平台企业推动的“青少年模式”提供了法律依据;三是强调要建立未成年人网络保护合规制度体系,要成立主要由外部成员组成的独立机构,对未成年人网络保护情况进行监督;四是要建立专门的未成年人保护规则,特别是要以显著方式提示未成年人用户享有的网络保护权利和遭受网络侵害的救济途径;五是对侵害未成年人合法权益的产品或服务应当及时停止服务;六是每年要发布专门的未成年人网络保护社会责任报告。对未成年人用户数量巨大或者对未成年人群体有显著影响的网络平台企业在体制机制、未成年人模式、合规制度体系、专门规则以及发布专项社会责任报告等方面提出要求,将有助于更充分发挥平台企业在网络保护中的主体及牵引作用,全面提升我国未成年人网络保护水平。

【二】

对智能终端产品明确提出要求


当前各种数字产品和服务发展迅速,不同产品未成年人保护功能存在很大差异,有些产品难以满足未成年人保护要求。强化智能终端产品的未成年人保护功能,有助于从根源上提升整个数字领域未成年人保护水平。根据互联网络信息中心发布的第51份《中国互联网络发展状况统计报告》,截至2022年12月,我国网民使用手机上网用户达到10.65亿,占到整个上网用户比例的99.8%。鉴于智能终端产品对未成年人网络保护的重大意义,条例在第十八条、十九条对其明确提出了具体要求,一是国家要鼓励和支持研发、生产、使用适应未成年人身心特点的智能终端产品;二是相关产品要具有识别不良信息、保护个人隐私、防沉迷以及便于监护人应用等功能;三是所有智能终端产品都应该安装未成年人保护软件,要么在产品出厂前自行安装,要么以显著方式告知用户安装渠道和方法。上述规定有助于推动生产手机、平板电脑等智能终端产品的企业在未成年人保护方面更好发挥作用。

【三】

对网络信息内容提出新的要求


条例在强调国家鼓励和支持传播正能量、不得传播危害未成年人身心健康信息内容要求基础上,对网络企业在内容传播方面又提出了四方面具体要求:一是提出了影响未成年人身心健康信息的基本标准,2020年修订的《未成年人保护法》规定了网络企业要对影响未成年人身心健康的信息予以提示,但并未明确什么是影响未成年人身心健康的信息。条例以列举的方式提出了引发或者诱导未成年人模仿不安全行为、实施违反社会公德行为、产生极端情绪、养成不良嗜好等四种可能影响未成年人身心健康信息的标准。二是明确要求网络企业不得在首页首屏、弹窗、热搜等醒目位置或者重点环节呈现可能影响未成年人身心健康的信息。三是网络企业不得通过自动化决策方式向未成年人进行商业营销。四是规定了网络企业发现制作、复制、发布、传播危害未成年人身心健康信息的,在原来法律规定采取立即停止传输相关信息,采取删除、屏蔽、断开链接等处置措施,保存有关记录,向网信、公安等部门报告基础上,对制作、复制、发布、传播上述信息的用户采取警示、限制功能、暂停服务、关闭账号等处置措施。

【四】

对防治网络欺凌作出了明确要求


网络欺凌严重影响未成年人的身心健康,在国内外都受到高度关注。为有效防治针对未成年人的网络欺凌行为,条例从三方面对网络企业提出了具体要求:一是网络企业要建立网络欺凌行为的预警预防、识别检测和处置机制,特别要求利用人工智能、大数据等技术手段,通过技术与人工结合方式加强信息识别。二是要设置便利未成年人及其监护人保存证据、行使通知权利的功能、渠道。三是要提供便于未成年人设置屏蔽陌生用户、本人发布信息可见范围、禁止转载或评论本人发布信息、禁止向本人发送信息等自我保护功能的选项。四是具体规定了网络企业对制作、复制、发布、传播网络欺凌内容用户的处置措施。

2023年10月4日,联合国人权理事会第54届会议召开期间,中国网络社会组织联合会、北京青少年法律援助与研究中心在万国宫举办“中国防治网络欺凌问题的实践”主题边会


【五】

进一步强化了未成年人个人信息保护


2019年国家网信办专门发布了《儿童个人信息网络保护规定》,2021年国家制定的《个人信息保护法》将儿童个人信息列为敏感信息进行特别保护。条例在进一步强调未成年人上网实名认证、收集信息符合必要性要求、制定信息泄露等应急预案、内部管理中最小授权等制度基础上,又特别提出了三方面具体要求:一是明确规定了便于未成年人或其监护人查询、复制、更正、补充、删除的具体规定,严格禁止设置不合理的限制;二是个人信息处理者每年要对处理未成年人个人信息合法性情况进行专项合规审计,并要将审计情况及时报网信等部门;三是对网络企业发现未成年人私密私信时要采取提示、停止传输、保存记录甚至报警等特别措施,以防止未成年人受到性侵等违法犯罪的侵害。

【六】

对防治未成年人网络沉迷提出了新的要求


网络沉迷不仅严重损害未成年人的身心健康,也严重影响家庭关系、影响未成年人健康成长,社会各界对此都高度关注。条例具体从六个方面对网络企业提出了新的要求:一是网络企业要建立防治未成年人沉迷的相关制度,从产品设计、研发、运营等各个环节都要有制度;二是相关产品和服务不能诱导未成年人沉迷,对可能造成沉迷的要及时修改;三是每年要向社会公布防沉迷工作情况,接受社会监督;四是明确提出网络游戏、网络直播、网络音视频、网络社交等企业要建立未成年人模式,并对该模式提出了基本的要求;五是要求相关网络企业合理限制不同年龄段未成年人的单次消费数额和单日累计消费数额。六是对防治未成年人游戏沉迷提出了特别的要求,包括要使用电子身份认证系统等必要手段验证未成年人用户真实年龄、不得为未成年人提供游戏账号租售服务、建立预防未成年人沉迷网络游戏的规则、根据未成年人年龄对游戏产品进行分类、落实网络游戏适龄提示制度等要求。

2020年10月18日,未成年人保护法修订工作顾问、专家建议稿起草人佟丽华接受中央电视台采访,解读修订后《未成年人保护法》关于防治未成年人沉迷网络的相关规定


【七】

严禁未成年人参与网络不当行为


近些年来,未成年人参加粉丝群组,参与转发、点赞、签到等应援活动,为明星赠送奢侈应援礼物等现象严重影响了未成年人的人生观和价值观,严重影响了其正常学习生活,所以国家网信办在多次专项活动中予以整顿。2021年国家网信办为加强“饭圈”乱象整顿发布了专门政策。条例不仅明确提出网络游戏、网络直播、网络音视频、网络社交等企业不得设置以应援集资、投票大赏、刷量控评等为主题的网络社区、群组、话题,更不得诱导未成年人参与应援集资、投票打赏、刷量控评等网络活动,从法律上进一步强化了未成年人参与网络活动的保护力度。

【八】

再次强调了网络企业要建立有效的

未成年人保护投诉举报机制


2020年修订的《未成年人保护法》对此提出了明确要求,条例在总则部分再次予以强调。根据条例要求以及实践中反映的情况,条例要求网络企业要建立便捷、合理、有效的投诉、举报渠道,通过显著方式公布投诉、举报途径和方法,及时受理并处理公众的投诉举报。建立有效的未成年人保护投诉举报机制,不仅需要网络企业尽快整合内部机制,也需要尽快培养内部相关从业人员的专业水平。如果接受以及处理相关投诉举报的人员不懂未成年人保护的相关法律法规以及处理相关案件的基本知识,就必将导致这种机制的成效大打折扣。所以,相关企业应当尽快强化对相关人员的专业能力培训,以充分发挥这一机制的重要作用。

【九】

违反未成年人网络保护义务的企业

将面临严厉的法律责任


多年来未成年人保护等领域的社会法都面临着社会上一个重大关切:那就是法律道德化,违反法律缺乏有效的处罚,违法成本过低,这严重影响了法律的权威。本条例规定了全面的法律责任条款,尤其是相关企业在违反条例要求的时候,本着宽严相济的原则,规定了不同程度的法律责任:轻微违法行为由政府相关主管部门责令改正,给予警告;但拒不改正或者情节严重的,不仅企业将面临高额罚款、暂停相关业务、停业整顿、关闭网站、吊销相关业务许可证或者吊销营业执照等严厉处罚,直接负责的主管人员和其他直接责任人员还将面临罚款甚至从业限制等严厉的法律责任。法治的意义不是不教而诛,而是在及时完善立法的情况下保障社会健康有序发展。条例规定严厉法律责任的目的不是处罚企业,而是督促企业要重视未成年人保护工作,及时落实国家法律的相关要求,以实现企业的规范健康持续发展。

数字时代的快速发展给未成年人成长带来了全面影响,有些风险并未全面暴露出来,对尚存的风险我们也还缺乏足够清醒的认识。随着人工智能等技术的发展与普及,网络对未成年人的影响不仅是未成年人保护问题,也将深度影响数字时代人类的生存与发展。国家专门制定《未成年人网络保护条例》,不仅是落实《未成年人保护法》的重要举措,更体现了党和政府对当前未成年人网络保护工作的高度重视。强调网络企业主体责任,充分发挥网络企业在未成年人网络保护中的重要作用,不仅符合权责统一的基本法律原则,也成为我国数字法治建设的宝贵经验。希望相关企业尤其是大型平台企业从规范健康持续发展的战略高度出发,将未成年人网络保护工作纳入企业履行社会责任的重要战略,建议重点从三个视角及时开展工作:

一是构建起平台企业内部未成年人保护机制。平台企业内部部门林立,很多决策以及工作都围绕着企业利益在开展,未成年人保护工作往往处于边缘状态,这严重影响了平台企业开展未成年人保护工作的成效。建议未成年人用户数量巨大或者对未成年人群体有显著影响的网络平台企业尽快建立未成年人保护内部协调机制,公司主要负责人牵头协调,每年定期召开会议,从企业战略、重大决策、重点工作等各方面贯彻未成年人保护理念,明确企业具体负责未成年人保护工作的部门及其职责,负责开展未成年人保护工作。


二是及时邀请独立第三方对企业未成年人网络保护状况进行专项评估,以及时发现存在的问题。尽管很多平台企业在未成年人网络保护方面都开展了一些卓有成效的工作,但与本条例以及相关法律政策的要求都还存在不小的差距。如同体检及时发现病患一样,大型平台企业也需要依靠专业第三方及时发现自身存在的问题。


三是结合本条例以及法律政策的要求和自身存在的问题,全面整改,将国家法律的要求转化为企业内部的规章制度、融入到企业发展的各个环节,以从根本上提升整个企业未成年人网络保护工作的水平,为数字时代全球未成年人保护事业的发展作出贡献。

本篇文章来源于微信公众号: 致诚儿童

通过肖利娜

中国社会组织在联合国成功举办未成年人网络保护问题边会

联合国人权理事会第54届会议正在日内瓦召开。中国网络社会组织联合会、北京青少年法律援助与研究中心在万国宫成功举办“中国防治网络欺凌问题的实践”主题边会。


中国网络社会组织联合会赵晖秘书长介绍了中国网络行业组织的作用,北京青少年法律援助与研究中心主任、北京工商大学全球治理与数字法治研究院院长佟丽华介绍了中国立法的最新发展以及主要特点,世界卫生组织和国际电信联盟的专家、来自快手和B站UP主的代表以及儿童代表分别做了发言。会议最后,主办单位发表了呼吁联合国加强数字时代儿童权利保护的全球倡议。

世界卫生组织技术官员Sabine Rakotomalala在会议中介绍了世卫2022年底发布的《儿童网络暴力防治指南》。该指南研究了儿童遭遇网络暴力的全球现状,提出了预防儿童网络暴力问题的具体方法。Sabine谈到,当前国际社会重点关注的儿童网络暴力形式主要有两种:一是发生在网络上的儿童性剥削和性虐待;二是网络欺凌和骚扰,包括网络欺凌、网络跟踪、黑客和身份盗窃等。Sabine建议各国应该以学校为基础实施多方共治的教育计划,既保障青少年之间的互动,同时也吸引家长的参与。根据上述《指南》,预防儿童网络暴力的有效方法在于:与线下暴力预防相结合,综合治理儿童网络危险;更加关注熟人和同龄人的网络施害,培养儿童安全保护意识;更加注重儿童对处理人际关系技能的培养,提高整个儿童群体的网络素养。


国际电信联盟项目官员Fanny Carlotta Rotino 在会议中谈到,网络的快速发展为儿童提供了前所未有的表达、交流、娱乐以及学习机会,但同时也给儿童安全带来了重大挑战。国际电信联盟于2009年就开始制定并更新《儿童网络保护指南》,旨在提高社会对于儿童网络保护的认识,同时提供解决方案和综合资源,支持儿童及其家庭发展数字技能和数字素养,支持政府和平台企业制定儿童网络保护政策和战略。《指南》指出,防治儿童网络暴力应当为父母和监护人提供指导,提高他们对网络潜在风险和威胁的认识,帮助他们为儿童营造健康的网络环境;与学校和老师合作,帮助他们识别儿童网络危险,以及掌握儿童遇到网络暴力事件时如何反应、报告的方法;保障儿童参与,引导他们在享受互联网便利的同时,建立自我保护意识并学习自我保护技能。


北京青少年法律援助与研究中心主任佟丽华发言指出,一是国际社会应当充分认识到儿童网络欺凌问题背后的复杂性,人类社会正快速进入数字时代。用户权利成为影响公民权利最复杂、最广泛的议题,儿童权利受到的影响最为严重,网络欺凌就是其中最为突出的问题之一。二是中国在防治儿童网络欺凌方面有着积极探索,全国人大修订了《未成年人保护法》,规定了“网络保护”专章,国务院将很快发布《未成年人网络保护条例》,这些法律法规都明确具体规定了防治网络欺凌的具体要求;充分重视平台企业的主体责任,应该为防治儿童网络欺凌发挥关键作用;强调多方共治,各相关方都要积极参与防治儿童网络欺凌工作。三是呼吁国际社会采取切实行动,尽快推动全球防治儿童网络欺凌机制建设,支持和帮助各个国家以及大型平台企业更好开展包括防治网络欺凌在内的儿童保护工作。


中国网络社会组织联合会赵晖秘书长介绍了中国在未成年人网络保护方面最新的立法政策发展情况,具体介绍了中网联作为社会组织,在加强未成年人网络保护,应对儿童网络欺凌问题方面开展的大量卓有成效工作:联合互联网平台企业和社会组织、新闻媒体网站成立未成年人网络保护专业委员会、连续4届在联合国互联网治理论坛(IGF)中主办或参与儿童网络保护主题相关活动、打造“永远在线”青少年网络素养和普法教育云课堂、联合UNICEF开展儿童网络安全调研并联系和指导社工组织切实帮助当地曾经遭受过网络欺凌的儿童走出困境等。最后,她提出四点建议:提高政府监管效能,推进立法、执法、普法全链条发力;夯实平台企业责任,积极构建儿童网络保护机制;发挥家校合力作用,着力提升儿童网络素养;加强国际交流互鉴,共同推进全球儿童网络保护治理。


国内大型平台企业快手副总裁周晓晗在发言中介绍了快手在儿童保护领域所开展的工作。截至2023年第二季度,快手平均月活用户突破6.73亿。快手始终关注青少年的网络使用。首先打造了“青少年模式”,为儿童设置了专属审核规则和专属内容池。为保护儿童免受有害信息伤害,对儿童用户关闭了直播、打赏、评论等功能。秉持“技术向善”,基于不同年龄段,通过“兴趣推荐+多重选优+时间维度”的推荐机制,使向儿童的推送更加个性化。设置“一键防暴”功能,通过加强识别、提前预警等自研技术,及时帮助拦截网暴信息。联合最高检推出“守护少年的你”活动,推出“暑假家庭教育指南系列直播”,吸引数以千万的儿童及家长观看。


来自哔哩哔哩平台的UP主代表王骁介绍了B站在保护儿童方面开展的工作:比如,通过人工智能对有害儿童的不良信息进行监测和处理,建设专业团队对不良信息进行系统性的防控。他重点介绍了B站“人身攻击类”不良信息过滤模型,该模型基于嵌入参数化进行因式分解和跨层参数共享的技术,不断进行模型的迭代优化,减少青少年观众接触“人工攻击类”不良信息的可能性。同时,社区还对有利于儿童发展的积极向上的正向内容进行引导,通过开发正面信息“弹幕优选”模块,以人工智能的技术对用户生成的弹幕内容进行评分。分数越高,表示弹幕内容越好,更加有利于营造更好的儿童观看视频的弹幕环境。


来自中国的高中生佟毕铖同学作为一名儿童代表发言,他提出:儿童每天接触网络,能够更清楚虚拟世界中的问题,所以解决儿童网络欺凌问题一定要有儿童参与。为此他呼吁:平台企业应该在防治儿童网络欺凌问题中发挥更大的作用,长期接触网络暴力信息、色情信息,助长了儿童网络欺凌问题的增多,平台企业应该采取更多措施建立儿童友好的信息平台;国际社会应支持儿童参与网络欺凌问题的解决,联合国应创造更多儿童参与的机会,听取儿童声音。例如组织防治儿童网络欺凌等相关国际会议,并邀请各国儿童参与讨论。他最后从儿童的视角呼吁,国际社会应该意识到,儿童在网络欺凌这个问题上不仅有获得保护的权利,更有参与解决问题的权利。


会议最后,赵晖秘书长与佟丽华主任共同宣读了加强数字时代儿童权利保护的全球倡议,主要内容是:呼吁联合国建立儿童网络保护特别机制,包括要求人权理事会建立特别程序分享相关方参与儿童网络保护的最佳实践,要求联合国人权理事会尽快推动制定平台企业与儿童权利的指导规则,建议联合国在儿童网络保护领域建立不同国家和地区参与的双边和多边合作机制,特别是在网络欺凌、网络保护、网络诈骗等领域;鼓励和支持各国根据《儿童权利公约》以及儿童权利委员会第25号评论制定和改善儿童网络保护的相关立法;支持和鼓励平台企业根据联合国商业与人权指导规则明确对儿童保护的承诺和相关政策,建立企业内部儿童权利保护机制,提供更多有益儿童身心健康的产品和服务,采取更多措施保护儿童免受伤害,积极履行社会责任,参加线下儿童保护工作,以推动平台企业成为数字时代儿童保护的一支重要和活跃力量。


这是中国网络行业社会组织以及儿童保护专业社会组织第一次在联合国人权理事会上共同组织边会,会议不仅介绍了国际社会防治儿童网络欺凌的最新动态,更介绍了中国在防治儿童网络欺凌方面最新的立法、行业协会的作用、平台企业所作出的努力以及来自中国儿童的声音。会议发表的倡议对构建和完善数字时代全球儿童网络保护新机制贡献了“中国智慧”,希望对促进数字时代全球儿童保护事业的发展发挥积极作用。


关于我们


1999年,北京青少年法律援助与研究中心(以下简称“青少年中心”)依托北京市致诚律师事务所成立,是中国第一家专门从事未成年人法律保护的公益服务机构。青少年中心始终致力于直接为未成年人提供法律服务和权益保护,培育开展未成年人保护工作的专业人才队伍,促进未成年人法学研究和法律政策的完善,推动全社会积极参与未成年人保护工作。


20多年来,青少年中心为未成年人及其家庭提供免费法律咨询、法律援助、开展法治讲座等工作,数十万人从青少年中心的工作中受益。青少年中心还深度参与了国家有关儿童保护的相关法律政策的制订、修订和研究等工作,是2006年、2020年《未成年人保护法》专家建议稿的起草单位。

本篇文章来源于微信公众号: 致诚儿童