数字时代科技飞速发展，儿童性剥削问题在网络环境中显现出其深刻的严重性和普遍性。近期的报道揭示一个名为LAION-5B的开源图片数据库中存在上千张涉及儿童性虐待内容的图片，而这些图片原本将作为人工智能模型的训练数据。这不仅仅是一个孤立的事件，而是问题的冰山一角。与此同时，尽管大型平台企业如Meta报告了数百万起儿童色情案件，但其算法推荐系统和信息加密技术引发争议不断，如何判定儿童权利保护与个人隐私保护的边界成为无法回避的议题。我们应汲取国际实践经验，积极参与相关立法和政策制定，共同应对数字时代儿童性剥削问题，确保每个孩子都能在数字时代享有安全、无忧的童年。
PART/1
一、儿童网络性剥削问题现状
2023年12月20日，美国华盛顿邮报（The Washington Post）报道称，美国斯坦福大学互联网观察站（Internet Observatory）的研究人员在一个名为 LAION-5B 的流行开源图片数据库中发现了至少 1,008 张涉及儿童性虐待（sexual abuse）内容的图片，而Stable Diffusion等人工智能图片生成模型正是依靠该数据库来创建超逼真照片的。LAION-5B的代表回应称，该数据库已经被暂时下架，“以确保在重新发布之前是安全的” [1]。
数字时代人工智能技术迅猛发展，任何人只需向人工智能模型输入简短的描述，就能获得一张逼真的图像。而考虑到人工智能模型拥有根据已有材料进行快速学习、训练、重新创建图像的能力，LAION-5B数据库中一千多张涉及儿童性虐待的照片可能会为人工智能图像生成器提供令人担忧的能力——每个孩子都值得拥有一个安全的童年，而数字时代的网络环境中，这还只是儿童性剥削（sexual exploitation）问题的冰山一角。
根据世界卫生组织（World Health Organization）的定义[2]，性剥削指为性目的实际滥用或企图滥用（受害人的）弱势地位、权力或信任，包括但不限于从对他人的性剥削中获取金钱、社会或政治利益；性虐待指通过暴力或在不平等或胁迫条件下，实际或威胁对身体进行性侵犯[3]。在数字时代，互联网高度普及和科学技术快速发展的背景下，儿童性犯罪内容猖獗，解决网络空间的儿童权利保护问题刻不容缓。
根据英国非营利组织网络观察基金会（Internet Watch Foundation, IWF）在其官方网站上发布的数据，在过去的十年间，显示儿童被强奸、折磨和性虐待的图片和视频增加了1800%[4]。而根据其2022年度报告[5]，IWF在2022年共评估了375,230份举报儿童性虐待内容的相关报告，这个数字较2021年增加4%，较2020年增加25%[6]。在IWF所评估的报告中，255,588份报告被确认包含儿童性虐待内容，或在对相关内容进行相关宣传。其中，包含受害者自制内容（self-generated content）的已采取措施的报告总数为199,363份，占被判定包含违法内容的报告总数的78%，而这个数字相较于2021年增加9%。这些自制内容可能是未成年人有意拍摄和分享的，但在大多数情况下是在线引诱（online grooming）或性勒索（sextortion）的结果[7]。而根据国际非营利组织国际互联网热线协会（International Association of Internet Hotlines, INHOPE）2022年度报告[8]，在其全年收到的587,852起潜在虐待儿童案件的报告中，84%的儿童性虐待材料（Child Sexual Abuse Material, CSAM）是全新的内容。这些数据揭示了数字时代儿童性剥削问题[9]的严重性，国际社会需要采取更加有力的措施来应对和确保儿童在网络空间中的安全。
美国非营利组织儿童救助联盟（Child Rescue Coalition, CRC）的在其官方网站上发布的数据[10]又揭示了儿童性剥削问题的普遍性。在其成立以来发现的7,250万涉及儿童色情犯罪的IP地址中，最广泛分享的CSAM文件与超过250万个IP地址相关，这显示儿童色情犯罪内容在网络媒介上传播的速度惊人，而其传播的隐秘性使得非营利组织或司法机构难以及时对违法内容进行锁定和处理——即使已经有超过250万个IP地址获取了它们；更为可怕的数据是，儿童网络色情犯罪者通常在他们的一生中侵害50到150名未成年人；约1/5的女孩和1/20的男孩在18岁之前将经历某种形式的性虐待[11]。
PART/2
二、数字时代的新问题：Meta的算法推荐到信息加密技术引发争议
数字时代的儿童权利保护问题紧迫，而又复杂。平台企业的大数据及算法应用，在为及时、动态地定位违法内容提供技术支持的同时，也可能无意识地促成违法行为的猖獗。以Meta为例，纵使其积极与非营利组织合作，协助调查和报告儿童色情内容——根据美国国家失踪和受剥削儿童中心（National Center for Missing & Exploited Children, NCMEC）于2023年12月7日发布的数据显示，仅在2022年，Meta报告了超过2,000万起通过其旗下社交软件Messenger和Facebook传播的分享儿童色情图像的案件[12]。但与此同时，其所应用的技术手段也暴露出诸多问题，为数字时代的儿童网络保护带来新的挑战。
2023年6月7日，《华尔街日报》（The Wall Street Journal）揭露了Instagram帮助推广儿童性剥削内容的问题[13]。由于平台应用的算法推荐系统习惯于将有共同兴趣的人联系起来，导致为恋童癖寻找发布和销售儿童色情内容的账号提供了事实上的便利。恋童癖通过搜索标签（hashtag）等方式找到发布及出售非法内容的Instagram账号，算法技术进而记录并学习用户的行为模式，向用户不断推荐儿童性虐待相关术语和关联账户。文章还提到，发布及出售非法内容的Instagram账号通常不会公开发布非法内容，而是通过发布内容“菜单”邀请买家进行特定交易，其内容本身具有隐蔽性。再加之平台监管不善，导致一个庞大的地下交易网络迅速滋生。
在相关研究结果公布后，Meta迅速回应，声称禁用了相关搜索标签并在迅速建立小组处理系统的算法推荐问题，并采取措施整治平台上的非法账户[14]。但令人担忧的是，在报道发布的6个月后，《华尔街日报》于2023年12月1日发布了跟踪报道[15]，披露Meta所采取的举措并不尽如人意。根据《华尔街日报》和加拿大儿童保护中心（Canadian Centre for Child Protection）进行的测试显示，Meta的推荐系统仍在推广儿童色情内容。尽管Meta已经删除与恋童癖有关的标签，但其系统有时会推荐措辞具有轻微变化但内容一致的新标签；即使Meta收到关于可疑账户的报告，也在认定和删除的方面表现不稳定；类似的问题不仅出现在Instagram上——Meta的一位发言人表示，公司已经在Facebook的搜索结果中隐藏了19万个群组，并禁用了数以万计的其他账户，但工作结果并不令人满意。
另一争议关乎Meta为促进个人隐私保护，在社交软件通信中升级信息加密技术所引发的对儿童网络权利保护的间接损害。2023年12月6日，Meta在其官方网站上发布消息[16]称，为更好地保护用户的信息安全，其将在社交软件Messenger上的全部私人聊天及通话功能中应用端到端加密技术（end-to-end encryption, E2EE），该技术的应用使通信内容在从离开发送端设备到到达接收端设备的整个过程中都受到加密保护，除非发送端或接收端的用户选择向平台报告信息，否则任何第三方无法在传输过程中访问或解读通信内容。从个人隐私权利保护的角度来看，这无疑是极大的技术进步。然而美国国家失踪和受剥削儿童中心（National Center for Missing & Exploited Children, NCMEC）及英国全国警察局长理事会（National Police Chiefs’ Council, NPCC）则先后于2023年12月7日及2023年12月8日于其官方网站发布文章[17]，呼吁关注该技术对儿童网络权利保护的影响。NCMEC在文章中提出[18]，在过去十多年来，Meta选择积极检测和删除涉及儿童被性虐待和剥削的图像和视频，而端到端加密技术将消息权限严格限制在传输的两端导致任何第三方无法检测所发送的信息中是否包含儿童性剥削内容，被动地给犯罪者提供保护。NCMEC进而敦促Meta停止应用端到端加密技术，直到其能够在加密信息中检测、报告和删除儿童性虐待图像。
PART/3
三、数字时代儿童性剥削问题再审视
我们对于网络儿童性剥削问题的讨论不应只停留在其他国家——从国内媒体《新京报》于2023年9月7日曝光的针对未成年人“隔空猥亵”的相关案例来看[19]，我国也面临类似困扰。数字时代的儿童性虐待材料的传播以互联网为媒介，具有跨国性质。打击相关犯罪，有效的国际协作不可或缺，这需要我们高度关注国际动态。2023年11月8日，联合国73个成员国推出促进和保护儿童权利的经修订决议草案[20]，提出数字时代的信息技术对儿童权利保护所带来的挑战的紧迫性。在国际社会制定相关政策的过程中，我国作为数字技术领先、平台经济高度发达的国家，应当积极参与立法和政策制定进程，提出治理经验，并探讨不断涌现的新问题。
身处算法和人工智能技术迅速变革的浪潮中，回应保护儿童权利的时代要求成为迫切之需，现状严峻，我们不能掉以轻心。除了关注大型平台企业、国际组织和各国政府为保护儿童权利所做的努力外，我们也需认识到数字技术应用带来的全新挑战。如何动态地审查和删除寄生在网络环境中的违法行为？如何平衡个人隐私保护和儿童权利保护？如何划定儿童权利保护过程中对个人隐私审查的边界？这都是需要我们思考的问题。打击儿童性剥削，确保每个孩子都能在数字时代享有一个不被打扰的童年。
注释
[1]https://www.washingtonpost.com/technology/2023/12/20/ai-child-pornography-abuse-photos-laion/，最后访问日期：2023年12月25日。
[2]https://www.who.int/docs/default-source/documents/ethics/sexual-exploitation-and-abuse-pamphlet-en.pdf?sfvrsn=409b4d89_2，最后访问日期：2023年12月22日。
[3]关于性剥削和性虐待概念的区分，根据儿童性剥削机构间工作组 (Interagency Working Group on Sexual Exploitation of Children，IWG) 2016年在卢森堡通过的《保护儿童免受性剥削与性虐待的术语指南》（Terminology Guidelines for the Protection of Children from Sexual Exploitation and Sexual Abuse），儿童性剥削这一概念与其他形式的儿童性虐待的不同之处在于剥削中潜在的交换概念，即“剥削”指的是不公平地利用某物/某人来为自己谋取好处或利益，包括金钱和非金钱交换。虽然对这两种概念加以区分，但也必须承认它们之间有相当多的重叠，而且从语义上讲，这两者之间的区别可能不会完全清楚。例如，许多儿童性虐待案件也涉及到对儿童的某种利益或交换，如赠送礼物、提供关注和关爱等非物质利益。同样，从利用儿童脆弱性的意义上讲，剥削的概念可以说适用于所有虐待受害者。
[4]https://www.iwf.org.uk/policy-work/end-to-end-encryption-e2e/，最后访问日期：2023年12月20日。
[5]https://annualreport2022.iwf.org.uk/，最后访问日期：2023年12月15日。
[6] https://annualreport2020.iwf.org.uk/trends，最后访问日期：2023年12月19日。
[7]https://inhope.org/EN/articles/what-is-self-generated-csam, 最后访问日期：2023年12月20日。
[8]https://www.inhope.org/EN/articles/inhope-annual-report-2022, 最后访问日期：2023年12月15日。
[9] 关于性剥削与性虐待概念的使用，实践中存在语义不明或混用的问题。本文认为，根据上文提及的世界卫生组织的定义，在网络平台发布儿童性虐待材料难以认定为性虐待行为，属于从针对他人的性虐待中获得利益，应被认定为性剥削行为。
[10]https://childrescuecoalition.org/the-issue/, 最后访问日期：2023年12月15日。
[11] 同上注。
[12]https://www.missingkids.org/blog/2023/devastating-blow-child-protection-meta-expands-encryption, 最后访问日期：2023年12月19日。
[13]https://www.wsj.com/articles/instagram-vast-pedophile-network-4ab7189, 最后访问日期：2023年12月19日。
[14] 同上注。
[15]https://www.wsj.com/tech/meta-facebook-instagram-pedophiles-enforcement-struggles-dceb3548, 最后访问日期：2023年12月20日。
[16]https://about.fb.com/news/2023/12/default-end-to-end-encryption-on-messenger/, 最后访问日期：2023年12月20日。
[17]关于NCMEC 所发布的文章，请见https://www.missingkids.org/blog/2023/devastating-blow-child-protection-meta-expands-encryption, 最后访问日期：2023年12月20日；关于NPCC所发布的文章，请见https://news.npcc.police.uk/releases/npcc-response-to-metas-rollout-of-end-to-end-encryption, 最后访问日期：2023年12月20日。
[18] 同上注。
[19] 罗艳、胡杰：《斩断“隔空猥亵”隐秘黑手》，载《新京报》，2023年9月7日。
[20]United Nations, Seventy-eighth session, Third Committee, Agenda item 67, Promotion and protection of the rights of children, A/C.3/78/L.19/Rev.1
本篇文章来源于微信公众号: 致诚儿童
关于作者