未成年人保护法二审稿关注“网络保护”的十个问题

未成年人保护法在“网络保护”专章最后一条明确规定，“未成年人网络保护的具体管理办法由国务院规定。”本条实现了与国务院正在制定的未成年人网络保护条例的有效衔接。未成年人网络保护条例的起草工作先于未成年人保护法的修订，2016年10月，国家互联网信息办公室就向社会公开发布了《未成年人网络保护条例（草案征求意见稿）》，后来也多次在国家各个部委内部征求意见，但考虑到未成年人保护法要增加“网络保护”专章的问题，所以这部条例直到现在也还尚未颁布。不论条例何时正式实施，未成年人保护法增加这样一条，不仅有助于实现两者之间的衔接，也为国务院发布该条例提供了法律支撑。

未成年人保护法在“网络保护”一章用两条明确规定了政府具体部门的责任：一是明确规定了网信部门及其他有关部门应当加强对未成年人网络保护工作的监督检查，依法惩处利用网络从事危害未成年人身心健康的活动，为未成年人提供安全、健康的网络环境。二是规定了网信部门会同文化旅游、新闻出版、电影、广播电视等部门根据保护不同年龄阶段未成年人的需要，确定可能影响未成年人身心健康网络信息的种类、范围和判断标准。

本条的背景是，未成年人网络保护涉及到政府的多个部门，近些年来，多个部委也就未成年人保护的相关内容发布了多项规章或者说具体政策，比如国家互联网信息办公室发布了《儿童个人信息网络保护规定》，国家新闻出版署发布了《关于防止未成年人沉迷网络游戏的通知》，国家广播电视总局发布了《未成年人节目管理规定》。国家有关部委发布这些规章或政策体现了国家对这个问题的高度关注，但总的看，就未成年人网络保护，在国家层面还是缺乏有效的统筹协调。

未保法二审稿用两条规定政府相关部门的具体责任，两条都在开篇就明确提出了“网信部门”，另外也明确了“网信部门”“会同”其他部委要开展的一些具体工作。这种规定虽然在一定程度上凸显了网信部门在这个问题上的重要地位及作用，但总感觉力度还不够，相信未来网信部门在“会同”其他单位开展工作方面也还是会面临各种现实挑战。所以我一直认为，最好还是要更进一步明确网信部门在未成年人网络保护中的牵头作用，更进一步明确其职权，这样不仅有助于统筹推进工作，也有助于明确其法定责任，避免出现互相推诿、衔接不畅的局面。

人类社会正在快速实现互联网以致物联网化，未来一代的生活和工作都将越来越离不开网络。要清醒认识到的是，当下孩子是否具备健康的网络素养，不仅将影响着他们参与未来社会竞争的能力，也会影响一个国家的竞争力。所以，未成年人网络保护的核心不是在多大程度上鼓励或限制未成年人应用互联网，而是如何培养未成年人的网络素养。

二审稿对培养未成年人网络素养的问题高度关注，在本章第一条就明确规定，国家、社会、学校和家庭应当加强未成年人网络素养宣传教育，培养和提高未成年人的网络素养，增强未成年人科学、文明、安全、合理使用网络的意识和能力，保障未成年人在网络空间的合法权益。在后面又具体规定了父母或其他监护人的法律责任，规定未成年人的父母或者其他监护人应当提高网络素养，规范自身使用网络的行为，加强对未成年人使用网络行为的引导和监督。

但在培养未成年人网络素养方面我认为还是要进一步强化互联网企业的责任。家长、学校在应用互联网方面相对孩子是滞后的，主要靠家长和学校培养孩子们的网络素养也是不够的，只有相关企业才最了解互联网，所以这些互联网企业要承担更大的责任。所以建议在未来的相关立法和政策中明确，互联网企业应当通过开发产品，开设校外课堂等方式，指导和支持未成年人及其监护人、学校老师学习有关知识，帮助未成年人培养和提高网络素养。

网络给未成年人学习生活带来便利的同时也带来了很多负面影响。2020年5月，团中央权益部与中国互联网络信息中心联合发布的《2019年全国未成年人互联网使用情况研究报告》调查显示，46.0%的未成年网民曾在上网过程中遭遇过各类不良信息。屡见报端的未成年人网络沉迷、巨额充值打赏等问题也已成为社会关注的热点。要充分认识到未成年人心智尚未成熟、自控能力差这一现实，也要充分认识到单靠父母或老师这种人工管理的局限性，所以在未成年人网络保护的体系中，要充分重视技术的作用。

二审稿高度关注相关技术的应用问题，从三个角度明确提出要安装未成年人网络保护软件或者采取其他安全保护技术措施：一是学校、社区、图书馆、文化馆、青少年宫等场所为未成年人提供的互联网上网服务设施，应当安装未成年人网络保护软件或者采取其他安全保护技术措施；二是智能终端产品制造者和销售者应当在智能终端产品上安装未成年人网络保护软件，或者以显著方式告知用户未成年人网络保护软件的安装渠道和方法；三是未成年人的父母或者其他监护人应当积极帮助未成年人在智能终端产品上安装未成年人网络保护软件。

二审稿还特别规定，未成年人的父母或者其他监护人应当通过选择适合未成年人的服务模式和管理功能等方式，避免未成年人接触危害或者可能影响其身心健康的网络信息，合理安排未成年人使用网络的时间，有效预防未成年人沉迷网络。2019年，国家网信办推动，一些互联网企业开始上线“青少年模式”，这是一种积极的尝试。但受“青少年模式”内容吸引力不够、父母重视不够等各种因素的影响，当前“青少年模式”的效果还有待加强。未成年人保护法从立法的角度强调“适合未成年人的服务模式和管理功能”，应当有助于推动相关模式的进一步发展。

随着智能设备及移动网络的普及，手机、平板电脑已成为未成年人上网的主要方式。很多未成年学生将手机等智能终端产品带入学校，不仅导致未成年人不能安心学习，也严重影响学校正常的教学秩序。教育部、国家卫健委等8部门曾于2018年8月印发《综合防控儿童青少年近视实施方案》，明确提出：“严禁学生将个人手机、平板电脑等电子产品带入课堂，带入学校的要进行统一保管。学校教育本着按需的原则合理使用电子产品，教学和布置作业不依赖电子产品，使用电子产品开展教学时长原则上不超过教学总时长的30%，原则上采用纸质作业。”但目前来看，学生携带手机到课堂的情况仍然存在，学校在管理中也面临着各种挑战。

二审稿对这一问题作出了明确规定，要求学校不得允许未成年学生将手机等智能终端产品带入课堂，带入学校的应当统一保管。这种规定其实是明确了三点：首先是学生可以带手机等智能终端产品到学校，这样也便于学生和家长的联系；其次，学生不能带手机等智能终端产品进入课堂；最后，如果学生确实带手机等智能终端产品到了学校，就必须交给学校统一保管。这种规定为教育行政部门以及学校制定具体执行措施提供了上位法依据。

并不是只有我国注意到学生在学校使用手机的危害，相反，一些国家早就已经通过立法对此作出规范。意大利是欧洲第一个禁止学生上课时使用手机的国家，早在2007年就颁布了一道全国禁令，一旦发现学生在校违规使用手机，在劝说无效的情况下，校方可视情节轻重，对学生处以没收手机或取消期末考试资格等惩罚。希腊教育部2018年宣布，将禁止中小学生在校园内使用电话及其他电子设备。英国在全国中小学校推广“手机禁令”，根据英国教育部的数据，目前英格兰地区已有95%的学校实行了类似禁令。法国国民议会2018年表决通过关于禁止学生在校园内使用手机的法案，法案适用于所有幼儿园、小学和初中。

在网络上未成年人信息泄露的问题越来越成为未成年人保护领域的重大问题，这不仅是涉及未成年人隐私权的保护问题，个人信息泄漏还导致孩子容易成为网络欺诈、网络欺凌、线上性引诱等侵害的目标。所以，未保法二审稿对此作出了多项具体的规定。

二审稿规定，个人信息处理者通过网络处理未成年人个人信息的，应当遵循合法、正当、必要的原则，征得未成年人、父母或者其他监护人同意，但法律、行政法规另有规定的除外。未成年人及其父母或者其他监护人要求个人信息处理者更正、删除未成年人个人信息的，个人信息处理者应当及时采取措施予以更正、删除，但法律、行政法规另有规定的除外。网络服务提供者发现未成年人通过网络发布的个人信息涉及私密内容的，应当及时提示，并采取相应的保护措施。

国家网信办在2019年8月发布的《儿童个人信息网络保护规定》规定了保护儿童个人信息的一些基本制度。比如，收集儿童个人信息必须经过监护人同意的制度；网络运营者要设置儿童个人信息保护的专门人员、专门规则和用户协议；网络运营者要对儿童个人信息特殊保护，严控访问权限，建立内部审批制度；明确了儿童个人信息删除的问题。本次未保法二审稿明确规定了处理未成年人个人信息的合法、正当、必要原则，明确了征得监护人同意的制度，明确了被遗忘权制度等，也就是说把部门规章规定的基本原则和制度上升为法律，可以保障这些制度更好地落实。

相比《儿童个人信息网络保护规定》，未保法二审稿的一个重大积极变化是，当时国家网信办的规定只保护的是不满14周岁儿童的个人信息，并不包括对那些满14周岁不满18周岁的未成年人个人信息保护。而未保法二审草案的上述规定所要保护的是全体未成年人，这样就在个人信息特殊保护的对象上覆盖了所有未成年人，这是一个重大发展和完善。

网络沉迷是当前未成年人保护领域的一个焦点问题，社会高度关注。虽然国家新闻出版署专门发布了《关于防止未成年人沉迷网络游戏的通知》，但在法律制度层面依然面临很多挑战。所以，这次未保法二审稿重点关注了这一问题，至少明确了七项具体制度。

1、明确了政府部门的责任。草案明确规定，教育、卫生健康、新闻出版、文化旅游、网信等部门在开展预防未成年人沉迷网络方面的责任。

2、对容易导致未成年人沉迷网络的内容作出了规定。有些网络产品，特别是有些游戏开发商专门针对未成年人研发门槛低、互动性强、奖励诱惑多的网络游戏产品问题，草案特别规定，网络产品和服务提供者应当避免向未成年人提供可能诱导其沉迷的内容。

3、对各种网络服务的特殊功能提出了要求。草案不仅对网络游戏提出要求，还对网络直播、网络音视频、网络社交等所有网络服务提出明确要求，要求上述服务提供者应当针对未成年人使用其服务设置相应的时间管理、权限管理、消费管理等功能。

4、明确了网络游戏要经过特殊批准的制度。当前运营网络游戏也需要经过新闻出版部门的批准，二审草案在法律上明确规定了这一制度。草案规定，网络游戏经依法审批后方可运营。

5、明确规定了网络游戏中的统一身份认证制度。在我国未成年人网络保护的政策以及实践中，为了强化未成年人网络保护，就首先要确定未成年人的身份，所以就需要使用人脸识别、指纹登陆、身份信息等各种措施。问题是，通过各种方式确认身份，网络公司就不可避免收集了未成年人的大量个人信息，那么如何保障这些信息不会被滥用？又如何保障这些信息不会泄露？为了更好平衡未成年人身份确认与隐私权保护两者之间的关系，最好的方法就是由国家主导建立统一的身份信息认证系统。这次草案明确规定，国家建立统一的未成年人网络游戏电子身份认证系统。网络游戏服务提供者应当要求未成年人以真实身份信息注册并登录网络游戏。未保法二审稿上述规定是本次法律草案创设的一项新的重大制度，对于预防未成年人网络游戏沉迷以及这个领域的未来发展有重大意义。

6、明确规定了对游戏产品的分类管理制度。关于网络游戏分类管理的问题一直是在与未成年人保护相关的各种立法政策中讨论的重点、难点问题。很多国家都对游戏采取了分级管理的方式，比如美国娱乐软件定级委员会制定了游戏分级制度，分为两个部分：一部分是位于游戏产品包装背面的内容描述，用特定的词组描述游戏画面所涉及的内容，如暴力、血腥以及游戏中人物对话是否粗俗等；另一部分是位于游戏包装正面的登记标志，共分7个级别，按基本年龄划分，以游戏适合的年龄段英文字母来命名，特定等级的游戏产品只能卖给特定等级年龄的消费者。我国目前对网络内容的管理基本上都是概括性规定，比如将不良信息分为虚假信息、恐怖信息、危害国家安全信息、淫秽信息等类别，但没有形成根据年龄不同的分类管理制度。在国家有关部门就未成年人网络保护条例和未成年人节目管理规定等草案讨论的过程中，都有过多次热烈的讨论。本次草案规定，网络游戏服务提供者应当按照国家有关规定和标准，对游戏产品进行分类，作出适龄提示，并采取技术措施，不得让未成年人接触不适宜的游戏或者游戏功能。未保法二审草案对此作出明确规定，为下一步网络游戏的发展指明了方向。

7、对网络游戏服务的时间作出了特别规定。国家新闻出版署在发布的《关于防止未成年人沉迷网络游戏的通知》中明确提出了要严格控制未成年人使用网络游戏时段、时长，规定每日22时至次日8时，网络游戏企业不得以任何形式为未成年人提供游戏服务。未保法二审稿将这一规定上升为法律，规定网络游戏服务提供者不得在每日二十二时至次日八时向未成年人提供网络游戏服务。

未成年人能否参与网络直播是个争议很大的问题。有人认为未成年人还小，应该明确禁止其参与网络直播；有人认为未成年人参与网络直播是未成年人享有参与权的应有之义，完全禁止参与直播剥夺了其参与权，侵害了其合法权益。

二审草案根据未成年人的年龄对此作出了区别对待。首先是明确规定了不满十六周岁的未成年人不能做网络直播，草案明确网络直播服务提供者不得为未满十六周岁的未成年人提供网络直播发布者账号注册服务；其次是有条件允许年满十六周岁的未成年人开展直播，草案规定企业为年满十六周岁的未成年人提供网络直播发布者账号注册服务时，应当对其身份信息进行认证，并征得其父母或者其他监护人同意。也就是说企业在为年满十六周岁的未成年人提供网络服务直播时，要符合真实身份认证和父母同意这样两个条件。

未来对未成年人参与网络直播如何监管？是从年龄上区分还是从内容上监管？这还是一个有待观察的问题。但未保法二审稿对此作出区别对待的方向是值得肯定的。

网络欺凌给未成年人身心带来严重的伤害。联合国儿童基金会在2019年2月发布警告称，全球70.6%的15岁至24岁年轻网民正面临网络暴力、欺凌和骚扰的威胁，并呼吁采取协调行动，解决和预防针对儿童与年轻人的网络暴力行为。为什么网络欺凌会引起世界范围的广泛关注？首先网络欺凌的方式包括但不限于利用电子邮件、即时通信工具(如QQ)、网上聊天室、手机短信、社交网站、微博、微信、网络投票工具等网络沟通与通信工具，传播他人的流言蜚语、谣言、令其难堪的图片和视频，或者擅自将他人的个人信息、隐私公之于众，导致被欺凌者的信息被大肆泄露。其次网络传播不受时空的限制，很容易在短时间内大范围传播，后果难以控制。而未成年人正处于成长的重要阶段，网络给其造成的伤害后果往往更为严重和持久，也更容易发生学业表现差、产生较低的自尊感以及其他生理心理健康问题，甚至引发自杀、自伤等行为，严重伤害了未成年人的身心健康。

基于这种背景，二审稿草案从两个角度对此作出了规定。首先规定了严格禁止任何组织和个人对未成年人实施网络欺凌，规定任何组织或者个人不得通过网络以文字、图片、音视频等形式，对未成年人实施侮辱、诽谤、威胁或者恶意损害形象等网络欺凌行为；其次，规定了遭受网络欺凌的未成年人及其父母的救济方法，遭受网络欺凌的未成年人及其父母或者其他监护人有权通知网络服务提供者采取删除、屏蔽等措施。网络服务提供者接到通知后，应当及时采取必要的措施制止网络欺凌行为，并消除影响。

强制报告制度有助于及早发现未成年人遭受侵害的案件，有助于预防案件发生或者避免严重后果。西方很多国家立法明确规定了这种制度，我国早在2013年最高人民法院牵头制定的关于办理性侵害未成年人案件的意见中规定了这一制度，明确规定负有特殊职责的人发现未成年人遭受性侵的，有义务向司法机关报告。后来这一制度在反家庭暴力法、国务院关于关爱保护留守儿童的政策中都有体现。为了推进这一制度的落实，最高检、公安部等九部门在今年六一前夕发布了《关于建立侵害未成年人案件强制报告制度的意见（试行）》，明确规定特定职业的从业人员在工作中发现性侵、虐待、欺凌、遗弃、拐卖等9类未成年人遭受不法侵害情形，应当立即向公安机关报案或举报。

未保法二审稿也在总则部分确认了这一制度，明确规定，负有未成年人保护职责的国家机关、密切接触未成年人的单位及其工作人员，在工作中发现未成年人身心健康受到侵害、疑似受到侵害或者面临其他危险情形的，应当立即向公安、民政、教育等部门报告。但在司法实践中，互联网企业是否负有强制报告的义务？互联网企业对哪些问题应该报告？这是一个新问题，对互联网企业来说也是一个大问题。

二审稿对此作出了明确的规定。首先对危害未成年人身心健康的内容要停止传播并必须报告。草案规定，网络服务提供者发现用户发布、传播含有危害未成年人身心健康内容的信息的，应当立即停止传输相关信息，采取删除、屏蔽等处置措施，保存有关记录，并向网信、公安等部门报告。其次，发现对未成年人有违法犯罪行为的要停止提供服务并必须报告，草案规定，网络服务提供者发现用户利用其网络服务对未成年人实施违法犯罪行为的，应当立即停止向该用户提供网络服务，保存有关记录，并向公安机关报告。

在当前互联网快速发展的背景下，网络欺凌、社交网络中的性剥削等大量侵害未成年人的违法犯罪都可能出现在互联网这一虚拟空间。韩国“N号房”事件中多达74名女性受到性侵，其中有16名是未成年人女性，年龄最小的受害者刚刚11岁，加入所谓“房间”共享以儿童为对象色情信息的用户竟然多达26万人。对于这种大量未成年人遭受侵害的案件，网络平台就没有责任吗？这个问题在韩国也是引发了社会广泛讨论。当前很多互联网企业还更多从经济效益而非社会价值的角度来考虑问题，对未成年人保护问题的关注还远远不够。所以未保法对此作出明确的规定是有重大意义的。

我一直高度关注互联网企业的责任问题，这种责任不仅是社会责任，更主要是法律责任。互联网企业建设了虚拟空间，那么如何保障未成年人在这一虚拟空间活动时的安全？这是当前世界各国未成年人网络保护问题上的难点问题。

二审草案对此作出了一些规定。比如规定网络产品和服务提供者应当建立便捷、合理、有效的投诉和举报渠道，公开投诉、举报方式等信息，及时受理并处理涉及未成年人的投诉、举报；任何组织或者个人发现网络产品、服务含有危害未成年人身心健康的信息，有权通知网络产品和服务提供者采取删除、屏蔽等措施，也可以直接向网信、公安等部门投诉、举报；网络服务提供者发现用户发布、传播可能影响未成年人身心健康的信息且未作显著提示的，应当立即停止传输相关信息并通知用户予以提示，用户作出提示后，方可继续传输相关信息。

上述规定都有重大意义，但仍然有一些问题尚未解决。比如，像腾讯、阿里、百度这些大的互联网企业是个庞大的体系，内部部门林立，很多产品开发、客户管理等部门彼此分隔情况极其严重，很多负责人和相关部门的工作人员毫无未成年人保护的理念和知识，这种情况下如何保障其产品符合未成年人保护的要求？很多公司都有投诉机制，但很多时候是机器在接待投诉，即使费尽周折能够接通人工投诉，也多是以搪塞、解释为主，接待人员也往往并不了解未成年人保护的相关知识，这就严重影响了相关投诉和处理的效果。

所以在未来未成年人网络保护方面还有很多制度要思考。比如，互联网企业在内部是否要建立有效的协调机制？腾讯曾经建立了马化腾亲自牵头、跨部门的未成年人网络保护协调机制，这对企业来说是一项重大的创新，但遗憾的是，宣传大于内容，在实际运作中流于形式；大的互联网平台是否要设立未成年人保护部门、中型互联网企业是否要设立专人？在未成年人保护领域一个重要经验是人员职业化才能实现专业化，人员专业化才能保障未成年人保护工作的质量。那么这种经验能否在互联网企业推广？社会如何有效监督互联网企业在未成年人网络保护中的作为？是否可以借鉴广电总局《未成年人节目管理规定》第25、26、27、28条等相关内容，建立未成年人网络保护的相关社会监督评价制度等。上述问题都是未来未成年人网络保护要思考的问题。

最后还要特别提到的四点

1、根据二审稿现有的规定，我国未成年人保护法将构建起我国未成年人网络保护的基本法律体系，对政府、互联网企业、学校、父母等都提出了明确具体的要求，这是我国未成年人保护立法的一个重大发展和进步。

2、互联网是个新鲜事物。在2004年到2006年全国人大修订未成年人保护法的整个过程中，我从未听说有人提出要就“网络保护”单设一章。本次未成年人保护法修订，新设“网络保护”一章几乎没有任何争议，这是社会发展的必然结果。但未来网络的发展将远远超过我们很多人的想象，所以当前立法存在局限性是必然的，未来也必将出现很多新问题，所以不论是政府还是企业，都应该有担当、有责任，随时关注和研究这个领域的发展。

3、未成年人保护条例还未出台。从科学的角度看，既然未保法规定了“网络保护”专章，那就应该先制定法律，再根据法律对条例草案作相应修改。同时可以确信，未来相关部门还将就未成年人网络保护问题发布相关政策及行业指引。本文中的有些建议可以在二审后未成年人保护法的完善中解决，也可以在未来条例、规章、部门政策或者行业指引中解决。

4、要特别提醒企业注意的是，本次修订后的未成年人保护法不再是“没有牙齿的老虎”，法律草案进一步完善了法律责任的内容。比如针对互联网企业在未成年人网络保护中的责任，如果违反了相关规定，不仅可以罚款，拒不改正或者情节严重的，还可以责令暂停相关业务、停业整顿、关闭网站、吊销营业执照或者吊销相关业务许可证。这些处罚措施对互联网企业影响是巨大的，希望互联网企业尊重这部法律，认真执行这部法律，以在有效参与未成年人保护这一关系国家和民族发展伟大事业基础上，实现企业更好发展。

往期原创

我国未成年人性引诱案例统计分析：69起案件，269个儿童的人生

如何拯救每年2000名孩子的生命和10000个家庭的幸福？

张雪梅：解读民法典中的未成年人监护制度