互联网为未成年人群体带来了更多发展机遇,也带来了网络不良信息、网络沉迷、网络暴力、网络隐私泄露等上网风险,加强数字安全风险治理,明确未成年人数字安全保护工作的切入点与落脚点刻不容缓,需着力解决四点问题:明确现行法律体系存在规制盲点,如法律文件缺乏统合、法律规定过于粗略等;倡导在治理过程中明确数字产品靶点,包括提升企业主动履责意识、加强产品设计前置规制、完善产品风险防护体系;寻求风险治理平衡点,强调在治理过程中尊重数字环境的积极作用;研判数字安全保护未来发展基点,提出建立数字确权机制、加强企业自律建设、提升未成年人数字素养、建构新的数字社会规范等对策。最终,为加强未成年人数字安全保护提供一种蕴藉于数字社会底层逻辑下的风险治理视角。

内容目录:

0 引 言

1 现行规制体系存在盲点

2 明确互联网数字产品靶点

2.1 企业主动履责意识亟待提高

2.2 产品缺乏强有力的前置规制

2.3 保护措施存在缺口

3 寻求风险治理平衡点

4 数字安全治理未来发展的基点

4.1 建立数字确权机制

4.2 加强企业自律建设

4.3 提升未成年人数字素养

4.4 建构新的数字社会规范

5 结 语

0 引 言

互联网应用的迅速发展形塑了新一代年轻群体的日常生活样式。未成年人作为“数字原住民”一代,个人的学习成长轨迹已和网络水乳交融,变得难以分割。然而,在享受着自由开放、多元平等的新媒体所带来的巨大发展机遇的同时,未成年人也面临着网络不良信息、网络沉迷、网络暴力、网络隐私泄露等远胜以往的严峻挑战与成长风险。加强网络空间治理,为未成年人构建健康安全的网络环境已成为当前社会迫在眉睫的重要关切。

保护未成年人数字安全,需找准切入点与落脚点。既要加强外部规制,扫除现行体系的矫治盲区,也要提升网络运营主体的自我约束。既要在治理中张弛有度,综合研判各种网络应用使用的优与劣,更要有将风险治理嵌入数字社会建构底层设计来看待的意识。基于此,本文认为,在互联网空间纷繁复杂、未成年人对电子媒介高度依赖的情势下,加强未成年人数字安全保护,必须在现行规制的盲点、网络产品的靶点、治理的平衡点以及未来发展基点这四点问题上着重发力。

1 现行规制体系存在盲点

通常认为,未成年人面临的数字安全风险主要来自以下四个方面:第一,网络不良信息。包括性、色情和暴力等非适龄的图文影像,宣扬自残、自杀、厌食等不健康行为或危险行为的内容,以及某些含有种族主义、歧视或仇恨言论的内容等。第二,网络侵害。包括拐卖儿童、网络威胁和勒索、“定制化”的网络性侵、猥亵儿童等违法犯罪行为。第三,网络沉迷。未成年人沉迷网络有着多方面的原因,既源于较强好奇心、较弱自制力、逃避或渴望认同等个体的心理因素;也有家庭、学校、网络企业等疏于教育与管理等外部因素。第四,网络隐私泄露。互联网环境下,用户账户信息、行为数据等被完整地映射在网络中,网络平台的安全防护稍有疏漏,个人数据便被泄露,从而使个人隐私面临巨大风险。未成年人自我权利保护意识与保护能力不足,其个人数据更容易被泄露,隐私保护问题变得更加严峻。

针对上述问题,我国出台了一系列针对未成年人网络保护的规制措施:2001年,《全国青少年网络文明公约》出台,为青少年确立了较为完备的网络行为道德规范;2002年,新闻出版总署、信息产业部联合颁布《互联网出版管理暂行规定》,要求以未成年人为对象的互联网出版内容不得含有诱发未成年人模仿违反社会公德的行为和违法犯罪的行为内容,以及恐怖、残酷等妨害未成年人身心健康的内容;2005年,新闻出版总署颁布《关于保护未成年人身心健康实施网络游戏防沉迷系统的通知》,着力于解决未成年人沉迷网络游戏的社会问题;2017年2月,国务院法制办公布《未成年人网络保护条例(送审稿)》,是我国第一部专门保障未成年人网络空间安全而制定的法规;2019年,网信办发布《儿童个人信息网络保护规定》,初步明确了网络运营者需要承担的儿童个人信息安全管理责任;2020 年 10 月,全国人大十三届二十二次会议正式通过修订后的《中华人民共和国未成年人保护法》,增设“网络保护”专章,尤其对网络信息内容管理、未成年人个人信息保护、网络欺凌以及未成年人网络沉迷等突出问题做出了全面规范,并增加了相应的法律制度设计。

我国未成年人网络安全法制初步形成了以《中华人民共和国未成年人保护法》为龙头,以《中华人民共和国预防未成年人犯罪法》《儿童个人信息网络保护规定》及其他行政法规、部门规章为补充的制度体系。但总体来看,我国未成年人网络安全保护规制体系仍处于探索阶段,法律规范尚不健全,在政策法规的制定与实施上依旧存在着相当一部分的模糊地带与规制盲区。

首先,整体上看,我国尚无未成年人网络保护的专门法律,而是散见于各位阶的法律文件中,缺乏统合性。《未成年人网络保护条例》尚未正式出台。修订后的《中华人民共和国未成年人保护法》虽然增加了“网络保护”专章,但多为原则性规定,不能为未成年人网络权益遭受侵害提供具体而明确的法律追究依据;而《中华人民共和国网络安全法》《网络信息内容生态治理规定》等法律文件虽然明确了信息保护的边界和网络运营主体的责任,但未能体现出对未成年人这一特殊群体的保护。立法分散导致针对未成年人网络保护的规制缺乏系统性和完整性,整体规制力度较弱。

此外,在具体的法律制度构建上,现行立法也存在着法律概念过于粗略、法律规定过于抽象、法规缺乏实施力度等问题。例如,在法律概念界定上,网信办出台的《儿童个人信息网络保护规定》将监管对象界定为“网络运营者”,这一概念过于宽泛而无法对责任主体进行直接判定;在法律规定上,我国现行立法规定的法律责任同样较为抽象。如在有关未成年人个人信息保护的规定上,法律要求“网络运营者不得收集与其提供的服务无关的儿童个人信息”,却未能进一步说明与服务“无关”信息的具体范畴,划分出明确的信息最大采集范围,最终导致司法缺乏细致、操作性强的判断标准;在法规实施力度上,现行法律多为表明对未成年人网络保护态度及倾向的原则性规定,实施性条款较少,因此在实践中难以得到有效执行。

总体而言,我国现行未成年人网络安全保护法律体系仍存在较多规制盲点,未来需要进一步健全并完善相关法律规范体系,并提供更多细致、具体、明确、执行力强的法律依据。

2 明确互联网数字产品靶点

目前,涉及儿童数字安全风险问题,相较于约谈、罚款、通报、整改等政府强制的后置规制,企业自身针对产品建立起具有引导性的前置规制或许更为有效。与国内相比,国外行业规制非常规范。企业在面向未成年人时,在隐私保护设置、获取地理位置信息、数据分析与共享、严禁诱导儿童开放权限等方面均有着细致的前置产品设计条约。

例如,美国娱乐软件定级委员会(ESRB)作为独立、非营利性组织,为互动娱乐软件产品制定了标准的内容定级体系以预防未成年人观看到不适宜的网络信息。微软公司则通过技术手段研发过滤软件,将网站分为暴力、裸露、性、语言四个类别,从而帮助用户进行内容筛选;英国儿童网络安全委员会(UKCCIS)发布行业行为规范,为互联网企业提供设计指南,鼓励企业在产品设计阶段就嵌入未成年人保护功能,形成“设计安全”的产品文化;日本三大通信运营商在手机中配置了家长管理软件。日本电信企业还特别针对儿童研发了专款手机,此种手机无法浏览网页、接收短信,只能与通讯录保存的号码通话。同时手机内配置 GPS 定位系统,具有及时报警的功能等。总的来看,国外的行业自律体系建设十分成熟。企业在产品设计之初就积极主动地为降低未成年人网络使用风险提供策略、工具与手段,努力提升产品安全性,从而实现了效率和效果的最优配置。

与国外相比,我国互联网企业行业规制体系虽仍待建设,但在政府的强力推动下也围绕数字产品推出了一系列防治未成年人网络安全风险的举措:2010 年 2 月,在文化部的指导下,CSDN、腾讯、盛大游戏、网易、搜狐畅游、巨人网络等六家网络游戏企业共同发起并参与实施“网络游戏未成年人家长监护工程”,为防治青少年沉迷网游提供了一种家长实施管控的通道;2016 年开始,在政府引导下,行业内开始主动采取措施来防范未成年人的网络风险,头部互联网企业纷纷推出“青少年模式”,如腾讯建立游戏“儿童锁”模式、推出实名认证和防沉迷系统,对未成年人游戏账号执行严格游戏时长规定;推出成长守护平台,并联合华为、三星、小米、VIVO 等多家设备商在内置入口、设备管控、数据打通、内容分级等多方面展开合作,协助家长对未成年子女的网络使用行为进行监督和引导;抖音成立未成年人保护计划专项小组,组建未成年人专项审核团队,并设置未成年人安全相关的专项举报入口,通过技术手段、产品策略、内容优化等多种方法防治未成年人网络安全风险等;2020年8月,教育部等六部门发布《关于联合开展未成年人网络环境专项治理行动的通知》,对影响未成年人健康成长的不良网络社交行为、低俗有害信息和沉迷网络游戏等问题进行专项整治,净化未成年人网络环境。腾讯、网易、小红书等多家互联网公司积极响应,推出“双减双打”“三防三治”等措施,力争为未成年人营造清朗健康的网络环境。虽然我国头部互联网企业在未成年人保护上做出了一些积极的探索和有益的尝试,但对比域外成熟的行业规范,我国行业规制中仍然存在诸多问题。

2.1 企业主动履责意识亟待提高

目前看来,我国互联网企业推出的未成年人保护措施多为响应国家号召、配合政府监管的被动之举,企业自身对产品的事前规划、自查自纠则较少。虽然近年来,多数企业开始意识到未成年人保护是企业必须承担的社会责任。但从被动消极履责到积极主动采取措施,从依靠政府规制到完善行业自律,这中间仍有很长的路要走。

2.2 产品缺乏强有力的前置规制

当前,我国围绕数字产品开展的保护措施多以事后防治为主,采用“先暴露问题,再考虑治理”的后置规制模式,在解决方案上存在着相当大的滞后性。反映出的问题是产品在策划运营阶段对未成年人保护工作的关注不足、意识不强,导致的直接结果是治理效率低下、治理效果不理想。要实现从“改善”到“预防”的转变,必须积极借鉴域外成熟的行业经验,转变产品设计思维,在产品规划阶段形成更多具有引导性的内部前置规制,努力将未成年人网络风险扼杀在摇篮。

2.3 保护措施存在缺口

我国企业现阶段推出的未成年人保护措施主要集中于以下两方面:防治网络沉迷。通过实名认证模式和“限时”“限充”等政策严控未成年人上网时间;网络内容生态治理。通过开发青少年模式、加强内容审核与人工审查、建立投诉举报机制等方式整治危害未成年人身心健康的不良信息。此外,面对未成年人面临的网络侵害、隐私泄露等风险,保护力度则尤为不足。特别是青少年的隐私泄露问题,在实名认证等机制下,企业收集了大量人脸、指纹、声纹等生物信息,一旦数据存储出现问题,反而会加重未成年人的隐私泄露风险。如何规避上述问题、全面完善未成年人保护措施,将成为企业在规划产品时需要着力解决的痛点问题。

3 寻求风险治理平衡点

未成年人网络安全保护是一项需要长期规划、综合治理的工作。要从根本上解决问题,就必须具有全面、正确、客观的思路取向。现阶段我国未成年人在用网过程中确实存在诸多数字安全风险。但同时,我们也要对这些风险的程度进行正确判断,不应片面强调、过分夸大这一危机而忽略了数字产品对青少年成长的积极作用。事实上,有研究表明,数字产品在促进社会交往,增进人际关系的亲密程度等方面存在正向影响。它们能为青少年提供支持、陪伴与认同,并满足他们的情感需要。因此,在对未成年人上网风险进行治理的过程中,如何放大数字环境的积极作用、寻求治理的平衡点显得尤为必要。

首先,对青少年群体而言,要实现网络管制与权益实现间的平衡。信息化时代,未成年人的发展权、受教育权、个人社会化进程同网络使用关系密切。在治理中既要对互联网信息生态进行必要管制,避免未成年人接触到不良网络内容。也不能损害未成年人的正常用网权益,阻碍其个人成长与进步。更不能矫枉过正,因管制网络信息而限制公民获取信息、言论自由等基本权利。

其次,对互联网产业而言,要实现产品规制与产业发展间的平衡。在通过强制实名认证、上线青少年模式、限制使用时长、加强内容过滤、提高审核标准等手段规制互联网数字产品,弱化未成年人用网风险的同时,也要防止这些限制与产业发展相冲突,导致网络游戏、网络直播等产业的萎缩。要在推动互联网产业发展和避免未成年人沉迷网络之间求得平衡。

另外,监管部门应做到管理与保护间的平衡。在要求互联网平台开发未成年人实名认证系统,推进用户人脸识别、声纹识别、年龄验证等措施的同时,必须提升网络空间安全建设,防治青少年的隐私泄露风险。不能因小失大,得不偿失。

最后,从全局着眼,还应做到限制与发展间的平衡。要避免互联网企业因未成年人上网存在多重限制而不愿开发未成年人的数字产品,导致未成年人接触成人内容的风险增加,从而背离治理初衷。要鼓励互联网企业积极提供适宜青少年群体观看的内容,努力开发面向青少年群体的产品,为未成年人提供适宜、干净、健康的数字产品,营造丰富、多元的网络空间。

4 数字安全治理未来发展的基点

伴随着信息技术的迅猛发展,人们习以为常的物理世界与数字世界的界限正逐渐消弭,线上线下的虚实同构加速了数字社会的发展。原本基于物理世界建构起的生产生活方式、社会制度规范、思想观念行为都面临着深刻的颠覆、重塑与再建。基于此,研判未来数字安全治理的发展基点,必须将风险治理蕴藉于数字社会的底层逻辑和体系构架之中。

4.1 建立数字确权机制

数字社会以数据的流通共享为鲜明表征,数据安全与隐私保护是数据自由流转的基本前提,清晰的数据权属是数字社会得以运转的基础与保障。在信息技术与经济社会交汇的当口,如何在数据共享与交换过程中保障个人隐私安全是亟需解决的问题。为此,建立清晰的数字确权机制,明确数据流通过程中参与主体的权利义务关系和责任边界,是发展数字社会最为基础的底层部署和秩序搭建。

围绕数据确权机制的构建目标,数据所有权界定应当主要围绕三个问题进行展开:一是数据权利属性,即给予数据何种权利保护;二是数据权利主体,即谁应该享有数据上附着的利益;三是数据权利内容,即明确数据主体应享有哪些具体的权能。综合来看,我国现阶段并未形成较好的数字确权机制。但随着区块链、数字水印等技术的发展,其可溯源、不可篡改、去中心性等特征或能为大数据所有权界定提供一种面向数字社会的解决方案。

4.2 加强企业自律建设

现阶段,我国数字安全治理体系仍然存在着较多规制盲点。在政府进一步加强法律法规建设、增强外部监管力度的同时,企业更应积极发挥主体作用、主动承担社会责任、大力推动行业自律体系建设。从当下数字安全风险治理的行业实践来看,我国互联网行业初步形成了一些共识性的原则与协定。如互联网协会发起的《传播正能量,坚守“七条底线”倡议》《中国互联网行业自律公约》《互联网搜索引擎服务自律公约》等协定,在加强行业整体协作上取得了一定的效果。但这些约定在发挥作用的实效性、企业参与的积极性与广泛性、规制内容的针对性等方面均有待进一步加强。

对此,一方面,国家网信办等部门不能放松监管责任。要推动互联网企业强化责任意识,通过技术研发等方式建立起完善的数据安全防护体系,通过制度创新等方式建立起标准合规的数字产品开发流程,敦促互联网企业在实名验证与身份识别系统的完善、青少年模式的开发与优化、未成年人用网限制与管理等方面发挥主体作用。另一方面,企业更应充分发挥行业联盟、社会组织的协同作用,在网络信息、网络游戏、网络视频、网络直播等方面建立共同的分级标准,出台行业内共通的信用机制及惩戒措施,增强行业规约的统一性与实效性。

4.3 提升未成年人数字素养

数字社会,数据、算法开始成为推动社会发展的引擎动力和技术支撑,更是构成个人生活、家庭生活和社会生活的基本要素。数字素养成为数字时代一项基本的生存技能和重要的知识资产。在新修订的《中华人民共和国未成年人保护法》中,“网络素养”这一概念被首次纳入法律体系,强调“国家、社会、学校和家庭应当加强未成年人网络素养宣传教育,培养和提高未成年人的网络素养,增强未成年人科学、文明、安全、合理使用网络的意识和能力,保障未成年人在网络空间的合法权益”。这体现了我国对提升未成年人数字素养的决心与重视。

聚焦于网络安全风险防治这一具体面向,提升青少年群体的数字素养则至少有三项要求:第一,要帮助未成年人形成对网络使用风险的清晰认知。只有全面、清楚地意识到可能存在的用网风险,才能提升安全上网的素质和水平,防患于未然。第二,要提高未成年人在数字社会的自我保护能力。通过数字安全教育,让未成年人能够在使用网络时识别出不良有害信息,主动规避网络侵害及一切可能存在的网络风险。同时,帮助未成年人树立正确的用网意识,合理、适度使用数字产品,预防网络沉迷。第三,要加强未成年人的网络素质教育。提高未成年人文明上网、素质上网的觉悟,加强自我约束、远离文化垃圾、杜绝不良风气,使网络成为未成年人获取信息、学习知识、开发潜能、休闲娱乐的工具。为达到以上三点目标,国家、社会、学校、家庭要通力合作,形成国家教导、社会教养、学校教育、家庭抚育的联动体系,全方位帮助未成年人提高数字素养。

4.4 建构新的数字社会规范

信息革命为人类社会带来了平台经济、算法黑箱、数据流转等一系列新技术、新问题,这使得基于既有单一物理社会而构建起来的社会治理体系和法律道德规范遭受到新的社会发展逻辑剧烈的颠覆与冲击,最终导致隐私泄露、网络诈骗、网络暴力等数字安全风险频发,各种网络违法犯罪活动层出不穷。此外,身处数字社会,人们的信息获取、学习发展、言论自由、民主参与、财产、契约等权利都在数字空间与智慧服务中得到拓展。但与此同时,隐私、人格、名誉、肖像、劳动等方面的权利却受到了相应程度的限缩。这意味着数字社会中公民的权利与责任亟待重新定位。

总的来看,既有的线下社会规范并不完全适用于线上社会的规约,“许多以前我们曾经依赖的东西,正在数字化时代支离破碎”。为此,治理数字安全,必须立足于数字时代的价值理念和现实问题,从顶层设计出发,建构起新的数字社会规范。在根本的道德规约创新、社会制度的重建、社会治理的转型、权责关系的再确认中,以新的适用于数字时代的社会规范规制公民的用网行为,从源头处扼杀并防治可能的数字安全风险。

5 结 语

电子媒介与社会生活同构共生的当下,未成年人数字安全使用风险必须引起高度重视。需明确未成年人数字安全保护的出发点与落脚点,着力扫除现行法律体系规制盲区,在治理过程中明确数字产品靶点,寻求治理平衡点,倡导建立数字确权机制、加强企业自律建设、提升未成年人数字素养、建构新的数字社会规范,建立健全国家、社会、企业、学校、家庭多方联动的网络安全教育体系和数字风险防范网络,从而为我国未成年人营造清朗、安全、健康的网络环境。