国务院颁布的《未成年人网络保护条例》(以下简称《条例》)将于2024年1月1日起施行,这是我国首部专门性的未成年人网络保护综合立法。《条例》规定了培育未成年人网络素养、规范网络信息内容等未成年人网络保护领域的基础制度,并强调了平台企业主体责任。平台企业如何落实即将施行的《条例》?如何构建未成年人网络保护合规体系?针对这些问题,记者采访了专家和多家平台企业。
《条例》公布之后,各方也行动起来。11月12日,由北京市委网信办指导、首都互联网协会和北京师范大学新闻传播学院主办的“e起首护”《未成年人网络保护条例》普法宣传活动启动仪式上,首都互联网协会向会员、企业等发出《未成年人网络保护行业自律倡议》。
记者了解到,针对家长反馈的痛点、难点,平台企业通过引入大模型技术、提供家长管理工具、建设信息“防火墙”、预装软件过滤有害信息等举措,保护青少年健康触网。
以网络游戏为例,自2021年游戏防沉迷新规落实后,未成年人玩家每周游戏时间被控制在3小时内,但部分未成年人使用各种手段绕过监管仍是让家长头疼的问题。对此,网易游戏借助AI大模型技术对未成年人保护体系进行智能升级,推出AI巡逻员提高未成年人风险行为识别准确率。
调研数据显示,违规登入游戏的未成年人玩家主要是使用了成年人的账号,AI巡逻员的第一项任务就是基于未成年人行为精准判断疑似未成年人玩家,并进行行为干预。而针对疑似未成年人的不理性消费行为,AI巡逻员能够做到,在消费发生前就介入干预拦截。
此外,网易AI巡逻员专门配备了多维的监控与打击体系,包括危害未成年人不良信息AI识别模型、不良信息的过滤与隔离机制、未成年人社交风控模型、网络黑手专项打击等,以系统化且多维化的监管模式,严打网络中的有害信息。据悉每月过滤不良信息超7300万条,全方位构建绿色的网络游戏空间。
据统计,试运行至今,AI巡逻员已成功辨别出使用成年人信息进行实名认证的未成年人超千万并纳入监管,干预上万个未成年人使用成人账号的高额消费,处理涉骚扰未成年人玩家违规账号8万多个。
为了进一步防止部分未成年人冒用成年人身份进行游戏和消费的现象,《蛋仔派对》将持续优化和升级AI巡逻识别技术。尤其针对存在大额充值行为的高风险用户,游戏内将强制弹窗进行人脸识别认证,不通过认证的账号会被锁定,无法进行游戏。
此外,网易游戏成立了专为未成年人服务的部门“网易游戏未成年人保护中心”,下设防沉迷产品开发、网络环境治理、网络安全教育等工作组,系统构建了全新的未成年人保护机制。此外,还设立了一个特殊的客服团队——网易游戏未成年人保护团队,快速响应解决家长在未成年人游戏行为监管中遇到的问题。保护团队在接收到家长关爱平台上的相关举报后,会以最快的速度查实情况,并与家长沟通解决问题,确保未成年人的网络安全。
抖音则采取了包括强制进入青少年模式、提供家长管理工具等在内的多种措施,在安全使用、防沉迷管理、优质内容生态建设等领域全面保护青少年上网安全。
网络上的违法和不良信息一直是家长担忧的问题。针对这一痛点,未开启青少年模式场景下,抖音通过技术手段主动进行人群识别保护,一旦判断疑似未成年人使用时,即刻上线保护措施,保护未成年人不受不良评论内容侵害,并对可能存在风险的私信会话进行安全提醒。此外,重点对饭圈文化、邪典、不良价值观(炫富、丧文化等)、软色情等风险进行详细梳理,通过上线多种类型风控模型策略,深入挖掘清理侵害青少年权益、危害青少年身心健康的违规内容、话题、账号等,对相关内容进行严格处置。
要引导学生在网络生活中,既发挥法律的规范作用,又重视道德的自律引导作用。媒介素养教育也是一种道德教育,是为了让公众知晓并遵循信息传播过程中的相关规范,更好地处理自己与媒体的关系。
——张海波,广州市未成年人网络生态治理基地主任、中国青少年宫协会媒介与教育工委会常务副主任
网络内容服务平台有责任建好“防火墙”,守护青少年网络安全,包括采取强制进入青少年模式、提供家长管理工具等在内的多种措施,在安全使用、防沉迷管理、优质内容生态建设等领域全面保护青少年健康触网。每日首次启动抖音App时,以弹窗方式推送青少年模式引导页,未成年人用户每使用超过40分钟需要家长授权,实名认证的未成年人用户账号或开启青少年模式的账号无法充值打赏。青少年内容采用多重审核机制,过滤不同形式的不良信息,适龄匹配内容方面,以泛知识、重教育为主,为广大青少年量身打造有信息质量、有安全保障的内容。
如果希望《条例》有更好的实施效果,仅靠平台仍不够,需要家校社形成合力。家长层次是不一样的,高学历的家长也不见得网络素养都很高,在家长缺位的情况下,学校、社区和政府要及时补位。社区资源也应利用起来,在寒暑假开设相应的课堂,大型公益机构也可将落脚点放在网络素养的提升上。
未成年人保护工作是一项系统工程,不仅是行业问题、技术问题、家庭问题,也需要社会各界共同投入力量。以企业为纽带,网易游戏持续联合社会各界力量,采用“疏堵结合”的方式,将未成年人保护和教育工作渗透到生活的多个场景。针对未成年人上网安全教育、未成年人相关黑产打击等,强化与家庭、公安等社会力量的协同,不断加固守护未成年人健康成长的屏障。通过现实社会的教化和疏导,让青少年真正形成自己的“免疫力”,能够去伪存真,对网络空间形成正确的价值判断,形成自我保护意识。
当上父母后,并没有经过系统的教育和培训,就自然而然地成为家长,但并非所有东西都比孩子懂得多,在移动互联网,尤其是生成式人工智能的大环境下,家长要和孩子共同成长和发展。希望能够引入第三方力量,发挥社会大课堂的作用,让孩子了解互联网,能够成为互联网甚至是生成式人工智能新时代的创新者和创业者。
加强未成年人网络保护、减少网络有害信息对未成年人的不良影响已成为社会共识。平台应依照《未成年人保护法》《网络安全法》《青少年网络保护条例》等相关法律法规,健全内容审核机制,加强内容把关,净化不良信息,守护未成年人上网安全。科大讯飞重视对儿童个人信息和隐私安全的保护,推出儿童隐私保护政策,并加强人工智能技术在青少年心理问题方面的研究和应用,帮助学生解决轻度心理问题。