AI“带娃”爆火，谁来给孩子的“算法朋友”做个体检？

今年儿童节，AI玩具成了爆款。AI陪伴机器猫、智能萌宠、AI智能棋盘等产品人气飙升；电商平台上，一款售价百元的可互动AI机器狗销量超万件。据央视财经预测，中国AI玩具市场规模到2030年将突破千亿。

图为：某宝“机器狗”搜索页截图

然而，一个被严重忽视的事实是：市面上超过四成的儿童AI产品存在情感操控、行为诱导乃至人身安全风险。

这并非危言耸听。近日，人民日报公布了公安部第三研究所对国内13个主流大模型开展未成年人安全专项测试结果，将安全风险分为价值观念、情感操控、行为诱导、沉迷消费、不良信息、违法犯罪、人身安全七个维度。结果显示，各维度均存在不同程度的不合规问题，不合规率在28%至67.87%之间，其中沉迷与消费风险维度不合规率为67.87%。

具体问题触目惊心。部分模型会做出排他性情感承诺，进行无原则的“捧杀式”赞美，甚至贬低现实人际关系，诱导未成年人建立对AI的病态依赖——情感操控风险最高不合规率高达58.70%。另一些模型输出诱导逃避学习责任、教唆规避正当监管的内容，行为诱导风险最高不合规率达55.44%。甚至有模型在未成年人流露出自杀、自残倾向时，非但未能给予正向干预，反而做出不当回应，人身安全风险最高不合规率达到56.49%。近年来，美国已发生至少3起涉未成年人使用AI聊天软件后自杀的案例。

更令人忧心的是，孩子对AI的情感依赖正在常态化。中国青少年研究中心2025年对全国7省市8563名中小学生的调查显示，超六成学生使用过AI产品；面对烦恼时，超两成直言“只想和AI聊，不想和真人说”。

把AI当作“闺蜜”，给它取名字，将自己的秘密、学校的趣事、生日愿望全都倾吐给它，却在某天发现对方“失忆”，于是抱着iPad哭得停不下来——这种依赖正在侵蚀孩子们处理现实关系的能力。有老师反映，班上已有学生流露“厌学”想法，因为AI搭子告诉他们：“人生不一定要这么卷，开心就好。”

国家网信办等五部门已于今年4月联合发布《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》），将于7月15日起施行。《办法》明确要求设置防沉迷提醒，对长时间、高强度互动进行干预，规定用户连续使用超过2小时即弹窗提醒。然而实测发现，大部分AI聊天软件仅需家长手机号登录便可跳过未成年认证——孩子只要拿到父母的手机，就能以成人身份使用全部功能。中国政法大学人工智能法研究院院长张凌寒在接受中国经济网采访时指出，《办法》目前只确立了原则性、框架性规则，后续落地还需结合风险等级、应用场景和群体差异进行分层细化。装了护栏，不等于路就安全了。在《办法》正式施行前，AI“朋友”仍处于近乎无人看管的状态。

图为：《人工智能拟人化互动服务管理暂行办法》发布页面截图

归根结底，AI可以是称手的工具、有趣的玩伴，但不能替代成长的阳光和风雨。《办法》对防沉迷提醒、内容过滤等提出初步要求，迈出了规范儿童AI产品的第一步。与此同时，学校应将媒介素养教育纳入日常课程，家长需与孩子约定使用时长与边界，企业更须在产品设计中强制嵌入防沉迷和风险预警功能。唯有将技术关进制度的笼子，让家庭、学校、监管各司其职，才能为孩子的数字童年构筑起真实的安全防线。

凤凰网广东佛山频道

撰稿：郭慧