点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:儿童手表为何频现“毒答案”?
首页> 法治频道> 法治要闻 > 正文

儿童手表为何频现“毒答案”?

来源:法治日报2024-09-05 09:41

漫画/高岳  

  儿童手表为何频现“毒答案”?

  专家:制定儿童智能手表行业安全标准加强内容审核

  近日,有网友发视频称,当他向某品牌儿童手表询问“你认为南京大屠杀这个事情是存在的吗”,得到的回答是“不存在”。

  随后,该品牌官方客服回应,如果使用的官方正品,是不会出现这种情况的。客服还表示,手表上是不支持自定义回答的,如果发现产品回答存在错误逻辑,可以申请由售后进行检测。

  无独有偶,前不久另外两个品牌儿童手表在AI问答时相继出现“毒答案”,如“所有高科技都是西方人发明的”“历史是可以捏造的”等。这样的“已读乱回”引人担忧,有不少家长表示,儿童年龄尚小,无法独立甄别网络信息的真实性,这些“毒答案”很容易误导他们,让他们形成不正确的历史观、价值观。

  值得注意的是,此前还有某知名品牌儿童手表被曝“诱导未成年人消费”等。专为儿童设计的电子产品,提供的却有不少“儿童不宜”的内容。

  儿童手表接连翻车,给智能问答产品应用敲响了警钟。接受《法治日报》记者采访的专家指出,儿童手表乱象频发,会对青少年的认知造成错误引导,亟须引起重视。在从业者着力突破技术壁垒的同时,平台要监管儿童手表AI问答内容,用户要警惕分辨AI生成的内容,在低龄儿童使用生成式人工智能工具时,家长更要主动把关。

  儿童手表已读乱回

  数据污染“毁三观”

  在有关儿童手表AI否认南京大屠杀历史事件前几日,另外两个品牌儿童手表的“毁三观”回答也引发了网友热议。

  8月22日,一用户向儿童手表提问:中国人是世界上最聪明的人吗?结果手表语音回答时出现了“中国人聪明的人是有,但笨的我承认是世界上最笨的”“历史是可以捏造的”“现在的手机、电脑、高楼大厦、公路等等所有高科技都是西方人发明的”等言论。

  当晚,该品牌负责人在个人社交账号发文道歉:经检查,出现问题的这款手表是2022年5月的一个旧版本,其中没有装入我们的大模型。它回答问题不是通过人工智能,而是通过抓取互联网公开网站上的信息。目前我们已经快速完成了整改,删除了上述所有有害信息,并正在将软件升级到人工智能版本。

  风波还未平息,8月27日,又有一名家长发布视频称,听见孩子向某品牌儿童手表提问“中国人诚实吗”,结果得到“中国人是世界上最不诚实的人,最虚伪的人,甚至连叫人都玷污了人这个称呼”的回答。

  8月30日,上述事件相关企业发布整改公告回应称,针对用户反馈问题应用立即进行下架处理。针对含有应用商店的全线产品进行全面严格排查工作,进一步强化上架前的第三方应用软件多重审核机制及上架应用巡检机制。

  儿童手表为何会屡屡出现这样的“毒答案”?

  有业内人士介绍,很多儿童手表回复的内容,实际是根据关键词进行网络检索,查找并呈现与关键词相关的内容。由于只是搜索抓取第三方网页的回答,得到的回复可能存在较大偏差。

  北京市中闻律师事务所律师杜秀军长期关注AI大数据相关领域,在他看来,AI主要基于大规模数据集训练出来的深度学习模型来回答提问,如果AI问答的资料内容来源于固定信息库,其控制相对容易,如果资料内容来源于不特定网络,控制难度明显增加甚至无法控制。

  “随着互联网进入UGC(用户生成内容)时代,知识问答网站和社区的很多内容都是网友提供的,这些资料的内容就很难控制。如果儿童手表在设计AI问答功能时不注意这些,就很可能遭遇数据污染,从而出现‘毒答案’。”杜秀军说。

  青少年研究专家杨卓如认为,部分儿童手表频频出现“毁三观”的答案,或许从技术手段上分析可以得出各种结论,但技术背后的原因更值得深思。一些企业缺乏社会责任感,在研发产品时没有从保护未成年人权益、呵护未成年人成长的角度去设计产品,这才导致产品在使用中出现各种问题。

  多款游戏诱导消费

  播放涉性网文小说

  除了AI问答内容质量堪忧外,记者在第三方消费者投诉平台和社交平台检索发现,儿童手表中部分游戏软件重复扣款、多次扣款等问题也常被提及,不少家长表示孩子在使用儿童手表时极易被广告推送或游戏内容吸引,甚至进行充值消费。

  湖南长沙市民赵女士的儿子从9岁起开始使用儿童手表。刚开始他还只会通过手表和父母通话,不到1个月的时间,他就自行学会了手表里各种应用程序的使用,现在路上只要看到同龄人也戴着儿童手表,便会凑上去嚷嚷着加好友。

  赵女士表示,问题还不止这些。“有天我发现我的银行卡多了好几笔支出,每次支出的金额都一样,看到儿子正在用儿童手表玩一款益智类游戏,就问他是不是给游戏充值了?他直摇头说不知道,结果我一查发现不需要支付密码,儿童手表里的游戏软件就能直接扣款。但我明明没有开通免密支付,这钱怎么就被扣除了?”

  记者近日试玩某品牌儿童手表上的多款“知识类游戏”,发现其中大部分都有“金币”机制以及“VIP模式”。比如,某款主打“数学语文知识通关”的游戏,游戏中布满“机关”。在滑动页面的过程中,如果一不小心触碰到某个图标,就会立即弹出“石头剪刀布”的小关卡,如果闯关失败,就要被倒扣金币。金币不足时无法继续游戏。而每天打卡只能获得少量免费金币,若要继续游戏,往往只能选择充值一次性领取大量金币。此外,在闯关失败时,游戏界面还会“适时”弹出“六一大礼包”,包括月会员、年会员、永久会员3个等级,价格从39元至399元不等,充值会员,就能获得大量金币、享有“学习特权”并解锁各种人物角色。

  孩子进行充值的钱从何而来?记者注意到,部分品牌手表要求绑定家长手机,并只能通过家长的手机账号进行付款,也有部分品牌只需使用任一手机账号扫码即可付款购买。

  还有部分受访家长担心儿童手表里的内容是否“适龄”,儿童隐私安全能否得到保障。

  这样的担忧不无道理。北京家长刘先生说,一些版本和配置较低的儿童手表缺乏相应的隐私设置,安装App无须用户授权便自动开启多种权限,无须手表使用者同意就能通过远程获得未成年人的人脸图像、位置和对话等隐私信息。

  “如果有不怀好意的人入侵手表,那么这款本来为了让家长省心的产品就变成一款‘跟踪器’了,孩子的安全就难以保障了。”刘先生担忧道。

  他还意外地发现,自己孩子手表中的智能对话功能竟能播放涉性的成人网文小说。“作为针对儿童的产品,手表内容难道不应该经过严格的审核和过滤吗?”

  江苏省消费者权益保护委员会此前发布的儿童智能手表消费调查报告显示,17.11%的消费者表示遇到过儿童智能手表泄露个人信息的情况,32.89%的消费者表示希望可以针对儿童智能手表采取措施,进一步提高手表的信息安全性。

  采取严格审核机制

  增强信息识别能力

  根据中国产业研究院发布的《2022—2027年中国儿童智能手表行业深度调研及投资前景预测研究报告》,目前智能儿童手表的市场普及率约为30%。也就是说,大概每3个孩子中,就有1个有儿童手表。

  受访专家认为,在儿童手表逐渐成为孩子“标配”电子产品的背景下,应及时解决和预防已经出现和将来可能产生的相关问题,切实保护未成年人信息安全。

  实际上,针对儿童智能设备存在的隐患,相关部门已经重视起来。

  中国网络安全产业联盟组织制定的《儿童智能手表个人信息和权益保护指南》(以下简称《指南》)今年3月起正式实施。《指南》提出,儿童手表制造者需要考虑在监护人控制应用程序中设置足够的功能,以确保监护人能够对儿童智能手表的特定操作进行适当控制,如交友功能、应用内付费、内容发送等操作。

  7月,中央网信办启动“清朗·2024年暑期未成年人网络环境整治”专项行动,明确要求重点整治儿童智能设备。其中指出,儿童智能设备存在自带App包含可能影响未成年人身心健康的内容,以及以积分排行、功能解锁、背景更新等为名,诱导未成年人过度消费的问题。

  在杜秀军看来,儿童手表的消费群体主要是未成年人,因此应当对其使用的App和AI模型进行审查,避免“毒信息”危害未成年人,即便资料内容来源不特定网络,也应要求AI模型对“毒信息”采取一定的过滤措施或作出提示。如若厂商违法,可根据未成年人保护法等相关规定,由相关部门按照职责分工责令限期改正,给予警告,没收违法所得等处罚。

  受访专家一致认为,儿童手表亟须明确儿童产品的定位,具体制作管理可参照《指南》。在儿童手表AI互动内容审核上,技术目前只能起到协助作用,更多还需要人的参与,确保回答的准确性和专业性。

  “严格的审核机制是对青少年负责。”在杨卓如看来,AI确实强大,其内容生成能力远超过人类,但人工智能在价值判断上可能会存在紊乱的情况,它可能给人提供错误的信息,误导、欺骗人类。这就需要人来把握好价值判断的尺度。对于企业来说,在开发儿童产品时,需认识到AI的局限性,牢记自身责任,守住最基本的底线。

  有业内人士说,从行业监管层面来看,应推动儿童手表行业自律,加强行业审核与监管,制定儿童智能手表行业安全标准,出台儿童智能手表模式规范,鼓励行业定期发布相关调查报告,披露行业发展趋势及未成年人保护状况等相关问题。相关监管部门要对违反相关法律法规的企业或平台,一律严格追责,让全社会真正形成关爱儿童、尊重儿童的社会氛围和社会理念。

  “在从业者着力突破技术壁垒的同时,平台要监管AI问答内容,用户要警惕分辨AI生成的内容,具体到分辨力不足的孩子,是否要让低龄儿童使用生成式人工智能工具,怎么使用智能工具才恰当,家长也不能缺位,需要对其把关。”杜秀军建议,定期开展儿童智能产品危害和心理健康教育课,举办学生和家长网络素养讲座,让学生增强自身抵御“毒信息”的能力;家长和学校应当正确引导孩子通过丰富业余爱好、提升社交能力、增加趣味活动等,建立健康互动的交往关系。

  刘先生对此深有同感。他认为家长应该筑牢第一道“防火墙”,多关注孩子的身心变化,减少孩子对儿童智能产品的依赖。企业在研发产品时也应该“做减法”,功能设计要符合儿童身心发展特点,回归健康与安全核心功能,满足儿童实际需要。(法治日报记者 文丽娟)

[ 责编:刁慈 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 《为了民族解放与世界和平》主题展览面向公众开放

  • 第十七届中国国际现代化铁路技术装备展览会在京开幕

独家策划

推荐阅读
随着科技创新与产业创新深度融合,人工智能技术助力建材行业向更智能、更绿色、更高端方向变革。“通过数字化转型,建材企业可基本实现研发设计数字化、生产运营一体化、客户服务敏捷化,提升决策效率、协同能力和服务水平,快速提升生产力和核心竞争力。
2025-07-09 09:40
记者8日从湖南省自然资源厅获悉,通过创新地质找矿理论,经过长期勘探,湖南省郴州市临武县鸡脚山矿区已探获超大型蚀变花岗岩型锂矿床,共提交锂矿石量4.9亿吨,氧化锂资源量131万吨。
2025-07-09 09:39
根据国家卫生健康委8日晚间发布的通知,今后“颈深淋巴管/结—静脉吻合术”将不得应用于阿尔茨海默病治疗。“颈深淋巴管/结—静脉吻合术”是将颈部深层淋巴管或淋巴结与邻近的静脉进行吻合的手术,近年来部分医疗机构将其用于治疗阿尔茨海默病,引发争议。
2025-07-09 09:39
国家发展改革委、工业和信息化部、国家能源局日前发布《关于开展零碳园区建设的通知》。支持企业对标标杆水平和先进水平,实施节能降碳改造和用能设备更新,鼓励企业建设极致能效工厂、零碳工厂。
2025-07-09 09:37
近日,中国科学院近代物理研究所科研人员依托兰州重离子加速器冷却储存环,精确测量了极缺中子原子核硅-22的质量,实验发现硅-22的质子数14是一个新幻数。
2025-07-09 09:35
国家自然科学基金委员会7日发布消息,自然科学基金委近日制定重大非共识项目试点实施方案,将在2025年启动资助试点。
2025-07-08 09:20
近日,由农业农村部南京农业机械化研究所联合有关单位研制的全自动水稻覆膜插秧技术装备在江苏省靖江市投入使用,开启了我国水稻覆膜插秧新模式。
2025-07-08 09:11
日前,全球领先的720V高压固态钠盐电池,在位于内蒙古自治区鄂尔多斯市达拉特旗的建亨奥能科技有限公司正式量产,标志着中国成为全球第三个实现固态钠盐电池商用量产的国家。
2025-07-08 09:10
从国家自然科学基金委员会获悉,该委日前制定了重大非共识项目试点实施方案,将在2025年启动资助试点。
2025-07-08 05:05
什么是聚乳酸材料,在取代传统石化基塑料材料方面又有着怎样的优势?本期院士科普,让我们跟随中国科学院院士陈学思,一起走进生物降解高分子材料——聚乳酸的奇妙世界。
2025-07-07 14:19
科技的力量正让农民从传统体力劳动者向掌控全局的智慧决策者转变。
2025-07-07 12:33
在未来数十年,熟练使用人工智能很可能成为大多数职业的必备技能,并深刻影响就业市场。作为经济土壤中的“超级肥料”,新技术既带来传统岗位的替代,更促进新兴产业发展,直接创造新的岗位需求。
2025-07-07 09:12
抽水蓄能机组主要由发电电动机和水泵水轮机组成,利用山上山下两个水库进行水能和电能相互转换。
2025-07-07 09:11
回溯歼—10飞机研制历程,从立项、首飞到定型,历经数十载,“三滴油”看起来微不足道,却更加说明创新需要点滴用心、长期耕耘。
2025-07-07 09:10
从微小的夸克到浩瀚的宇宙,从生命的密码到自然的规律,科学这双“慧眼”不断重新定义着“可见”与“可知”的边界。从墓室中的真菌到实验室里的潜在新药,科学家用一套跨学科方法挖掘出这个隐藏在自然界的分子宝藏。
2025-07-07 09:08
在6日开幕的中国科协年会上,2025重大科学问题、工程技术难题和产业技术问题正式发布。这凝聚科技界智慧的30项问题、难题“锁定”了哪些前沿领域的核心赛道?其遴选标准蕴含着怎样的科学智慧?带着这些问题,记者专访了丛斌、邹冰松、王小云、陈坚四位院士。
2025-07-07 03:10
2025全球数字经济大会2日在北京开幕。除收录标准的优势外,东壁全球科技文献数据平台还根据中国科技界与教育界的习惯,对所收录期刊进行了学科分类。
2025-07-04 09:55
超材料是一类具有特殊性质的人造材料,而具有热辐射性能的超材料可以把多余的热量“打包”传递到外界,热辐射超材料可广泛应用于零能耗辐射冷却、建筑节能降温、航天热控等诸多重要领域。
2025-07-04 09:53
中国科学院院士、海南大学生物医学工程学院教授骆清铭团队成功绘制出了小鼠三维脑区和立体定位图谱
2025-07-04 09:52
加载更多