点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:面对“AI说谎”,要走出AI依赖更要全面治理
首页> 法治频道> 法眼观察 > 正文

面对“AI说谎”,要走出AI依赖更要全面治理

来源:工人日报2025-01-07 09:47

  “自2025年起,宁波市将免费乘坐公交车的年龄从70周岁降低至65周岁……”记者使用三款人工智能软件询问“宁波公交年满65岁优惠政策”这一问题,得到的三个回答中仅有一个正确,而上述答案则是假消息。(见1月5日《宁波晚报》)

  生成式AI技术让文本、图片、视频等创作变得轻而易举,然而,AI创作出的作品也存在良莠不齐、低级错误频出等情况,甚至会产生“AI幻觉”,输出大量假消息、内容垃圾。上述关于“宁波公交车年满65岁优惠政策”的“AI说谎”事件,就是典型。现实中,一些AI软件搜索微信公众号、短视频平台中的内容后再将其汇总整理,作为答案交给用户。这些源头信息并非出自权威渠道,其中一些真实度、可信度偏低,而AI软件缺乏辨识信息真伪的能力,其提供的答案往往成为“真实的谎言”。一些AI软件还会迎合、讨好用户,根据用户给出提示信息的变化而随时改变立场和答案,甚至编造虚假内容。

  AI内容垃圾泛滥不仅会误导用户,还可能对AI大模型的未来发展构成实质性威胁。当高质量原始数据急剧减少,AI模型为满足庞大的使用需求,会转而抓取大量数据进行训练,一旦被内容垃圾充斥的低质量数据不断增加,模型输出的数据质量也会有下降风险,进而带来“假作真时真亦假”的可怕后果。

  AI软件已不是第一次被吐槽“一本正经地胡说八道”,这种现象亟待引起警惕与重视。对用户而言,不宜过度依赖AI软件,在查询相关重要信息时,要通过权威渠道获得真实可靠答案;在获取AI生成内容后也要有进一步核实真伪的意识,谨慎扩散转发,避免触碰造谣传谣的法律红线。对AI软件开发商而言,则须持续迭代升级技术,精准筛选可靠信源,提高AI模型的逻辑推理判断、信息甄别能力。监管部门亦应及时出台规范标准,研判用户的反馈和投诉,督促AI平台、软件开发商尽快堵漏、升级,同时严惩相关违法违规行为。

  让信息的生成和获取更便捷、让技术赋能千行百业……这是人们对AI技术的美好憧憬,而动辄被其忽悠的不良体验,显然让这份美好打了折扣。但愿“AI说谎”能尽快成为过去时,让AI技术在社会生活中发挥更多正向作用。(江德斌)

[ 责编:孙满桃 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 中国呼吁推动小堆创新 加强全球核能合作

  • 全球人工智能伦理论坛探讨伦理原则落地实施

独家策划

推荐阅读
据了解,该隧道盾构段长约2.9公里,采用双洞双层结构设计。如此“大块头”的装备,推进系统配置了液压浮动支撑装置,同时还配备了高精度导向系统与管片选型系统,共同保障盾构机轻巧拐弯。
2026-09-16 10:38
当前,一场以可再生能源替代化石能源、以电动汽车替代燃油车为核心的能源革命正席卷全球。车网互动的本质,是将电动汽车从单纯的“负荷”转化为兼具“负荷”与“电源”双重属性的移动储能单元。
2026-09-16 10:38
从持续性看,这些劣质、虚假或错误的信息,不只占据当下受众的注意力,还会变成AI训练的语料,形成自我循环。使清朗网络空间成为可感可及的常态,还要立足于人机协同,同步提升全社会的信息素养和核查效率。
2026-09-16 10:37
近日,南方科技大学地球与空间科学系副教授范斯腾与合作者在火星大气环流及物质输运研究方面取得重要进展。火星上的物质输运通常主要沿着平均环流进行,这与地球根本不同,后者的大气输运主要受涡流主导。
2026-09-16 10:39
艺术家描绘了星团潮汐尾上的脉冲星和接力观测的三组望远镜。此后,随着星团内部动力学演化和银河系潮汐作用持续改变成员轨道,一部分中子星会逐渐进入潮汐尾,最终脱离星团。近一个世纪后,星团潮汐尾上的这颗脉冲星,使巴德开启的两条科学线索在一个具体天体上交汇。
2026-09-16 10:39
今年入夏以来,西北太平洋与南海海域的台风仿佛开启了“流水线”模式,接连生成、登陆,引发社会广泛关注。
2026-09-15 09:35
气候变化可能进一步改变全球极端降雨、洪水和季风过程,短期水文事件对陆地塑料向河流和海洋输送的影响也可能随之变化。厘清这种“脉冲式”污染输送机制,有助于提高全球海洋塑料污染预测的准确性,并为更具针对性的塑料污染治理提供科学依据。
2026-09-15 09:27
错坚河冰崩发生点和下游传输侵蚀通道。研究指出,气候变暖背景下,喜马拉雅山地区的冰冻圈灾害正呈现频次增加与链式放大的复合态势。研究指出,此次冰崩与气候变暖影响下冰裂隙扩张、从冰面向冰内和冰床排水加剧直接相关。
2026-09-15 09:26
记者从国家药监局了解到,我国第三个脑机接口医疗器械标准于14日被批准发布。据悉,为了支持我国脑机接口医疗器械重大创新、满足产业发展急需,国家药监局采用快速程序立项和批准。
2026-09-15 09:23
工科学习与研究强调实践牵引、逻辑思维和科学方法,解决问题更是落脚点——学生可以借助AI,但不能被AI替代。工科学习,不仅是吸收知识的过程,更是应用理论、方法和工具提升学生解决工程实践问题的能力的过程。
2026-09-15 09:25
拍卖会是全国优质种公牛资源展示的舞台。与华西牛同台竞争的,不乏安格斯、西门塔尔等国内外优质牛,可近4届“标王”无一例外都花落华西牛。
2026-09-14 09:26
甲烷的“存在感”远不及二氧化碳,但增温效应不容小觑。有研究认为湖泊贡献了全球自然甲烷排放的75%,也有测算认为占比不足两成。但实际排放多少、国际模型是否适用于我国,长期缺乏本土实测验证。
2026-09-14 09:25
位于今青海省海西州格尔木市南部的布尔汗布达山山体,是当代地质学界、地理学界公认的东昆仑主干,也是青藏公路、青藏铁路的关键地标——昆仑山口所在地。
2026-09-14 09:14
近日,记者从吉林大学获悉,该校生物考古实验室在全球首次完成已灭绝古生物奥氏马的完整形态复原。
2026-09-14 09:15
2026年国家网络安全宣传周期间,光明网联合科普中国推出AI科技伦理系列科普视频,引导公众理性认知技术逻辑,秉持算法向善理念,共建网络安全生态。
2026-09-14 09:15
实现人的自由全面发展,是人工智能伦理治理的逻辑起点与价值原点。
2026-09-11 08:42
2019年,一场生态修复让一个古人类遗址——云南蝙蝠洞遗址浮出水面。之后,多支科研团队开展跨学科综合研究,让丹尼索瓦人在中国西南腹地缺失的关键地理拼图得以补充。
2026-09-11 08:51
在位于内蒙古自治区呼和浩特市和林格尔新区的人才创新谷,工作人员操作和林格尔数据中心集群多云算力资源监测与调度平台,实时监测、动态调度算力资源。
2026-09-11 09:10
人类全基因组约30亿个碱基对中,仅1%—2%编码蛋白质,其余包含不编码的“垃圾DNA”及控制基因表达时间、位置和强度的调控序列。
2026-09-11 09:07
8月也是非极地海域有记录以来最温暖的一个月。海表温度峰值达21.1℃,是有观测以来最高的海表温度。
2026-09-11 08:51
加载更多