点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:面对“AI说谎”,要走出AI依赖更要全面治理
首页> 法治频道> 法眼观察 > 正文

面对“AI说谎”,要走出AI依赖更要全面治理

来源:工人日报2025-01-07 09:47

  “自2025年起,宁波市将免费乘坐公交车的年龄从70周岁降低至65周岁……”记者使用三款人工智能软件询问“宁波公交年满65岁优惠政策”这一问题,得到的三个回答中仅有一个正确,而上述答案则是假消息。(见1月5日《宁波晚报》)

  生成式AI技术让文本、图片、视频等创作变得轻而易举,然而,AI创作出的作品也存在良莠不齐、低级错误频出等情况,甚至会产生“AI幻觉”,输出大量假消息、内容垃圾。上述关于“宁波公交车年满65岁优惠政策”的“AI说谎”事件,就是典型。现实中,一些AI软件搜索微信公众号、短视频平台中的内容后再将其汇总整理,作为答案交给用户。这些源头信息并非出自权威渠道,其中一些真实度、可信度偏低,而AI软件缺乏辨识信息真伪的能力,其提供的答案往往成为“真实的谎言”。一些AI软件还会迎合、讨好用户,根据用户给出提示信息的变化而随时改变立场和答案,甚至编造虚假内容。

  AI内容垃圾泛滥不仅会误导用户,还可能对AI大模型的未来发展构成实质性威胁。当高质量原始数据急剧减少,AI模型为满足庞大的使用需求,会转而抓取大量数据进行训练,一旦被内容垃圾充斥的低质量数据不断增加,模型输出的数据质量也会有下降风险,进而带来“假作真时真亦假”的可怕后果。

  AI软件已不是第一次被吐槽“一本正经地胡说八道”,这种现象亟待引起警惕与重视。对用户而言,不宜过度依赖AI软件,在查询相关重要信息时,要通过权威渠道获得真实可靠答案;在获取AI生成内容后也要有进一步核实真伪的意识,谨慎扩散转发,避免触碰造谣传谣的法律红线。对AI软件开发商而言,则须持续迭代升级技术,精准筛选可靠信源,提高AI模型的逻辑推理判断、信息甄别能力。监管部门亦应及时出台规范标准,研判用户的反馈和投诉,督促AI平台、软件开发商尽快堵漏、升级,同时严惩相关违法违规行为。

  让信息的生成和获取更便捷、让技术赋能千行百业……这是人们对AI技术的美好憧憬,而动辄被其忽悠的不良体验,显然让这份美好打了折扣。但愿“AI说谎”能尽快成为过去时,让AI技术在社会生活中发挥更多正向作用。(江德斌)

[ 责编:孙满桃 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 第48届世界技能大赛志愿者宣誓上岗

  • 第三届上海国际光影节开幕

独家策划

推荐阅读
学术专著《医学传播学通论》由上海科技教育出版社正式出版。
2026-09-18 20:52
近期,我国北方多地进入秋季花粉高峰期。秋季致敏花粉主要来自蒿属、葎草属、豚草属、藜科、苋科等草本植物。这些植物的花并不显眼,却能产生数量庞大的花粉。
2026-09-18 10:20
一个月球上新形成的陨石坑,让研究人员有机会了解这颗离我们最近的天体的复杂地质构造。该陨石坑由发生在2024年的一次小行星撞击形成,直径约为222米,是迄今人们亲眼观测到形成过程的最大陨石坑。
2026-09-18 10:24
近日,依托中国天眼(FAST)探测数据,中国科学院国家天文台研究员韩金林领衔的FAST银道面脉冲星巡天团队发现一个轨道周期极短、目前已知总质量最轻的双中子星系统。
2026-09-18 10:23
9月17日,海南首台“华龙一号”核电机组——华能昌江核电二期项目3号机组正式投产商运。
2026-09-18 10:18
近日,农业农村部印发《全国种植业发展“十五五”规划》,明确到2030年,我国粮食综合生产能力稳步提升,守牢谷物基本自给、口粮绝对安全底线。
2026-09-18 10:17
揭秘极限制造背后的“宁德品质”
2026-09-17 11:48
在中国工程院院士张献龙带领下,华中农业大学教授王茂军课题组发现“三维基因组结构是传统DNA序列变异之外可供作物改良利用的新型靶标”,并在此基础上破译了棉花遗传的“空间折叠密码”,为拓展现有栽培棉的遗传多样性提供了新方向。
2026-09-17 09:41
近日,陈松林团队成功构建全球首个海洋硬骨鱼类综合功能与进化基因组数据库MFDB,首次系统整合了来自85种海洋硬骨鱼的89个染色体水平基因组数据。
2026-09-17 09:42
恰逢铜基高温超导发现40周年之际,复旦大学教授张远波、阮威团队与中国科学院院士、中国科学技术大学教授陈仙辉团队合作,成功制备出只含一个铜氧面的铜基高温超导体。
2026-09-17 09:40
依托中国天眼FAST超高探测灵敏度,国家天文台韩金林研究员领衔的FAST银道面脉冲星巡天团队取得重要发现,捕获一颗处于紧致轨道的双中子星系统PSRJ1856-0039。
2026-09-17 09:35
地学界认为,这种全球尺度的巨变,很可能归因于超大陆旋回。但是,是否真的存在超大陆?近日,中国地质科学院地质研究所王涛团队发表成果,证实了超大陆的存在,并将其命名为“大冈瓦纳”。
2026-09-17 09:37
日前,西湖大学未来产业研究中心周南嘉、姚远联合西湖大学医学院陶亮团队,设计出全新材料与3D打印机制,解锁了植入式全水凝胶生物电子器件。
2026-09-17 09:32
据了解,该隧道盾构段长约2.9公里,采用双洞双层结构设计。如此“大块头”的装备,推进系统配置了液压浮动支撑装置,同时还配备了高精度导向系统与管片选型系统,共同保障盾构机轻巧拐弯。
2026-09-16 10:38
当前,一场以可再生能源替代化石能源、以电动汽车替代燃油车为核心的能源革命正席卷全球。车网互动的本质,是将电动汽车从单纯的“负荷”转化为兼具“负荷”与“电源”双重属性的移动储能单元。
2026-09-16 10:38
从持续性看,这些劣质、虚假或错误的信息,不只占据当下受众的注意力,还会变成AI训练的语料,形成自我循环。使清朗网络空间成为可感可及的常态,还要立足于人机协同,同步提升全社会的信息素养和核查效率。
2026-09-16 10:37
近日,南方科技大学地球与空间科学系副教授范斯腾与合作者在火星大气环流及物质输运研究方面取得重要进展。火星上的物质输运通常主要沿着平均环流进行,这与地球根本不同,后者的大气输运主要受涡流主导。
2026-09-16 10:39
艺术家描绘了星团潮汐尾上的脉冲星和接力观测的三组望远镜。此后,随着星团内部动力学演化和银河系潮汐作用持续改变成员轨道,一部分中子星会逐渐进入潮汐尾,最终脱离星团。近一个世纪后,星团潮汐尾上的这颗脉冲星,使巴德开启的两条科学线索在一个具体天体上交汇。
2026-09-16 10:39
今年入夏以来,西北太平洋与南海海域的台风仿佛开启了“流水线”模式,接连生成、登陆,引发社会广泛关注。
2026-09-15 09:35
气候变化可能进一步改变全球极端降雨、洪水和季风过程,短期水文事件对陆地塑料向河流和海洋输送的影响也可能随之变化。厘清这种“脉冲式”污染输送机制,有助于提高全球海洋塑料污染预测的准确性,并为更具针对性的塑料污染治理提供科学依据。
2026-09-15 09:27
加载更多