点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:面对“AI说谎”,要走出AI依赖更要全面治理
首页> 法治频道> 法眼观察 > 正文

面对“AI说谎”,要走出AI依赖更要全面治理

来源:工人日报2025-01-07 09:47

  “自2025年起,宁波市将免费乘坐公交车的年龄从70周岁降低至65周岁……”记者使用三款人工智能软件询问“宁波公交年满65岁优惠政策”这一问题,得到的三个回答中仅有一个正确,而上述答案则是假消息。(见1月5日《宁波晚报》)

  生成式AI技术让文本、图片、视频等创作变得轻而易举,然而,AI创作出的作品也存在良莠不齐、低级错误频出等情况,甚至会产生“AI幻觉”,输出大量假消息、内容垃圾。上述关于“宁波公交车年满65岁优惠政策”的“AI说谎”事件,就是典型。现实中,一些AI软件搜索微信公众号、短视频平台中的内容后再将其汇总整理,作为答案交给用户。这些源头信息并非出自权威渠道,其中一些真实度、可信度偏低,而AI软件缺乏辨识信息真伪的能力,其提供的答案往往成为“真实的谎言”。一些AI软件还会迎合、讨好用户,根据用户给出提示信息的变化而随时改变立场和答案,甚至编造虚假内容。

  AI内容垃圾泛滥不仅会误导用户,还可能对AI大模型的未来发展构成实质性威胁。当高质量原始数据急剧减少,AI模型为满足庞大的使用需求,会转而抓取大量数据进行训练,一旦被内容垃圾充斥的低质量数据不断增加,模型输出的数据质量也会有下降风险,进而带来“假作真时真亦假”的可怕后果。

  AI软件已不是第一次被吐槽“一本正经地胡说八道”,这种现象亟待引起警惕与重视。对用户而言,不宜过度依赖AI软件,在查询相关重要信息时,要通过权威渠道获得真实可靠答案;在获取AI生成内容后也要有进一步核实真伪的意识,谨慎扩散转发,避免触碰造谣传谣的法律红线。对AI软件开发商而言,则须持续迭代升级技术,精准筛选可靠信源,提高AI模型的逻辑推理判断、信息甄别能力。监管部门亦应及时出台规范标准,研判用户的反馈和投诉,督促AI平台、软件开发商尽快堵漏、升级,同时严惩相关违法违规行为。

  让信息的生成和获取更便捷、让技术赋能千行百业……这是人们对AI技术的美好憧憬,而动辄被其忽悠的不良体验,显然让这份美好打了折扣。但愿“AI说谎”能尽快成为过去时,让AI技术在社会生活中发挥更多正向作用。(江德斌)

[ 责编:孙满桃 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 贵平高速公路通车在即

  • 西安:“大唐之旅”焕新升级

独家策划

推荐阅读
传统探查手段在如此深的地下几乎“失明”,无法精准捕捉地质特征。这项工程的成功实施,填补了我国超深埋输水隧洞注浆治理技术的空白,标志着我国在深埋地下工程地质探查与注浆治理领域达到国际领先水平。
2025-12-25 09:42
24日上午,随着最后一方混凝土浇筑完成,宁波舟山港六横公路大桥二期工程——青龙门特大桥双主塔成功封顶。青龙门特大桥位于浙江舟山,横跨青龙门水道,连接宁波梅山岛与舟山佛渡岛。
2025-12-25 09:45
24日,我国最大超深凝析气田——中国石油塔里木油田博孜—大北气田天然气年产量突破100亿立方米,生产凝析油91.89万吨。为攻克上述难题,塔里木油田持续攻关,推动气田开发实现从深层向超深层、从高压向超高压、从优质储层向复杂储层的三大跨越。
2025-12-25 09:44
前不久,“科学家预测恐龙复活有望实现”的话题冲上热搜,引起舆论关注。
2025-12-25 10:20
一项研究显示,科学家发现新物种的速度比以往任何时候都快——每年发现的新物种超过1.6万个,并且这一趋势没有放缓的迹象。除了医学,许多物种的适应特性还可以启发人类的发明创造,例如模仿壁虎垂直爬墙的“超强黏附”脚的材料。
2025-12-25 09:47
”这是中国科学院院士、北京航空航天大学研究生院原副院长高为炳生前在自述中留下的一句话。而在高为炳的学生看来,他之所以能在短时间内取得那么多成绩,根源就在于几十年的厚积薄发。
2025-12-25 09:46
昆虫性信息素相当于昆虫之间的“气味语言”,具有靶向性强、用量少、对环境友好等优点,是当前绿色植保的重要策略之一。
2025-12-24 10:05
作为中国科学院“十四五”重大项目之一,2022年7月27日,由中国科学院力学研究所(以下简称力学所)抓总研制的“力箭一号”火箭首飞成功。
2025-12-24 09:59
中国科学技术大学(以下简称中国科大)教授潘建伟、朱晓波、彭承志和副教授陈福升等基于超导量子处理器“祖冲之3.2号”,在码距为7的表面码上实现了低于纠错阈值的量子纠错,演示了逻辑错误率随码距增加而显著下降。
2025-12-24 09:58
为加快推进知识产权强国建设,日前,国家知识产权局会同有关部门编制完成《知识产权强国建设发展报告(2025年)》。
2025-12-24 09:57
国家能源局23日发布11月全国电动汽车充电设施数据。
2025-12-24 09:57
我国自主设计建造的全球首制甲醇双燃料动力智能超大型油轮“凯拓”轮22日在辽宁大连成功交付。
2025-12-23 09:54
中国科学院大连化学物理研究所副研究员方光宗、研究员潘秀莲团队在乙炔氢氯化制氯乙烯研究领域取得新进展。
2025-12-23 09:53
《自然》杂志网站12月18日刊发文章,展望了2026年值得关注的科学事件,涉及人工智能(AI)、基因编辑和太空探索等多个领域。中国计划于2026年发射嫦娥七号探测器,目标是在布满岩石与陨石坑、着陆难度极大的月球南极附近着陆。
2025-12-23 09:52
9月30日,中国科学院上海应用物理研究所原所长徐洪杰去世半个月后,一场以追思和战略研讨为主题的“务虚会”在研究所召开。
2025-12-23 09:47
种子是“农业芯片”。精准设计育种这盘大棋,在科技工作者手中,正下得风生水起。
2025-12-23 03:05
12月17日,《自然》发布2025年值得关注的七大暖心科学故事,从基因编辑的多项突破,到传染病的快速防控,再到政策层面的重大胜利,都让人们为这一年感到高兴。
2025-12-22 09:57
记者21日从中国科学院大连化学物理研究所获悉,该所研究员李先锋团队在溴基多电子转移液流电池新体系研究方面取得新进展。
2025-12-22 09:56
微波加热,是维持“人造太阳”——全超导托卡马克核聚变实验装置(EAST)上亿摄氏度高温的核心技术之一。
2025-12-22 09:52
12月19日,《科学》在线发表了这项由中国科学家领衔的重要研究成果。
2025-12-22 09:50
加载更多