点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:面对“AI说谎”,要走出AI依赖更要全面治理
首页> 法治频道> 法眼观察 > 正文

面对“AI说谎”,要走出AI依赖更要全面治理

来源:工人日报2025-01-07 09:47

  “自2025年起,宁波市将免费乘坐公交车的年龄从70周岁降低至65周岁……”记者使用三款人工智能软件询问“宁波公交年满65岁优惠政策”这一问题,得到的三个回答中仅有一个正确,而上述答案则是假消息。(见1月5日《宁波晚报》)

  生成式AI技术让文本、图片、视频等创作变得轻而易举,然而,AI创作出的作品也存在良莠不齐、低级错误频出等情况,甚至会产生“AI幻觉”,输出大量假消息、内容垃圾。上述关于“宁波公交车年满65岁优惠政策”的“AI说谎”事件,就是典型。现实中,一些AI软件搜索微信公众号、短视频平台中的内容后再将其汇总整理,作为答案交给用户。这些源头信息并非出自权威渠道,其中一些真实度、可信度偏低,而AI软件缺乏辨识信息真伪的能力,其提供的答案往往成为“真实的谎言”。一些AI软件还会迎合、讨好用户,根据用户给出提示信息的变化而随时改变立场和答案,甚至编造虚假内容。

  AI内容垃圾泛滥不仅会误导用户,还可能对AI大模型的未来发展构成实质性威胁。当高质量原始数据急剧减少,AI模型为满足庞大的使用需求,会转而抓取大量数据进行训练,一旦被内容垃圾充斥的低质量数据不断增加,模型输出的数据质量也会有下降风险,进而带来“假作真时真亦假”的可怕后果。

  AI软件已不是第一次被吐槽“一本正经地胡说八道”,这种现象亟待引起警惕与重视。对用户而言,不宜过度依赖AI软件,在查询相关重要信息时,要通过权威渠道获得真实可靠答案;在获取AI生成内容后也要有进一步核实真伪的意识,谨慎扩散转发,避免触碰造谣传谣的法律红线。对AI软件开发商而言,则须持续迭代升级技术,精准筛选可靠信源,提高AI模型的逻辑推理判断、信息甄别能力。监管部门亦应及时出台规范标准,研判用户的反馈和投诉,督促AI平台、软件开发商尽快堵漏、升级,同时严惩相关违法违规行为。

  让信息的生成和获取更便捷、让技术赋能千行百业……这是人们对AI技术的美好憧憬,而动辄被其忽悠的不良体验,显然让这份美好打了折扣。但愿“AI说谎”能尽快成为过去时,让AI技术在社会生活中发挥更多正向作用。(江德斌)

[ 责编:孙满桃 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 平陆运河建设有序推进

  • 山东青岛:大赛临近 赶制旗帜

独家策划

推荐阅读
中国科学技术大学潘建伟、陆朝阳、张强、刘乃乐等组成的研究团队联合国内多家科研单位,成功研制出1024个量子压缩态输入、8176模式的可编程量子计算原型机“九章四号”。
2026-05-14 09:49
当前,全球科技创新格局深度调整,科技成果转化已成为衡量国家创新体系效能的关键标尺。
2026-05-14 03:05
中国人对天宇的想象,自古便深沉而浪漫。在东华大学,科研人员将来自38万公里外的月球土壤化为一缕缕兼具柔性与强度的星际之丝。
2026-05-14 02:40
近日,中国科学院化学研究所研究员乔燕、王树团队联合国内外科学家,首次实现人工细胞的形态与功能不对称分裂,为理解类生命功能涌现和原始细胞形成提供了新路径。
2026-05-14 02:40
近日,国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》(以下简称《实施意见》),明确支持探索智能体在城市规划、建设与治理环节的规范应用,同时将智能体安全、可靠、可信作为产业发展的底线要求。
2026-05-14 02:25
“请帮我检索南京附近适合亲子旅游的路线”“我想买个电热水器,请帮我推荐几款实用的”……如今,越来越多的消费者开始将AI(人工智能)当作“随身消费参谋”。从规划旅游路线到挑选酒店民宿,再到日常购物选择,很多消费者习惯先问一问AI工具,再做消费决策。
2026-05-13 09:30
在这一过程中,颠覆性技术正由潜在变量转变为关键变量,成为重塑产业结构、重构竞争格局的重要力量。颠覆性技术具有“路径替代”特征,能够深刻改变产业格局。综上所述,未来产业发展呈现出“技术跃迁—场景转化—工程化扩张”的基本路径。
2026-05-13 09:22
搭载单核180个计算比特自主超导量子芯片的“本源悟空-180”量子计算机已上线运行,开始接收全球量子计算任务。
2026-05-13 02:30
2018年,厦大教师吴彩胜带着一群厦大青年来到这里。他们发现,当地的农副产品虽然产量不小,却因缺乏检测条件,面临“好产品难认证”的困境。
2026-05-13 02:20
浦江潮涌,惠风和畅。5月12日,第十二届亚太经合组织(APEC)食品安全合作论坛(FSCF)会议在上海举行。
2026-05-13 02:25
今年5月12日是第18个全国防灾减灾日,主题是“人人讲安全、个个会应急——提高防灾减灾救灾能力”。
2026-05-12 02:40
习近平总书记在加强基础研究座谈会上强调,基础研究是整个科学体系的源头,是所有技术问题的总机关。
2026-05-12 02:40
当前,我国正处于加快建设教育强国的关键时期。教育作为强国建设、民族复兴之基,战略地位更加凸显,迎来了前所未有的发展机遇
2026-05-12 02:40
十年来,北京大学考古文博学院坚守初心、守正创新,聚焦学科、学术、话语、育人四大体系一体化建设,并以实践创新贯穿始终,让四者协同赋能
2026-05-12 02:40
回顾人类社会发展史可以发现,任何一个国家的崛起都伴随着思想文化的兴盛和知识体系的自主建构。
2026-05-12 02:40
搭载AI创作PPT、AI绘画设计等功能的智能4G无线语音鼠标,具备清洗、离心、分选、培养等功能的全自动细胞制备一体机,覆盖多层级智慧生活场景的AI智能家居……
2026-05-12 02:40
据《自然》报道,联合国正在考虑设立31项新指标,以“补充并超越”全球衡量经济增长的主要指标——国内生产总值(GDP)。古特雷斯当天在美国纽约联合国总部举行的启动仪式上发表讲话,称该报告“迈出了纠正衡量进展方面长期存在的盲点的里程碑式的一步”。
2026-05-11 08:59
在中国科学院空间科学(二期)战略性先导科技专项的统筹布局下,依托中国科学院建制化优势,院内多家单位协同攻坚,成功完成卫星研制工作。接下来,中国科学院计划通过天地联合观测,深入开展有组织、体系化的前沿研究工作,解决一批国际公认的科学难题。
2026-05-11 08:58
面对质疑,路战远和团队天天扎进地里,一边在示范田讲技术,一边用实打实的产量说话。为了把技术讲清楚,路战远团队还自掏腰包,筹集经费40多万元,设计编撰了一套《保护性耕作技术·蒙汉对照》科普画册,把复杂的技术画成生动的漫画,让17万户农牧民看着漫画、学习技术。
2026-05-11 02:45
日前从中国科学院西北高原生物研究所获悉,全球唯一聚焦高寒、高海拔、强紫外特殊生境的专业化种质资源平台——青藏高原生物种质资源库
2026-05-11 03:15
加载更多