点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:面对“AI说谎”,要走出AI依赖更要全面治理
首页> 法治频道> 法眼观察 > 正文

面对“AI说谎”,要走出AI依赖更要全面治理

来源:工人日报2025-01-07 09:47

  “自2025年起,宁波市将免费乘坐公交车的年龄从70周岁降低至65周岁……”记者使用三款人工智能软件询问“宁波公交年满65岁优惠政策”这一问题,得到的三个回答中仅有一个正确,而上述答案则是假消息。(见1月5日《宁波晚报》)

  生成式AI技术让文本、图片、视频等创作变得轻而易举,然而,AI创作出的作品也存在良莠不齐、低级错误频出等情况,甚至会产生“AI幻觉”,输出大量假消息、内容垃圾。上述关于“宁波公交车年满65岁优惠政策”的“AI说谎”事件,就是典型。现实中,一些AI软件搜索微信公众号、短视频平台中的内容后再将其汇总整理,作为答案交给用户。这些源头信息并非出自权威渠道,其中一些真实度、可信度偏低,而AI软件缺乏辨识信息真伪的能力,其提供的答案往往成为“真实的谎言”。一些AI软件还会迎合、讨好用户,根据用户给出提示信息的变化而随时改变立场和答案,甚至编造虚假内容。

  AI内容垃圾泛滥不仅会误导用户,还可能对AI大模型的未来发展构成实质性威胁。当高质量原始数据急剧减少,AI模型为满足庞大的使用需求,会转而抓取大量数据进行训练,一旦被内容垃圾充斥的低质量数据不断增加,模型输出的数据质量也会有下降风险,进而带来“假作真时真亦假”的可怕后果。

  AI软件已不是第一次被吐槽“一本正经地胡说八道”,这种现象亟待引起警惕与重视。对用户而言,不宜过度依赖AI软件,在查询相关重要信息时,要通过权威渠道获得真实可靠答案;在获取AI生成内容后也要有进一步核实真伪的意识,谨慎扩散转发,避免触碰造谣传谣的法律红线。对AI软件开发商而言,则须持续迭代升级技术,精准筛选可靠信源,提高AI模型的逻辑推理判断、信息甄别能力。监管部门亦应及时出台规范标准,研判用户的反馈和投诉,督促AI平台、软件开发商尽快堵漏、升级,同时严惩相关违法违规行为。

  让信息的生成和获取更便捷、让技术赋能千行百业……这是人们对AI技术的美好憧憬,而动辄被其忽悠的不良体验,显然让这份美好打了折扣。但愿“AI说谎”能尽快成为过去时,让AI技术在社会生活中发挥更多正向作用。(江德斌)

[ 责编:孙满桃 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 习近平会见日本首相高市早苗

  • 习近平会见泰国总理阿努廷

独家策划

推荐阅读
HPV疫苗自2025年11月10日正式纳入国家免疫规划,2011年11月10日后出生的满13周岁女孩可以免费接种双价HPV疫苗。
2025-10-31 10:16
近日,飓风“梅利莎”横扫加勒比地区,成为近年来影响该地区最猛烈的飓风之一。
2025-10-31 10:14
10月30日下午,在中国科学院大连化学物理研究所(以下简称大连化物所),得知同事张洪章即将到“太空”出差的好消息,科研人员纷纷送上祝福:“好好照顾自己,好好完成任务。
2025-10-31 10:02
据新一期《天体物理学快报》报道,LIGO-Virgo-KAGRA国际合作组织宣布,他们在去年10月和11月探测到两起极为特殊的、由黑洞并合产生的引力波事件,分别命名为GW241011和GW241110。
2025-10-31 09:59
记者从生态环境部获悉:今年前三季度,我国环境空气质量和地表水环境质量总体持续改善。从重点区域来看,京津冀及周边地区“2+36”城市PM2.5平均浓度为33.0微克/立方米,同比下降15.6%;平均优良天数比例为73.5%,同比上升8.5个百分点。
2025-10-31 09:57
执行神舟二十一号载人飞行任务的航天员乘组由张陆、武飞、张洪章3名航天员组成。张陆担任指令长。
2025-10-30 13:03
记者10月29日从国家统计局获悉,根据国家统计局社科文司《中国创新指数研究》课题组测算,2024年中国创新指数为174.2(以2015年为100),比上年增长5.3%。
2025-10-30 10:15
绿氨作为绿氢核心载体与低碳原料,正成为钢铁、化工等高耗能行业实现深度脱碳的关键路径。
2025-10-30 10:12
记者10月29日从水利部获悉,由水利部制定的国家标准《幸福河湖评价导则第1部分:流域面积3000km2以下(含)河流》经国家标准化管理委员会批准正式发布,将于2026年5月1日起全面实施。
2025-10-30 10:06
截至2025年3月,全国已建成66处国家级智能化示范煤矿、200余处省级示范煤矿,拥有1806个智能化采掘工作面,智能开采产能占比超过50%,1.6万余个固定岗位实现无人值守。
2025-10-30 10:04
为全面反映我国在应对气候变化领域的政策行动和工作情况,29日,生态环境部发布《中国应对气候变化的政策与行动2025年度报告》并举行新闻发布会。
2025-10-30 10:00
亚太经合组织(APEC)第三十二次领导人非正式会议将于10月31日至11月1日在韩国庆州举行。
2025-10-29 10:12
近日,中国科学院金属研究所戎利建研究员团队利用自主研发的纯净化制备技术,成功实现了高纯净吨级哈氏合金C276的工业化生产。
2025-10-29 09:36
截至今年6月,我国生成式人工智能用户规模达5.15亿人,普及率为36.5%,仅上半年,用户规模就增长了2.66亿人。
2025-10-29 09:35
当掌勺者从有体温的师傅变成由代码驱动的机器,以人和环境为核心的传统监管模式也面临着新情况。
2025-10-29 09:35
今年年产量首次突破150万吨,创历史同期最高水平,这标志着我国页岩油开发从技术探索迈向规模化、稳定产出的新阶段。
2025-10-29 09:33
相信很多人都曾有过这样的体验:临睡时刻,总觉得口干舌燥,害怕会频繁起夜,但又忍不住想大口喝水。每当此时,一些人不免会担心,是不是身体出什么问题了?
2025-10-29 09:32
10月28日,《中共中央关于制定国民经济和社会发展第十五个五年规划的建议》全文发布。
2025-10-29 09:31
资料图片  深秋,去往宁夏吴忠市盐池县马儿庄村的乡道上,簌簌黄叶生出几分萧瑟。张文攀摄/光明图片  如今,马儿庄村有滩羊养殖专业合作社8家,全村滩羊年饲养量5万只,远高于封山禁牧前。
2025-10-28 08:57
培养什么人、怎样培养人、为谁培养人,是教育的根本问题,也是摆在新时代医学教育面前的重要课题。“卓越”与“有温度”相辅相成,互相支撑,共同构筑新时代医学人才的素养基石。
2025-10-28 08:55
加载更多