点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:面对“AI说谎”,要走出AI依赖更要全面治理
首页> 法治频道> 法眼观察 > 正文

面对“AI说谎”,要走出AI依赖更要全面治理

来源:工人日报2025-01-07 09:47

  “自2025年起,宁波市将免费乘坐公交车的年龄从70周岁降低至65周岁……”记者使用三款人工智能软件询问“宁波公交年满65岁优惠政策”这一问题,得到的三个回答中仅有一个正确,而上述答案则是假消息。(见1月5日《宁波晚报》)

  生成式AI技术让文本、图片、视频等创作变得轻而易举,然而,AI创作出的作品也存在良莠不齐、低级错误频出等情况,甚至会产生“AI幻觉”,输出大量假消息、内容垃圾。上述关于“宁波公交车年满65岁优惠政策”的“AI说谎”事件,就是典型。现实中,一些AI软件搜索微信公众号、短视频平台中的内容后再将其汇总整理,作为答案交给用户。这些源头信息并非出自权威渠道,其中一些真实度、可信度偏低,而AI软件缺乏辨识信息真伪的能力,其提供的答案往往成为“真实的谎言”。一些AI软件还会迎合、讨好用户,根据用户给出提示信息的变化而随时改变立场和答案,甚至编造虚假内容。

  AI内容垃圾泛滥不仅会误导用户,还可能对AI大模型的未来发展构成实质性威胁。当高质量原始数据急剧减少,AI模型为满足庞大的使用需求,会转而抓取大量数据进行训练,一旦被内容垃圾充斥的低质量数据不断增加,模型输出的数据质量也会有下降风险,进而带来“假作真时真亦假”的可怕后果。

  AI软件已不是第一次被吐槽“一本正经地胡说八道”,这种现象亟待引起警惕与重视。对用户而言,不宜过度依赖AI软件,在查询相关重要信息时,要通过权威渠道获得真实可靠答案;在获取AI生成内容后也要有进一步核实真伪的意识,谨慎扩散转发,避免触碰造谣传谣的法律红线。对AI软件开发商而言,则须持续迭代升级技术,精准筛选可靠信源,提高AI模型的逻辑推理判断、信息甄别能力。监管部门亦应及时出台规范标准,研判用户的反馈和投诉,督促AI平台、软件开发商尽快堵漏、升级,同时严惩相关违法违规行为。

  让信息的生成和获取更便捷、让技术赋能千行百业……这是人们对AI技术的美好憧憬,而动辄被其忽悠的不良体验,显然让这份美好打了折扣。但愿“AI说谎”能尽快成为过去时,让AI技术在社会生活中发挥更多正向作用。(江德斌)

[ 责编:孙满桃 ]
阅读剩余全文()

相关阅读

您此时的心情

光明云投
新闻表情排行 日/周
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 中朝新鸭绿江大桥开通仪式举行

  • 一箭十星 朱雀二号改进型遥四运载火箭发射成功

独家策划

推荐阅读
“戈壁荒滩老风口,飞沙走石雁不留。托里县老风口蝶变的三部曲,为生态脆弱地区推动高质量发展、树立和践行正确政绩观,提供了深刻启示。树立和践行正确政绩观,就要算大账、算长远账、算整体账,既做显功、也做潜功,把生态优势转化为发展优势、民生福祉。
2026-10-15 09:51
常压下,水到0℃会结冰,这就是人们熟悉的相变,0℃即是相变的临界点。两篇论文的共同通讯作者、宁波东方理工大学助理教授余雪佳,把这个难题比作“在沸水中完好保存一件冰雕”。
2026-10-15 09:49
长久以来,古生物学界与教科书普遍认为琥珀皆源自种子植物(裸子或被子植物),最古老的确切记录定格在美国约3.2亿年前的石炭纪晚期。
2026-10-15 09:48
在芯片制造、航空发动机等高端硬核制造领域,技术迭代具有长周期、累积性、阶梯式特征,遵循循序渐进、层层突破的线性攻关规律。新征程上,持续深耕创新生态建设、迭代升级现代化创新体系,必能培育形成扎根中国、联通世界、内生增长、开放共生的创新新格局。
2026-10-15 09:46
受困于“小散弱”的格局,长期以来,我国科技期刊在国际学术传播体系中缺少属于自己的“拳头产品”与平台话语权——“在精品化发展方面,经过70余年积淀,我国已形成以《中国科学》《科学通报》《国家科学评论》等刊群为代表的高水平期刊方阵。
2026-10-15 09:45
AI时代,科研的“源头活水”是什么?不是算力,不是数据,而是人对未知世界的好奇与追问。
2026-10-14 11:28
截至8月末,三家基础电信企业的固定互联网宽带接入用户总数7.04亿户,比上年末净增1365万户;三家基础电信企业及中国广电的移动电话用户总数18.49亿户,其中5G移动电话用户13.11亿户。
2026-10-14 09:34
自然资源部会同国家发展改革委12日发布《矿产资源目录》。自然资源部矿产资源保护监督司负责人表示,矿产资源目录是矿产资源管理制度的重要基础,是制定矿产资源规划、实施矿业权管理、规范矿产资源勘查开采行为、征缴矿产资源税费、制定产业政策等工作的依据。
2026-10-14 09:40
与共康村相邻的巴达村,是第一批参与试种的村,也是西藏首个高海拔水稻实测亩产破千斤的村子,村民把“海拔3175米种水稻”写进村史。一粒水稻种子,不只改写了亩产数字,更改变了“西藏水稻只能在察隅、墨脱海拔1500米以下种植”的历史,为高原水稻纳入地方主粮增添可能。
2026-10-14 09:41
如今,AI正改变许多行业的底层逻辑,固守单一思维模式将面临严峻挑战,文理兼备、跨界融合才是稀缺能力——既有理科生的技术思维和逻辑能力,又有文科生的人文洞察和情感素养。未来更有竞争力的,可能不是最典型的文科生或理科生,而是既有专业深度,又能跨学科解决问题的人。
2026-10-14 09:48
不久前,在海南三亚崖州湾科技城,一场名为“青年π”的海洋主题对话临海开讲。高频下潜试出的不只有装备可靠性,也不断刷新人们对深海的认识。同一园区,由哈尔滨工程大学南海研究院孵化的海南水之声海洋科技有限公司,正给海洋装备搭水下“Wi-Fi”。
2026-10-14 09:49
目前各地正在开展流感疫苗接种。今年开始,国家对农村地区“一老一小”重点人群实施免费接种等相关支持性政策。为什么要接种流感疫苗?去年接种过,今年是否还需要接种?到哪里接种?
2026-10-13 10:03
我国城市盲道总里程以万公里计,公共场所无障碍设施持续铺开。数字世界的“盲道”畅通起来。精神文化的“视界”也在扩大。中国传媒大学师生发起的“光明影院”项目,近十年间每年制作上百部无障碍电影,把电影送到视障朋友耳边,今年还走进联合国教科文组织总部举办专场放映。
2026-10-13 10:01
记者近期从中国互联网络信息中心获悉:截至今年上半年,我国生成式人工智能用户规模超7亿人,普及率超50%。
2026-10-13 09:58
高校辅导员队伍建设要把握高校思政工作的“变”与“不变”,着眼于增强辅导员对人工智能的趋势感知力、技术理解力、实践创新力和伦理判断力,将政策理念、形势挑战、技术发展、实践案例相结合,精心设计课程,切实增强人工智能赋能质效,全时空陪伴“数字一代”。
2026-10-13 09:57
今年10月12日,是我国首批国家公园设立五周年。五年来,各国家公园统筹推进山水林田湖草沙一体化保护和系统治理,实施栖息地修复、生态廊道连通、人为活动管控等系列举措,区域生态本底持续巩固。
2026-10-13 09:51
巴山蜀水,苍茫山林间,大熊猫安然栖息,川金丝猴、珙桐等同域珍稀动植物共生于此。多年前,栖息地面积缩减一度令大熊猫濒临灭绝;圈养大熊猫也长期面临繁殖难、育幼难等难题,维系大熊猫种群数量极为不易。
2026-10-12 10:09
近年来,河北省唐山市丰南区积极调整农业结构,引导农户发展特色农业,通过“南果北移”“南苗北育”模式,引进优良甘蔗品种种植,促进农业增效农民增收。图为10月11日,唐山市丰南区黄各庄镇宣庄六街的农民在田间收获甘蔗。
2026-10-12 10:08
加拿大外长阿南德也表示,北极在关键矿产、能源、交通等方面拥有巨大潜力,但关键在于要让“当地人受益”。赵隆指出,特朗普2025年重返白宫后美国再度退出《巴黎协定》,加深了其与盟友在气候政策上的分歧。
2026-10-12 10:07
6时30分起,各类等待审核、签发的预报预警材料堆满了陈涛的案头;一个半小时后,全国天气会商准时开始,陈涛快步走上首席预报发言岗位——多方预报意见不断交汇,最终产生预报结论。
2026-10-12 10:07
加载更多