点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:面对“AI说谎”,要走出AI依赖更要全面治理
首页> 法治频道> 法眼观察 > 正文

面对“AI说谎”,要走出AI依赖更要全面治理

来源:工人日报2025-01-07 09:47

  “自2025年起,宁波市将免费乘坐公交车的年龄从70周岁降低至65周岁……”记者使用三款人工智能软件询问“宁波公交年满65岁优惠政策”这一问题,得到的三个回答中仅有一个正确,而上述答案则是假消息。(见1月5日《宁波晚报》)

  生成式AI技术让文本、图片、视频等创作变得轻而易举,然而,AI创作出的作品也存在良莠不齐、低级错误频出等情况,甚至会产生“AI幻觉”,输出大量假消息、内容垃圾。上述关于“宁波公交车年满65岁优惠政策”的“AI说谎”事件,就是典型。现实中,一些AI软件搜索微信公众号、短视频平台中的内容后再将其汇总整理,作为答案交给用户。这些源头信息并非出自权威渠道,其中一些真实度、可信度偏低,而AI软件缺乏辨识信息真伪的能力,其提供的答案往往成为“真实的谎言”。一些AI软件还会迎合、讨好用户,根据用户给出提示信息的变化而随时改变立场和答案,甚至编造虚假内容。

  AI内容垃圾泛滥不仅会误导用户,还可能对AI大模型的未来发展构成实质性威胁。当高质量原始数据急剧减少,AI模型为满足庞大的使用需求,会转而抓取大量数据进行训练,一旦被内容垃圾充斥的低质量数据不断增加,模型输出的数据质量也会有下降风险,进而带来“假作真时真亦假”的可怕后果。

  AI软件已不是第一次被吐槽“一本正经地胡说八道”,这种现象亟待引起警惕与重视。对用户而言,不宜过度依赖AI软件,在查询相关重要信息时,要通过权威渠道获得真实可靠答案;在获取AI生成内容后也要有进一步核实真伪的意识,谨慎扩散转发,避免触碰造谣传谣的法律红线。对AI软件开发商而言,则须持续迭代升级技术,精准筛选可靠信源,提高AI模型的逻辑推理判断、信息甄别能力。监管部门亦应及时出台规范标准,研判用户的反馈和投诉,督促AI平台、软件开发商尽快堵漏、升级,同时严惩相关违法违规行为。

  让信息的生成和获取更便捷、让技术赋能千行百业……这是人们对AI技术的美好憧憬,而动辄被其忽悠的不良体验,显然让这份美好打了折扣。但愿“AI说谎”能尽快成为过去时,让AI技术在社会生活中发挥更多正向作用。(江德斌)

[ 责编:孙满桃 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 浙江安吉:暑期乡村文旅热

  • 北京:机器人在公园“上岗”

独家策划

推荐阅读
这不只是一幅地质图,还是一套中国自主的图例标准。
2026-08-07 09:48
最近不少“中国神器”在全球刷屏。这些出圈的国货新品,早已摆脱低端代工、低价走量的旧标签,折射出中国制造的创新迭代与品质跃升。国货新品不断出圈、新产业蓬勃发展的背后,是中国制造的硬核实力。
2026-08-07 09:47
今年7月,国家药监局批准全球首个选择性食欲素2型受体激动剂上市,用于治疗16岁及以上青少年和成人1型发作性睡病。5月,恒瑞医药与百时美施贵宝达成新药授权合作,确定性付款9.5亿美元……今年以来,我国新药的好消息不断。
2026-08-07 09:47
在数据要素赋能方面,2025年国家数据局发布了100个公共数据“跑起来”示范场景,联合19个部门组织举办2025年“数据要素×”大赛并发布241个典型案例。
2026-08-07 09:46
近日,北京市14家市属公园陆续迎来多款机器人“新员工”,它们在公园“上岗”,承担清洁清扫、智慧巡检、问询导览、水面救援、绿化养护、生态监测等多项任务,将智慧服务融入公共生活。
2026-08-07 03:10
团队攻克了满足多功能、智能化的海缆敷设双通道布缆作业系统设计技术,使作业系统具备高度自动化和智能化水平。
2026-08-06 09:48
近日,云深处自主研发生产的四足机器人完成海关通关后出口瑞士,用于当地厂区安防、地下管网隐患排查等业务场景。“核电安全标准严苛,产品能够在瑞士核电站成功落地,充分印证国产机器人的稳定性和可靠性,我们已达成扩产合作意向。
2026-08-06 09:48
记者6日从中国科学院高能物理所获悉,我国科研人员领衔的北京谱仪Ⅲ实验国际合作组,历经15年实验研究,首次证明一类全新物质形态——胶球的存在。
2026-08-06 09:47
记者5日从中国科学院近代物理研究所获悉,该所科研团队与合作者依托强流重离子加速器装置(HIAF),成功产生并鉴别了稀有原子核铪-153。实验中,团队利用HIAF增强器提供的铋-209束流轰击石墨靶,通过弹核碎裂反应产生放射性核素。
2026-08-06 09:47
记者日前从陆军军医大学新桥医院血液病医学中心获悉,由该中心张曦教授和宋清晓研究员领衔的研究团队,首次揭示了皮肤慢性移植物抗宿主病(cGVHD)“久治难愈”的核心机制,找到了打破纤维化恶性循环的关键“开关”。
2026-08-06 02:30
最初,动画和实拍泾渭分明,然而随着手工转描、仿真合成、运动捕捉这类手段的引入,动画和实拍开始相互渗透。AI对动画与实拍的缝合,会将影像艺术彻底引向“泛动画”的时代。
2026-08-05 09:33
衣服透气不闷汗、个性化定制汽车交付快、人形机器人型号多,商品性能更好、生产效率更高、创新活力更足……近年来,这些生产生活中的变化,折射出纳米制造、柔性制造、共享制造等新趋势。
2026-08-05 09:26
在这样的微观世界里,科学家操控原子和分子,设计制造具有特殊性能的新材料、新器件,这就是纳米制造。目前,纳米制造已经实现在原子分子量级设计新材料,按需定制材料的储能、催化、防腐、导电等特性,突破传统制造的性能天花板。
2026-08-05 09:26
近日,中国农业科学院都市农业研究所联合国内外科研单位,发现了改良生菜体内的营养和风味物质的基因密码。生菜在被人类驯化与改良的漫长过程中,口感和营养发生显著变化,这背后离不开关键基因的“调控”。
2026-08-05 09:24
当地时间3日,在意大利佛罗伦萨举办的第46届国际空间研究委员会(COSPAR)科学大会上,中国气象局王劲松研究员荣获威廉·诺德伯格奖章。王劲松是首位获此殊荣的中国科学家,并同步获得一颗小行星命名。此次获奖表明,我国空间科学与应用领域研究成果获得国际学术界高度认可。
2026-08-05 07:40
石墨烯,单层碳原子排成的蜂窝薄膜,薄到极致。但把它一层层摞起来时,层与层之间如何错位——用专业术语叫作堆垛方式——会彻底改写材料的“脾气”。
2026-08-04 03:05
中国石化重庆川维化工公司5万吨/年特种聚乙烯醇(PVA)树脂装置日前顺利一次开车成功并产出合格产品,首批货品已发往欧洲。至此,川维化工PVA总产能达21万吨/年,跃居全球单一工厂中最大的高端PVA生产基地。
2026-08-04 03:05
菱方堆垛的石墨烯有一个天然“超能力”:电子彼此间的相互作用强,集体表现出超导、磁性等奇特行为。这在物理学上叫“强电子关联”——电子不再是各自乱跑的粒子,而是有着充分沟通的步调一致的集体,像一支训练有素的“乐队”。
2026-08-04 03:05
今年上半年,人工智能领域一系列标志性成果密集落地。在技术、应用、生态、治理的协力牵引下,人工智能产业迸发出前所未有的发展活力,赋能实体经济的成效持续凸显。
2026-08-04 09:31
近日,由人力资源社会保障部、安徽省人民政府共同主办的“创赢未来”创业大赛(以下简称“大赛”)全国赛在安徽合肥圆满收官。在大赛同步举办的创业安徽成果展区,一瓶瓶单原子农药整齐陈列,它们同样是“人工智能+创业”的杰作。
2026-08-04 09:31
加载更多