点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:面对“AI说谎”,要走出AI依赖更要全面治理
首页> 法治频道> 法眼观察 > 正文

面对“AI说谎”,要走出AI依赖更要全面治理

来源:工人日报2025-01-07 09:47

  “自2025年起,宁波市将免费乘坐公交车的年龄从70周岁降低至65周岁……”记者使用三款人工智能软件询问“宁波公交年满65岁优惠政策”这一问题,得到的三个回答中仅有一个正确,而上述答案则是假消息。(见1月5日《宁波晚报》)

  生成式AI技术让文本、图片、视频等创作变得轻而易举,然而,AI创作出的作品也存在良莠不齐、低级错误频出等情况,甚至会产生“AI幻觉”,输出大量假消息、内容垃圾。上述关于“宁波公交车年满65岁优惠政策”的“AI说谎”事件,就是典型。现实中,一些AI软件搜索微信公众号、短视频平台中的内容后再将其汇总整理,作为答案交给用户。这些源头信息并非出自权威渠道,其中一些真实度、可信度偏低,而AI软件缺乏辨识信息真伪的能力,其提供的答案往往成为“真实的谎言”。一些AI软件还会迎合、讨好用户,根据用户给出提示信息的变化而随时改变立场和答案,甚至编造虚假内容。

  AI内容垃圾泛滥不仅会误导用户,还可能对AI大模型的未来发展构成实质性威胁。当高质量原始数据急剧减少,AI模型为满足庞大的使用需求,会转而抓取大量数据进行训练,一旦被内容垃圾充斥的低质量数据不断增加,模型输出的数据质量也会有下降风险,进而带来“假作真时真亦假”的可怕后果。

  AI软件已不是第一次被吐槽“一本正经地胡说八道”,这种现象亟待引起警惕与重视。对用户而言,不宜过度依赖AI软件,在查询相关重要信息时,要通过权威渠道获得真实可靠答案;在获取AI生成内容后也要有进一步核实真伪的意识,谨慎扩散转发,避免触碰造谣传谣的法律红线。对AI软件开发商而言,则须持续迭代升级技术,精准筛选可靠信源,提高AI模型的逻辑推理判断、信息甄别能力。监管部门亦应及时出台规范标准,研判用户的反馈和投诉,督促AI平台、软件开发商尽快堵漏、升级,同时严惩相关违法违规行为。

  让信息的生成和获取更便捷、让技术赋能千行百业……这是人们对AI技术的美好憧憬,而动辄被其忽悠的不良体验,显然让这份美好打了折扣。但愿“AI说谎”能尽快成为过去时,让AI技术在社会生活中发挥更多正向作用。(江德斌)

[ 责编:孙满桃 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 中国羽毛球大师赛:冯彦哲/黄东萍夺得混双冠军

  • 2026厦门科创产业与证券业发展大会举行

独家策划

推荐阅读
从丝绸、茶叶、瓷器、中药,到酿造、工艺美术、文房四宝,这些文化底蕴深厚的中华传统特色产业均属于历史经典产业。
2026-09-07 17:14
延续已久的“手工科研”模式正在被一种全新的力量改写。
2026-09-07 16:44
一根通体透明的“玻璃棒”——看着像玻璃,其实它叫光纤预制棒,是生产光纤的核心原材料。2011年,我们开启了基于VAD(轴向气相沉积法)/OVD(棒外化学气相沉积法)工艺的大尺寸光纤预制棒自主研发的漫长征途。
2026-09-07 09:40
脑机接口是在大脑与外部设备之间建立直接信息通路的技术系统。“‘北脑一号’的初始版本采用128通道无线全植入柔性电极,电极贴附在硬脑膜外,兼顾安全性和有效性。”罗敏敏说,在可预见的未来,脑机接口有望实现从人脑与人工智能、机器人深度协同,拓展到健康人群的认知、感知增强等。
2026-09-07 09:38
距今约5000至4000年,大麦、小麦、牛与羊等驯化动植物在亚欧大陆的东西两端双向流动,构建起史前时期一幅跨大陆农牧业交流图景。“这表明,麦作农业和技术自新月沃地传入甘肃,可能并不直接伴随着来自西方的大规模人群流入。
2026-09-07 09:29
火红的钢坯从连铸机中源源不断送出,切割枪落下,每一段坯料的目标误差控制在0.2%以内,不超过一根头发丝的直径。从人工经验到数据驱动,从单点突破到全流程协同,从单一学科到交叉融合,安徽工业大学正在为钢铁行业装上“智慧大脑”。
2026-09-07 09:25
2016年,我到法国留学攻读应用科学与技术博士学位。回国后我进入人形机器人领域,发现品牌思维已深入人心。
2026-09-07 09:24
草案不仅从法律上承认自动驾驶的合法身份,解决了“它是什么”的问题,还为其设立行为规范,发放“法律身份证”。
2026-09-04 09:17
开学后,一些孩子坐进教室才发现,黑板上的字看不清了,验光后发现近视。有些家长听说OK镜可以“晚上戴、白天摘”,还有助于延缓近视进展,准备给孩子配一副。孩子能不能佩戴OK镜?需要注意什么?
2026-09-04 09:32
据《自然》近日报道,根据9月1日联合国环境规划署(UNEP)发布的一份报告,按照当前的排放趋势,本世纪全球气温将较工业化前水平上升约1.8℃,这已是预期的最好结果。
2026-09-04 09:26
人类对寻找地外生命的执着,不仅是要证明人类并非宇宙“孤儿”,更重要的是,这可能带来能源、医学等领域的颠覆性突破。
2026-09-04 09:16
大地测量是国家安全的“隐形防线”,是航空航天和深空探测的“眼睛”,是国家基础设施建设的“尺子”和“秤”。
2026-09-04 09:17
全面了解我国管辖海域基础地质与海底构造特征,服务自然资源管理和国土空间规划“一张图”建设
2026-09-03 11:41
为更好地推动我国流感疫苗的预防接种,中国疾病预防控制中心近日发布《中国流感疫苗预防接种技术指南(2026—2027)》。
2026-09-03 11:39
高温超导带材有了更便宜、更结实的“骨架”。记者2日从中国科学院理化技术研究所获悉,该所科研团队成功研制出高温超导带材新型“骨架”——铁基合金基带(DW01)。用该基带制备的超导带材关键性能指标显著优于传统哈氏合金基带产品,标志着我国在实现高温超导带材核心材料自主可控上迈出重要一步。
2026-09-03 10:38
每天,我们的大脑都要承受成千上万条信息的狂轰滥炸。如果把这些经历和信息全盘照收,大脑很快就会像塞满垃圾文件的电脑一样“死机”。那么,大脑是如何在信息的海洋中去粗取精,只把最重要的事情存进长期记忆的硬盘呢?
2026-09-03 10:38
9月,昴星团伴月、月掩金星、中秋月、海王星冲日等天象将轮番登场。其中备受大家关注的中秋月,既不是“十五圆”,也不是“十六圆”,而是较罕见的“十七圆”。
2026-09-03 10:38
记者13日从国家管网集团获悉,国内首次成品油长输管道顺序输送甲醇现场试验在陕西省咸阳市顺利完成。这标志着我国成品油管道顺序输送甲醇技术实现从理论探索到工程验证的关键跨越,为跨区域绿色甲醇安全、高效输送提供了完整技术方案与实践示范。
2026-09-03 10:38
张国捷介绍,壁虎是研究性染色体演化得天独厚的类群。为此,研究团队选取了22种壁虎开展基因组学分析,其中20个物种的性别决定机制明确,包含3种环境依赖型、6种XY基因型、11种ZW基因型,另有两个外群物种作为对照。研究还发现,上述17个由基因型性别决定的壁虎物种拥有20条性染色体,这些染色体分别起源于17条不同的祖先染色体。
2026-09-03 10:28
开学第一天,浙江省温州市广场路小学“我的暑期科学发现”发布会现场,孩子们正轮流上场展示自己的暑期探究成果。
2026-09-02 12:09
加载更多