点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:面对“AI说谎”,要走出AI依赖更要全面治理
首页> 法治频道> 法眼观察 > 正文

面对“AI说谎”,要走出AI依赖更要全面治理

来源:工人日报2025-01-07 09:47

  “自2025年起,宁波市将免费乘坐公交车的年龄从70周岁降低至65周岁……”记者使用三款人工智能软件询问“宁波公交年满65岁优惠政策”这一问题,得到的三个回答中仅有一个正确,而上述答案则是假消息。(见1月5日《宁波晚报》)

  生成式AI技术让文本、图片、视频等创作变得轻而易举,然而,AI创作出的作品也存在良莠不齐、低级错误频出等情况,甚至会产生“AI幻觉”,输出大量假消息、内容垃圾。上述关于“宁波公交车年满65岁优惠政策”的“AI说谎”事件,就是典型。现实中,一些AI软件搜索微信公众号、短视频平台中的内容后再将其汇总整理,作为答案交给用户。这些源头信息并非出自权威渠道,其中一些真实度、可信度偏低,而AI软件缺乏辨识信息真伪的能力,其提供的答案往往成为“真实的谎言”。一些AI软件还会迎合、讨好用户,根据用户给出提示信息的变化而随时改变立场和答案,甚至编造虚假内容。

  AI内容垃圾泛滥不仅会误导用户,还可能对AI大模型的未来发展构成实质性威胁。当高质量原始数据急剧减少,AI模型为满足庞大的使用需求,会转而抓取大量数据进行训练,一旦被内容垃圾充斥的低质量数据不断增加,模型输出的数据质量也会有下降风险,进而带来“假作真时真亦假”的可怕后果。

  AI软件已不是第一次被吐槽“一本正经地胡说八道”,这种现象亟待引起警惕与重视。对用户而言,不宜过度依赖AI软件,在查询相关重要信息时,要通过权威渠道获得真实可靠答案;在获取AI生成内容后也要有进一步核实真伪的意识,谨慎扩散转发,避免触碰造谣传谣的法律红线。对AI软件开发商而言,则须持续迭代升级技术,精准筛选可靠信源,提高AI模型的逻辑推理判断、信息甄别能力。监管部门亦应及时出台规范标准,研判用户的反馈和投诉,督促AI平台、软件开发商尽快堵漏、升级,同时严惩相关违法违规行为。

  让信息的生成和获取更便捷、让技术赋能千行百业……这是人们对AI技术的美好憧憬,而动辄被其忽悠的不良体验,显然让这份美好打了折扣。但愿“AI说谎”能尽快成为过去时,让AI技术在社会生活中发挥更多正向作用。(江德斌)

[ 责编:孙满桃 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 万亩山花迎春来 山乡美景助共富

  • 江苏无锡:泰伯庙会展吴韵风采

独家策划

推荐阅读
AI操控的机器人虽难以完全替代实验科学家,但AI系统已开始接管人类的数据分析师、研究编码员等工作。
2026-02-26 10:04
截至2025年,我国发明专利申请量已连续多年位居全球第一,成为名副其实的专利大国。
2026-02-26 09:55
他们走过了一段从弱到强、从“备胎”到“主角”的孤勇之路,实现了国内超低温大型制冷机市场从被国外100%垄断到国产化替代的“跨越式发展”。
2026-02-26 09:49
中国科学院近代物理研究所核结构研究团队与合作者通过高精度实验,明确了一种钼同位素释放其储存能量的关键机制,在原子核能量可控释放研究领域取得重要进展。
2026-02-26 09:46
电感器如同现代电子设备的“心脏”,让电流有序流动、设备稳定工作。
2026-02-26 09:35
人工智能技术及其应用的跨领域、跨层级、跨主体特征,决定了其安全治理天然具有高度复杂性和协同需求。最后,面对人工智能技术快速迭代、应用场景动态迁移、风险形态持续演化的鲜明特点,制度体系必须具备敏捷响应与动态调适的智慧与弹性。
2026-02-25 09:45
曾经只存在于科幻电影中的“太空采矿”,正逐渐从文艺作品中的构想走进现实。
2026-02-25 09:49
新一轮科技革命的浪潮中,数字化与智能化已成为竞争关键,以开放的姿态推动实体经济与数字技术深度融合,必将推动我国制造业发展更上一层楼。
2026-02-25 09:45
当天,李秋立和4位“战友”——同所研究员胡森、陈意、杨蔚及中国科学院国家天文台(以下简称国家天文台)副研究员周琴,共同获得2025年度中国科学院杰出科技成就奖基础研究奖。
2026-02-25 09:45
在2月19日发表于《科学》的一篇论文中,研究人员描述了一种疫苗,作为鼻腔喷雾剂,它不仅能让小鼠对新冠病毒、流感病毒免疫,还能抵御所有呼吸道疾病。实验表明,接受4剂鼻腔疫苗的小鼠对新冠病毒和其他冠状病毒,以及引发多种呼吸道感染的细菌都产生了免疫力。
2026-02-25 09:45
在人体免疫系统中,T细胞犹如一支守护健康的“特种部队”,负责执行全身细胞的“安全检查”。该研究揭示,组氨酸能精准定位TCR分子识别癌细胞和启动癌细胞清除程序的“关键按钮”位点。
2026-02-25 09:45
《庄子・人间世》有云,“乘物以游心”——或许正是“驭AI而不役于AI”的最好注解。
2026-02-24 14:01
清晰界定科普的价值定位,探索高效的实现路径,有助于推动科普事业高质量发展。
2026-02-24 13:23
AI技术的竞争早已超越产品层面,上升到创新生态、治理能力与产业话语权的综合博弈。
2026-02-24 10:09
当你惊叹于自动驾驶汽车流畅的避障,或陶醉于无人机集群精准的编队表演时,可能并未察觉,支撑这些智能场景的海量数据正在无数边缘节点间疾速奔流。
2026-02-24 09:16
近日,一支国际科学家团队从西南极洲腹地带回了228米长的远古岩石与沉积物,这是人类迄今从冰盖下获取的最长岩芯。
2026-02-24 09:33
当前AI算力普遍面临“内存墙”问题,即计算时数据的存储与运算分处于不同区域,“隔墙”调用严重制约了AI芯片性能提升。
2026-02-24 09:23
目前,主流锂电池正极材料大多使用钴、镍等无机矿物,这类材料面临资源、成本、安全及柔性不足等多重挑战。相比之下,有机电极材料取材广泛,其分子可灵活设计且自身柔韧,被视为极具潜力的“绿色电池新星”。
2026-02-24 09:21
内质网是生物细胞内的一种网膜系统,可帮助维持细胞的正常功能,具有重要的医学研究价值。
2026-02-24 09:14
春节期间,记者来到异龙湖,听到了当地群众对共建生态文明、共享生态成果的感受。
2026-02-21 12:46
加载更多