点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:面对“AI说谎”,要走出AI依赖更要全面治理
首页> 法治频道> 法眼观察 > 正文

面对“AI说谎”,要走出AI依赖更要全面治理

来源:工人日报2025-01-07 09:47

  “自2025年起,宁波市将免费乘坐公交车的年龄从70周岁降低至65周岁……”记者使用三款人工智能软件询问“宁波公交年满65岁优惠政策”这一问题,得到的三个回答中仅有一个正确,而上述答案则是假消息。(见1月5日《宁波晚报》)

  生成式AI技术让文本、图片、视频等创作变得轻而易举,然而,AI创作出的作品也存在良莠不齐、低级错误频出等情况,甚至会产生“AI幻觉”,输出大量假消息、内容垃圾。上述关于“宁波公交车年满65岁优惠政策”的“AI说谎”事件,就是典型。现实中,一些AI软件搜索微信公众号、短视频平台中的内容后再将其汇总整理,作为答案交给用户。这些源头信息并非出自权威渠道,其中一些真实度、可信度偏低,而AI软件缺乏辨识信息真伪的能力,其提供的答案往往成为“真实的谎言”。一些AI软件还会迎合、讨好用户,根据用户给出提示信息的变化而随时改变立场和答案,甚至编造虚假内容。

  AI内容垃圾泛滥不仅会误导用户,还可能对AI大模型的未来发展构成实质性威胁。当高质量原始数据急剧减少,AI模型为满足庞大的使用需求,会转而抓取大量数据进行训练,一旦被内容垃圾充斥的低质量数据不断增加,模型输出的数据质量也会有下降风险,进而带来“假作真时真亦假”的可怕后果。

  AI软件已不是第一次被吐槽“一本正经地胡说八道”,这种现象亟待引起警惕与重视。对用户而言,不宜过度依赖AI软件,在查询相关重要信息时,要通过权威渠道获得真实可靠答案;在获取AI生成内容后也要有进一步核实真伪的意识,谨慎扩散转发,避免触碰造谣传谣的法律红线。对AI软件开发商而言,则须持续迭代升级技术,精准筛选可靠信源,提高AI模型的逻辑推理判断、信息甄别能力。监管部门亦应及时出台规范标准,研判用户的反馈和投诉,督促AI平台、软件开发商尽快堵漏、升级,同时严惩相关违法违规行为。

  让信息的生成和获取更便捷、让技术赋能千行百业……这是人们对AI技术的美好憧憬,而动辄被其忽悠的不良体验,显然让这份美好打了折扣。但愿“AI说谎”能尽快成为过去时,让AI技术在社会生活中发挥更多正向作用。(江德斌)

[ 责编:孙满桃 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 小年到 年味浓

独家策划

推荐阅读
工业和信息化部等五部门近日印发《关于加强信息通信业能力建设支撑低空基础设施发展的实施意见》。加强监管能力体系建设,规划无人机专用号段,推动“一机一码一号”能力建设,探索标识解析在无人机领域的应用,形成无人机通信资源精细化管理。
2026-02-11 09:25
全球森林逐渐被快生树木主导,而稳定生态系统的慢生树种正在消失。“我们关注的是极为独特的物种,它们主要集中在生物多样性丰富、生态系统联系紧密的热带和亚热带地区。“此外,在现在和未来受到干扰的地区,非本地物种可能会加剧对光、水和养分的竞争,从而使本地树木更难生存。
2026-02-11 09:32
中国科学院动物研究所研究员王红梅带领的“灵长类胚胎发育的规律解析与体外模拟团队”,用27年的接力攻坚,把灵长类早期胚胎发育这个看不见、摸不着的“黑匣子”,变成了清晰可见的“生命剧本”。
2026-02-11 09:32
截至1月28日,“横竖都是世界第一”的贵州花江峡谷大桥累计接待游客突破130万人次,通行车辆超20万辆次,持续为区域发展注入新动能。大桥带来的发展溢出效应令人瞩目,而深入大桥肌理探查,你会发现,支撑起这座庞然大物的每根细钢丝,全部都是“中国造”。
2026-02-11 09:31
针对常见的饮食误区,杨爱明特别提醒,不建议采用“不吃主食”或“用水果代替主食”的方法来控制体重。对于肠胃功能较弱的人群,应避免过冷、过烫、过辣、过咸食物的刺激,切忌暴饮暴食,并尽量保持规律的进餐时间,以防加重原有胃肠问题。
2026-02-11 09:24
近日,市场监管总局(国家标准委)批准发布《中医体质分类与判定》推荐性国家标准。
2026-02-10 09:44
聚集相关企业300余家,机器人产业链规模超百亿元……北京亦庄,为何扎堆这么多机器人企业?
2026-02-10 09:42
“十四五”时期,我国全社会研发经费投入年均增长10%,研发经费投入强度提高0.44个百分点。
2026-02-10 09:41
日前,我科研团队在国际学术期刊《科学》发表论文《多尺度泛基因组图谱赋能混合倍性甘蔗的基因组解析》,为甘蔗高产优质育种提供了全新“基因资源地图”与核心分析工具。
2026-02-10 09:34
日前,南海区域海-气双向耦合智能大模型“飞鱼-1.0”在广东广州正式发布。“
2026-02-10 09:33
蓝天、绿林、碧水、清波……冬日的广东东莞松山湖科学城,温暖、惬意。
2026-02-09 10:00
这声呼唤,穿越漫长岁月,凝结着人类对这位地球近邻永恒的好奇与梦想。而今,随着新一轮探月热潮在全球兴起,这句“去月球”已不再仅仅是浪漫的诗意表达,更成为科技前沿竞相追逐、国家实力与创新精神交汇的生动实践。
2026-02-09 09:57
特种机器人技术与数智系统创新团队成员张平点击一键启动指令后,雷达驱动、定位算法、规划与控制算法等模块被加载。在系统支持下,无人机能够精准定位、自主导航与实时避障,像一位不知疲倦的巡检员。
2026-02-09 09:53
深耕西南高原山区二十余载,于富强与真菌为伴,在种质资源保护与产业富民之间架起桥梁,把论文写进泥土中,把科研做进农户的大棚里。3年间,于富强往返昆明与水城数十趟,硬是帮着水城从零起步,建成了食用菌研究所、日产50万袋的菌种厂和鲜菇冷链物流集散中心。
2026-02-09 09:53
研究团队将这一环境效应与黑洞双星轨道偏心率的演化同时纳入统一模型,并将理论预测与北美纳赫兹引力波天文台合作组15年的观测数据进行对比分析。陈一帆表示,尽管当前的不确定性仍然较大,但该研究已经表明,引力波观测开始携带关于星系中心环境的可测信息。
2026-02-09 09:53
近日,国家管网集团西部管道公司成功完成所辖新疆段天然气、原油、成品油管道输送全生命周期碳足迹核算,获得中国质量认证中心颁发的“产品碳足迹证书”。
2026-02-06 09:18
近日,中国农业科学院蔬菜花卉研究所蔬菜分子设计育种创新团队研发出新型植物基因研究工具——对目标DNA序列的邻近空间蛋白标记系统。
2026-02-06 09:38
因为像了解自己的孩子一样了解黑土地,韩晓增有个外号——“黑土地的营养搭配师”。他带领团队精心配制出一套营养搭配的“秘方”。
2026-02-06 09:33
蚊种与病毒之间存在高度匹配关系。1901年,公共卫生与热带医学领域先驱沃尔特·里德证明,蚊子是传播黄热病的元凶。科学界传统观点认为,病毒以颗粒形式在蚊子体内传播,却始终不知道真正的“病毒受体”是什么。
2026-02-06 09:31
科技创新和产业创新的深度融合,不仅是构建现代化产业体系的战略举措,更是贯彻新发展理念、推动高质量发展、加快构建新发展格局的重要抓手。
2026-02-06 09:13
加载更多