点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:面对“AI说谎”,要走出AI依赖更要全面治理
首页> 法治频道> 法眼观察 > 正文

面对“AI说谎”,要走出AI依赖更要全面治理

来源:工人日报2025-01-07 09:47

  “自2025年起,宁波市将免费乘坐公交车的年龄从70周岁降低至65周岁……”记者使用三款人工智能软件询问“宁波公交年满65岁优惠政策”这一问题,得到的三个回答中仅有一个正确,而上述答案则是假消息。(见1月5日《宁波晚报》)

  生成式AI技术让文本、图片、视频等创作变得轻而易举,然而,AI创作出的作品也存在良莠不齐、低级错误频出等情况,甚至会产生“AI幻觉”,输出大量假消息、内容垃圾。上述关于“宁波公交车年满65岁优惠政策”的“AI说谎”事件,就是典型。现实中,一些AI软件搜索微信公众号、短视频平台中的内容后再将其汇总整理,作为答案交给用户。这些源头信息并非出自权威渠道,其中一些真实度、可信度偏低,而AI软件缺乏辨识信息真伪的能力,其提供的答案往往成为“真实的谎言”。一些AI软件还会迎合、讨好用户,根据用户给出提示信息的变化而随时改变立场和答案,甚至编造虚假内容。

  AI内容垃圾泛滥不仅会误导用户,还可能对AI大模型的未来发展构成实质性威胁。当高质量原始数据急剧减少,AI模型为满足庞大的使用需求,会转而抓取大量数据进行训练,一旦被内容垃圾充斥的低质量数据不断增加,模型输出的数据质量也会有下降风险,进而带来“假作真时真亦假”的可怕后果。

  AI软件已不是第一次被吐槽“一本正经地胡说八道”,这种现象亟待引起警惕与重视。对用户而言,不宜过度依赖AI软件,在查询相关重要信息时,要通过权威渠道获得真实可靠答案;在获取AI生成内容后也要有进一步核实真伪的意识,谨慎扩散转发,避免触碰造谣传谣的法律红线。对AI软件开发商而言,则须持续迭代升级技术,精准筛选可靠信源,提高AI模型的逻辑推理判断、信息甄别能力。监管部门亦应及时出台规范标准,研判用户的反馈和投诉,督促AI平台、软件开发商尽快堵漏、升级,同时严惩相关违法违规行为。

  让信息的生成和获取更便捷、让技术赋能千行百业……这是人们对AI技术的美好憧憬,而动辄被其忽悠的不良体验,显然让这份美好打了折扣。但愿“AI说谎”能尽快成为过去时,让AI技术在社会生活中发挥更多正向作用。(江德斌)

[ 责编:孙满桃 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 天安门下半旗悼念朱镕基同志

  • 浙江诸暨:乡村传统建筑变身特色文化空间

独家策划

推荐阅读
5天赛程,51个项目,1301场比赛……日前,记者从北京市政府新闻办公室获悉,第二届世界人形机器人运动会将于8月22日在国家速滑馆“冰丝带”开幕。
2026-08-18 10:14
8月15日,承载着亿万公众对良好生态环境期盼的《中华人民共和国生态环境法典》开始施行,标志着我国生态环境保护迈入“法典化”时代。生态环境法典有哪些亮点和创新?如何做好法典的学习、宣传与实施工作?
2026-08-18 10:11
一系列政策“组合拳”为智能农机从研发到应用构筑了全链条支持体系,为现代农业注入强劲动力。
2026-08-18 10:10
今年上半年,我国新能源和可再生能源发展总体保持平稳态势,可再生能源发电装机达24.55亿千瓦,占全国电力总装机的60.7%,其中风电光伏发电装机(约19.5亿千瓦)占比接近一半,太阳能发电装机与燃煤发电装机基本持平。
2026-08-18 10:06
在国际标准组织量子技术联合技术委员会(IEC/ISO JTC3)第五次全体会议期间,我国牵头的多项量子技术国际标准提案取得积极进展。
2026-08-18 10:02
业界普遍认为,人形机器人将成为继计算机、智能手机、新能源汽车之后的下一代颠覆性产品。
2026-08-18 07:09
脑机接口、空中“飞的”、量子通信……今天的安徽,前沿科技早已褪去“高冷”,不断向下扎根,托起民生幸福。”  
2026-08-17 10:13
记者张胜日前从生态环境部获悉,当前我国已基本建成覆盖全面、要素齐全、布局合理的国家监测网络,共布设各类国控监测站点5.8万个,8颗生态环境卫星组网运行。这位负责人表示,面向“十五五”,生态环境部将聚力打造“全域感知、人机协同、自主可控、智能高效”的国家监测网络2.0版本,支撑美丽中国建设取得新的重大进展。
2026-08-17 10:12
理想的钙钛矿太阳能电池须至少满足两个要求——效率要高,还得用得久。“等离子体驱动的界面重构,突破了传统气相、液相、固相钝化方法在可控性、大面积均匀性上的限制,为未来高性能钙钛矿光伏组件产业化制备提供了重要技术参考。正因如此,科学家才将它定为未来光伏技术的重要候选活性层材料之一。
2026-08-17 10:12
记者从安徽农业大学获悉,8月16日,在广西南宁召开的第32届全国大豆科研生产研讨会上,该校王晓波教授代表研发团队发布了大豆领域垂直大模型“丰菽”2.0。
2026-08-17 10:11
2025年秋,南宁五象新区新兴科技园,一所由桂林电子科技大学牵头联合香港科技大学、香港科技大学(广州)等高校共建的“广西人工智能学院”正式开学。学院将充分利用广西面向东盟的独特区位优势,加快与更多东盟国家高校共建人工智能联合实验室,推动人工智能技术普惠发展,助力将中国-东盟国家人工智能应用合作中心建设成为双方人工智能合作的“第一站”。
2026-08-17 10:11
一台能扛17级超强台风的漂浮式风机,究竟是如何造出来的?关键零部件怎样实现全部国产化?记者日前走进位于浙江省温州市的金风科技温州深远海风电零碳总部基地总装车间,
2026-08-14 03:55
13日,我国首艘国产大型邮轮“爱达·魔都号”以深圳为母港正式首航。该轮全长323.6米,总吨位13.62万吨,停靠于深圳国际邮轮母港一号泊位。
2026-08-14 03:55
13日,国家石油天然气基础设施重点项目——连云港至仪征原油管道工程连云港至淮安段(以下简称“连仪管道连淮段”)投产一次成功。
2026-08-14 03:55
当前,新一轮科技革命和产业变革加速演进,全球科技竞争呈现体系化、全链条博弈特征,核心技术攻坚成为竞争焦点。近年来,我国科技创新投入持续增长、创新实力稳步提升。
2026-08-14 03:55
水深超过6000米的深渊是地球最深处最极端的环境,一度被视为“生命禁区”,但其中也有微生物“绿洲”。
2026-08-14 03:55
全球人工智能治理已进入深水区
2026-08-14 04:40
在技术层面,根据信号采集方式的不同,脑机接口可分为非植入式与植入式两大类。从科幻场景落地现实应用,脑机接口的研发初衷并非打造“超人”,而是帮助残障病患重建行动与交流能力。
2026-08-13 09:48
2025国际数字能源展上的深圳虚拟电厂管理中心展区。国家能源局公布的数据显示,截至2025年底,全国已建成470个虚拟电厂项目,实测最大调节能力1685万千瓦,形成全球规模领先的虚拟电厂集群。
2026-08-13 09:46
深远海风电开发,输电是关键一环。亚洲首个采用柔性直流输电技术送出的海上风电项目——三峡新能源江苏如东800兆瓦海上风电项目近日交出答卷:截至8月11日,累计发电量突破100亿千瓦时。
2026-08-13 09:44
加载更多