点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:面对“AI说谎”,要走出AI依赖更要全面治理
首页> 法治频道> 法眼观察 > 正文

面对“AI说谎”,要走出AI依赖更要全面治理

来源:工人日报2025-01-07 09:47

  “自2025年起,宁波市将免费乘坐公交车的年龄从70周岁降低至65周岁……”记者使用三款人工智能软件询问“宁波公交年满65岁优惠政策”这一问题,得到的三个回答中仅有一个正确,而上述答案则是假消息。(见1月5日《宁波晚报》)

  生成式AI技术让文本、图片、视频等创作变得轻而易举,然而,AI创作出的作品也存在良莠不齐、低级错误频出等情况,甚至会产生“AI幻觉”,输出大量假消息、内容垃圾。上述关于“宁波公交车年满65岁优惠政策”的“AI说谎”事件,就是典型。现实中,一些AI软件搜索微信公众号、短视频平台中的内容后再将其汇总整理,作为答案交给用户。这些源头信息并非出自权威渠道,其中一些真实度、可信度偏低,而AI软件缺乏辨识信息真伪的能力,其提供的答案往往成为“真实的谎言”。一些AI软件还会迎合、讨好用户,根据用户给出提示信息的变化而随时改变立场和答案,甚至编造虚假内容。

  AI内容垃圾泛滥不仅会误导用户,还可能对AI大模型的未来发展构成实质性威胁。当高质量原始数据急剧减少,AI模型为满足庞大的使用需求,会转而抓取大量数据进行训练,一旦被内容垃圾充斥的低质量数据不断增加,模型输出的数据质量也会有下降风险,进而带来“假作真时真亦假”的可怕后果。

  AI软件已不是第一次被吐槽“一本正经地胡说八道”,这种现象亟待引起警惕与重视。对用户而言,不宜过度依赖AI软件,在查询相关重要信息时,要通过权威渠道获得真实可靠答案;在获取AI生成内容后也要有进一步核实真伪的意识,谨慎扩散转发,避免触碰造谣传谣的法律红线。对AI软件开发商而言,则须持续迭代升级技术,精准筛选可靠信源,提高AI模型的逻辑推理判断、信息甄别能力。监管部门亦应及时出台规范标准,研判用户的反馈和投诉,督促AI平台、软件开发商尽快堵漏、升级,同时严惩相关违法违规行为。

  让信息的生成和获取更便捷、让技术赋能千行百业……这是人们对AI技术的美好憧憬,而动辄被其忽悠的不良体验,显然让这份美好打了折扣。但愿“AI说谎”能尽快成为过去时,让AI技术在社会生活中发挥更多正向作用。(江德斌)

[ 责编:孙满桃 ]
阅读剩余全文()

相关阅读

您此时的心情

光明云投
新闻表情排行 日/周
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 黄百铁路红水河大桥主拱肋合龙

  • 江苏南通:老洪港长江岸线面貌新

独家策划

推荐阅读
根据国家气候中心监测,9月以来赤道中东太平洋海温持续增暖,为有监测记录以来候和旬尺度海温指数首次突破3摄氏度,海温指数峰值预计出现在11月前后,形成一次有监测记录以来最强的超强厄尔尼诺事件。
2026-09-30 09:45
这里,冬季寒冷漫长,寒凉气候、偏少降水、无霜期短的自然条件,难以形成规模化的城市聚落。对于传统农牧业,年均气温低、无霜期短意味着作物生长期受限;而对数据中心来说,这也是天然冷源。
2026-09-30 09:44
9月29日,中国科学院在京召开新闻发布会,正式发布“科学前沿极限突破计划”及其首批项目,向“极宏观、极微观、极端条件和极综合交叉”方向发起冲击。
2026-09-30 09:38
中国科普研究所经过深入调查研究,形成《全国科普事业发展报告(2026)》,全面展示我国科普事业持续发展壮大所取得的成就。
2026-09-30 09:32
现代科技发展史反复印证着一个道理:许多新技术的突破,归根结底都依赖材料的新发展。
2026-09-30 09:33
世界知识产权组织29日公布的2026年《全球创新指数》中,香港在全球139个经济体中排名再升一位至第14位,并在亚洲保持第五位。
2026-09-30 09:30
科学家绘制出了人体前额叶皮层脑区的已知最大规模基因表达图谱。这些研究进一步阐释了前额叶皮层脑区在生命不同阶段的发育情况,有望用于研究衰老、认知衰退和疾病易感性。在第二篇发表于《自然》论文中,西奈山伊坎医学院的Donghoon Lee和同事报道了一个与脑疾病相关的基因表达变化图谱。
2026-09-29 09:39
纤维的材料层次、器件结构和电路互连随成形过程共同建立起来,让纤维本身成为电路。另一组实验中,研究团队利用纤维组成的柔性交互界面及配套系统,实现了手指对机械臂和无人机的非接触控制。
2026-09-29 09:39
(记者王政)工业和信息化部等7部门28日联合印发《新型电池产业发展“十五五”规划》,提出到2030年,我国新体系电池研发取得重大进展,全固态电池初步实现规模化应用。
2026-09-29 09:40
记者李春剑从中国计量科学研究院获悉,近日,国际计量局(BIPM)的全球卫星导航系统(GNSS)时间传递标准首次在中国完成北斗关键参数的标校与比对验证。随着北斗时间传递链路校准、监测评估和国际互认体系持续完善,北斗将进一步为全球用户提供更加准确、可信的授时服务。
2026-09-29 09:39
近期,国务院印发《全民健身计划(2026—2030年)》,对“十五五”时期推动全民健身事业高质量发展作出部署。国际体育医学期刊《运动医学》指出,抗阻训练较常出现不适或损伤的部位主要集中在肩部、腰背部和膝部。
2026-09-29 09:37
全国科普月不仅是科普服务的集中推出期,更是营造爱科学、学科学浓厚社会氛围的重要契机。期待科普之翼越来越有力,把科学“种”进更多人心田。
2026-09-28 09:49
作为一线科技工作者,我觉得应该肩负起向公众传播科学知识、科学方法、科学思维和科学精神的社会使命。这是历史赋予我们的责任和义务,科学家应该将所学回馈社会。
2026-09-28 09:44
研究团队借助这套气体观测数据,首次定量证实:星团内接连发生的超新星爆发,持续输入的动能足以长期维持星系湍流。
2026-09-28 09:42
23日至27日,以“在数贸会遇见AI未来”为主题的第五届全球数字贸易博览会在浙江杭州国际博览中心举办。
2026-09-28 09:34
9月25日晚,皓月当空,海南科技馆外的人工湖边人头攒动。孩子们有序凑到天文望远镜前,凝神细看,月球表面深浅交错的环形山与陨石坑清晰映入眼帘。
2026-09-28 09:21
全球老龄化加速,如何延长健康寿命,成为生命科学研究领域最紧迫的课题之一。诸多抗衰老策略中,营养干预被认为最现实。已有研究表明,减少饮食中蛋白质的摄入,能延长酵母、果蝇和小鼠等模式生物的寿命。
2026-09-24 09:41
作为射电天文领域的国之重器,中国天眼(FAST)不断将我们的视野推向宇宙更深处,在脉冲星、快速射电暴、中性氢宇宙等前沿领域,一次又一次刷新着人类对于宇宙的认知。
2026-09-24 09:34
我国研究团队利用“天关”卫星(爱因斯坦探针卫星)与高海拔宇宙线观测站“拉索”(LHAASO)的联合观测,在一颗距离地球约4600光年的脉冲星周围发现一条此前未被完整看到的超长X射线尾迹。
2026-09-24 09:30
国家统计局数据显示,在消费品以旧换新等政策利好下,节能家电、智能家居等越来越受到消费者的青睐。智能家居的终极目标,不是堆砌多少高科技设备,而是让人的生活更便利、更幸福。
2026-09-24 09:26
加载更多