点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:“生病了问AI”,出错了怎么办? AI医疗现状调查
首页> 法治频道> 法治要闻 > 正文

“生病了问AI”,出错了怎么办? AI医疗现状调查

来源:法治日报2025-04-01 08:45

  今年3月,一名“95后”新手家长面对孩子反复咳嗽发热的症状,在手机端用AI问诊判定孩子为“普通呼吸道感染”,并参考网络建议居家用药,致病情延误。最终,孩子被医院确诊为病毒感染肺炎。医生指出AI问诊存在一定风险,应以专业医疗意见为准。

  此事引发网络热议。AI癌症早筛、AI肺结核诊断、AI手术机器人、AI导诊机器人……近年来,AI技术已在门诊导诊、临床辅助诊断、疾病管理等环节广泛应用,尤其是今年年初DeepSeek的问世,更是掀起了一股“生病了问AI”的热潮。但也有不少人反映,AI医疗并没有想象中那么靠谱,看错病、看不出病的情况时有发生。

  对于AI医疗,舆论场也涌现出更多的追问,比如:AI医疗是否会影响到医生的地位?如果AI诊断错误,谁来负责?如何保护普通人的医疗数据隐私?如何让AI医疗发展更快、应用更广?

  AI医疗只是辅助手段

  “AI医疗可以提升医疗服务的效率,已经在疾病预测、健康管理、影像识别等领域表现出色,能够为患者提供较为精准的医疗服务。”中国卫生法学会副会长郑雪倩向记者介绍,在基层或缺乏专家资源的边远贫困地区,可以通过AI进行初步筛查,并为医生提供提示或诊断参考,从而优化医疗资源分配、推动分级诊疗政策落地、提升基层医疗服务能力。

  正因AI医疗彰显出诸多优势和巨大潜力,“AI会不会抢医生饭碗?”“AI医生看病爆火”“AI看病比三甲医院医生还准”……在最近关于AI医疗的网络讨论中,相关话题频繁出圈。“当DeepSeek给出了和主任医师一样的诊断,以后是否还有必要去医院?”近期,这样的疑问也出现在了医患对话中。

  记者采访了多位一线医务工作者,他们均不反对患者使用“AI问诊”。但对“‘AI问诊’的结果是否靠谱”“能否作为诊疗依据”等问题,受访医生都抱着谨慎态度。他们普遍认为,“AI问诊”存在局限,只能作为一种辅助手段,并不能替代医生。

  北京市某社区卫生服务中心的全科大夫周医生坦言,在基层医疗机构平日里遇到疑难杂症的情况不多,更多的是高血压、糖尿病、心脏病等慢性病的老年患者,AI在慢性病随访、慢性病管理上还缺少些“人情味儿”。

  “以预问诊AI为例,有老年患者反映,他有几个晚上睡不好觉导致头疼、心慌,AI就有可能把所有有头疼症状的病都列给医生,其中绝大多数是无效信息。”周医生说,疾病的诊断是一个模糊决策,尤其是在社区这种基层医疗机构,看病的基本是“老熟人”,往往需要医生综合病史、症状等多种信息、根据经验缩小范围下诊断,AI目前在这方面还不够成熟。

  “AI医疗是人工智能在医疗领域的应用,即通过大数据的分析学习,建模,来辅助或优化医生在看病治疗以及健康管理环节的一项技术应用。”在中国卫生法学会常务理事、北京市华卫律师事务所副主任邓利强看来,AI医疗通过机器的学习建模进行数据的分析,让AI反复学习的确可以帮助识别病症,但这种建模本身有数据库的问题,再加上无法把医生的诊疗经验揉到建模里,所以这种智能诊断不可能完全取代医生。

  “AI问诊缺乏人文情感交流,AI开方无人审核,还可能出现误诊、误治和AI医疗的法律主体不明确等问题。因此,AI医疗应当始终定位于医生的辅助工具。”郑雪倩说。

  持谨慎态度划定红线

  随着AI医疗在全国逐步落地,一场医疗领域的巨大变革正在发生。仅今年2月以来,就有不少医院发布其最新应用成果。

  比如,上海瑞金医院发布瑞智病理大模型,AI仅需数秒就能精准识别病理切片中的病灶区域;北京协和医院研发的“协和·太初”罕见病大模型已进入临床应用阶段;上海市肺科医院参与研发的肺部智能手术规划系统,将实际手术规划时间从数天缩短至2到5分钟……

  虽然有多项成果问世,但对于AI医疗,不仅是医生,相关部门也保持谨慎态度。记者梳理公开资料发现,目前针对AI医疗已出台多项限制性措施:湖南省医保局发布通知,禁止使用AI自动生成处方,以维护医保基金安全和患者权益;北京禁用AI自动生成处方,并成立了互联网诊疗监管平台;国家卫健委和国家中医药局联合发布的《互联网诊疗监管细则(试行)》明确规定,人工智能不得替代医师本人提供诊疗服务……

  “这些政策和规定表明,我国在AI医疗领域已经开始划定红线,以确保技术应用的安全性和伦理性。”郑雪倩说,医疗安全底线包括:处方红线,即AI不得自动生成处方,医生必须对诊疗行为负责;伦理红线,即AI应用需遵循医学伦理,确保患者隐私保护、数据安全和公平性;技术红线即AI技术需经过严格的临床验证,确保其在实际医疗环境中的有效性和安全性。

  受访专家明确,即便有AI的辅助,医生仍是最后把关人,如果医生利用AI诊疗出现误诊、漏诊等医疗事故,最终还是由医生承担责任。

  邓利强认为,由于AI医疗存在较多法律风险和合规挑战,这才让相关部门对AI医疗的态度如此谨慎。

  “医疗数据涉及患者的个人隐私,哪些数据可以向研发AI医疗的企业开放并未有明确规定,而且直接针对医疗数据开放的法律法规尚未出台,无法对数据按照统一技术标准进行清洗处理;对AI误诊的责任界定和相应法律纠纷的处理办法同样存在争议;目前国内医疗数据共享不足且缺乏标准规范,制约着AI医疗产业的发展……”邓利强说,正因有诸多问题亟待解决,所以医疗保守绝不是落后,恰恰是对生命的负责。

  应平衡创新加强监管

  AI医疗,今后如何才能更好地发展?

  邓利强说,应平衡AI医疗技术创新与合规监管关系。要强化全流程的资质审查机制,即针对AI医疗和AI处方各个环节的主体都必须有诊疗的资质,这是不能突破的底线。应强化企业的自律与诚信机制的建立,开发和使用AI医疗的企业都必须依法合规。需要明确AI医疗产品的注册、审批、使用和退出流程,并加强对算法透明度、公平性、隐私保护等关键维度的评估与监管。

  郑雪倩建议,应建立伦理审查机制,确保AI技术在医疗领域的应用符合伦理道德要求。还要鼓励社会各界对AI医疗技术进行监督和评价,形成全社会共同参与的监管格局。加大处罚力度,提高违法成本,构建更有效的法律威慑体系。加大正向宣传引导,提高医生和患者对AI技术的接受度是实现技术普及的关键。

  2025中关村论坛年会期间,AI医疗成为与会专家热议话题。与会专家建议,加强监管与伦理指导,制定严格的数据安全和隐私保护政策,设立医疗AI伦理委员会。同时,提高模型透明度,发展可解释AI技术,使大语言模型在医疗决策时能够提供推理过程。例如在肿瘤诊断中,AI需指出影像特征依据,而不是只给结论,还要设定合理的使用范围。大语言模型适用于医学教育、辅助决策和信息检索,但不应直接用于关键诊断或治疗决策,最终决策仍需由专业医生作出。

  “医疗从业人员的确应该积极拥抱发达的技术,但技术对行业本身的冲击以及它是否能实现有温度的医疗,也是我们行业的引领者所需要思考的。我们期待的是,行业参与者冷静思考的心和职业情怀,可以让技术成为帮手,而不是让患者的医疗安全受到影响。”邓利强说。(记者 赵丽 实习生 陈颖)

[ 责编:张璋 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 乙巳年黄帝故里拜祖大典在河南新郑举行

  • 上海:纪念五卅运动100周年文物史料专题展开幕

独家策划

推荐阅读
3月30日,2025中国网络媒体论坛“坚持主流价值导向 推动算法向上向善”主题分享会在广西南宁举行。主题分享会上发布了“算法向善”南宁宣言,重点互联网企业代表集体签署。
2025-04-01 09:46
目前全球6G研发已从概念探索进入关键技术攻关阶段,中国围绕2030年实现6G商用这一目标加速布局。
2025-04-01 09:50
AI医疗只是辅助手段。
2025-04-01 09:48
31日,在2025中关村论坛年会“重大科技成果发布活动”上,由北京金融监管局联合市科委、中关村管委会、市经济和信息化局、市委金融办共同指导,全国首个商业航天保险共保体组织——“北京商业航天保险共保体”正式发布,助力北京商业航天加速发展。
2025-04-01 09:47
3月31日,“南海二号”钻井平台在惠州19-6油田海域进行钻探作业。
2025-04-01 09:45
2025中关村论坛年会重大成果专场发布会31日举行,围绕“四个面向”发布19项重大科技成果,展现了我国在前沿科技引领、开源开放合作、创新驱动发展等方面的成效。
2025-04-01 09:41
现场发布2024中国正能量网络精品征集展播活动结果,与会领导为中国正能量十佳网络精品代表、突出贡献单位颁发荣誉证书和纪念牌。
2025-04-01 09:48
主题分享会上发布了“算法向善”南宁宣言,重点互联网企业代表集体签署。
2025-04-01 09:47
今年以来,我国以DeepSeek为代表的大模型企业通过算法优化、有针对性的训练和开源生态协作,在使用“缩水版”GPU芯片的情况下,将千亿参数模型训练成本压缩至同类模型的1/10,走出了一条从粗放式算力堆砌向内生式效能提升的新路径。
2025-03-31 10:21
“联合科研团队初步确定,青龙山恐龙蛋化石普遍表现出特殊排列规律,如常见同层埋藏的恐龙蛋3至5枚一组排列成微微弯曲的弧线,多组弧线近平行展布。
2025-03-31 10:03
由西湖大学孵化的西湖仪器,日前成功实现12英寸碳化硅衬底激光剥离自动化解决方案,大幅降低损耗,提升加工速度,推进了碳化硅行业降本增效。
2025-03-31 10:02
日照两城河口国家湿地公园,一群绿头鸭在水面上自由飞翔。
2025-03-31 10:01
3月28至29日,作为2025中关村论坛年会的重要组成部分,中关村国际技术交易大会“全球高校科技成果转化促进大会”在北京工业大学举行。
2025-03-31 09:59
2025中关村论坛年会于3月27日至31日在北京举办,以“新质生产力与全球科技合作”为年度主题。其中将举办碳达峰碳中和科技、世界绿色设计等论坛,为新质生产力发展注入绿色动能。
2025-03-28 03:30
日前,我国自主研制的最大直径盾构机“沧渊号”成功下线,将承担世界最长公路水下盾构隧道——海太长江隧道工程左线掘进任务。大海古称“沧渊”,海太长江隧道横跨长江入海口,全长39.07公里,其中过江隧道长11.185公里,最大埋深超75米,计划于2028年建成。“沧渊号”开挖直径达16.66米,整机总长176米,总重量超5650吨,再创国产超大直径盾构机新纪录。
2025-03-28 04:00
3月27日,国家重大科技基础设施高能同步辐射光源HEPS正式宣布启动带光联调,这标志着HEPS装置建设进入冲刺阶段。HEPS是设计亮度世界最高的第四代同步辐射光源,也是我国第一台高能量同步辐射光源。截至2025年1月,经过多轮束流调试,HEPS储存环束流强度达到40毫安以上,发射度降低到93皮米弧度。
2025-03-28 04:00
3月27日,以“新质生产力与全球科技合作”为主题的2025中关村论坛年会在北京中关村国际创新中心拉开帷幕。来自100多个国家和地区的上千名嘉宾齐聚一堂,共议前沿科技趋势、共享创新思想、共谋发展机遇。
2025-03-28 03:30
近日,国家卫生健康委会同国家市场监督管理总局发布50项食品安全国家标准和9项标准修改单。截至目前,我国已累计发布食品安全国家标准1660项,包含2万多项指标,涵盖全部340余种食品类别。
2025-03-28 04:00
记者日前获悉,自去年10月全球洲际间断分布的5种崖柏属植物全部落户重庆市开州区崖柏国家林木种质资源库以来,科研团队已成功繁育崖柏实生苗30万株,崖柏扦插苗20万株,
2025-03-27 04:00
职业技能培训对劳动者提技增收、缓解就业矛盾意义重大。党中央、国务院高度重视职业技能培训工作,2024年印发《关于实施就业优先战略促进高质量充分就业的意见》,要求健全终身职业技能培训制度。
2025-03-27 05:10
加载更多