点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:智能体加速落地重构消费场景 专家建议关键场景须保留“人在回路”
首页> 法治频道> 法治要闻 > 正文

智能体加速落地重构消费场景 专家建议关键场景须保留“人在回路”

来源:法治日报2026-03-03 09:15

  本报记者 赵晨熙

  天下武功,无坚不摧,唯快不破。2026年央视马年春晚上,当胆似铁打骨似精钢的“机械师父”们自带背景音乐出场时,立刻吸引了广大观众的目光。

  醉拳、剑舞、肘部大回环、连续三次单腿后空翻……这些人类千锤百炼才可能“神功大成”的高难度动作,机器人不仅完成得威风凛凛,还颇具中华武术的神韵,一套套丝滑又连贯的招式让观众看得酣畅淋漓。

  跳舞、演小品、盘核桃……机器人表演在今年春晚舞台上火出了圈,也向世界展示了中国智能产业发展成果。

  从“高情商”的人工智能问答到多才多艺的实体机器人,再到用户一句话便能自动完成最优筛选并下单的一站式智能网购……信息技术时代,伴随着智能体的飞速发展,那些曾经在科幻小说中才能出现的场景已逐渐变为现实。

  智能体作为新一代人工智能的重要落地形态,正在深刻重构生产、消费与服务模式,为数字经济注入新动能,其创新价值与产业潜力值得充分肯定与大力支持。在产业快速扩张、应用持续深化的同时,如何守住安全底线,使治理体系适配新的技术形态,也至关重要。

  智能体加速落地期到来

  “在我输入‘帮我订周末去威海的两天行程’的指令后,它不仅列出了刘公岛、火炬八街、那香海的详细路线,还直接在高德地图生成了导航链接,之后跳转至飞猪显示附近性价比最高的海景酒店,它甚至还提醒我‘周末威海降温,建议带防风外套’……”这是一位网友在网上分享的自己首次通过AI一站式下单的体验,用他自己的话说,这种体验超级“省心”。

  今年春节期间,很多用户都体验到了“一句话下单”的便捷。比如,用户提出想点一杯奶茶的需求后,某应用会根据用户提出的指定某品牌或口味等具体需求,迅速为用户推荐附近商家,用户选定商品后,该应用会自动选择能用的优惠,用户只需确认订单信息并完成支付即可。想要旅游的用户提出具体需求后,应用会根据需要自动完成查询机票、酒店、天气、亲子景点等工作,并调动相应的购票、住店等App,完成一站式预订与支付。

  这种一句话就能搞定过去用户需要切换多个App才能完成的舒适体验,在这个春节期间给很多消费者留下了深刻的印象。这种便捷离不开智能体的快速发展。

  2026年被视为“智能体加速落地期”,行业正在从“能对话”迈向“能做事”。一些新产品推动了跨设备、跨场景的全端协同,智能体经济、智能体电商等新业态正在形成。

  北京邮电大学网络空间安全学院副教授李朝卓指出,智能体拥有多种优势,相较于传统大模型,智能体在结构上包含感知、记忆、规划、工具调用与行为执行等多个功能模块,因此具备更强的自主性与行动能力。

  但也因此存在更为复杂的安全隐患。比如,在感知层面可能出现模型幻觉与错误理解,在规划层面可能形成偏离初衷的恶意规划,在工具调用层面则存在权限失控等风险。有专家提醒,需高度警惕智能体贸然介入终端或硬件底层权限所带来的风险,此举极易引发数据隐私、系统安全及合规性等一系列问题,应从技术架构源头强化风险防控。

  针对这些风险,李朝卓建议引入外部监督机制,强化安全设计,开发更稳健的学习算法,并提升系统的可解释性与透明度,以构建可控、可审计的智能体生态。

  记者注意到,针对智能体发展中存在的风险隐患等问题,相关部门已经在高度关注。以近年来热度很高的陪伴型人工智能产业为例,国家互联网信息办公室近日就《人工智能拟人化互动服务管理暂行办法(征求意见稿)》(以下简称征求意见稿)公开征求意见。

  征求意见稿精准构筑了确保用户数据隐私安全、把好“沉迷依赖关”、对未成年人等特殊群体予以特殊保护等多重防线,既鼓励用技术慰藉心灵,又坚定划出了隐私、伦理与安全等不可逾越的红线。

  关键节点引入用户确认

  今年春节期间,多款App推出的AI智能下单服务,让用户切实感受到电商智能体带来的便利与创新潜力,也为行业未来发展打开了更大想象空间。

  业内人士告诉记者,在“预订高性价比酒店”等场景中,用户通常基于便捷体验给出整体授权,而智能体会自动完成比价、消费参考、平台调用、优惠匹配等一整套连贯操作。

  为进一步提升透明度与安全性,更好保障用户知情权与选择权,多位专家在受访中建议,将风险识别融入智能体执行全流程,对高风险操作实行分级管理,并在关键节点引入用户确认,让“人在回路”更加制度化、可追溯、可核验,让授权更精准、更即时。

  从推动行业生态健康可持续发展出发,多位专家也建议,智能体发展应注重安全与发展双轨并行,坚持规范引导与创新激励相统一。智能体时代带来了全新的技术机遇与创新空间,在发展过程中充分尊重并衔接现有成熟的移动互联网生态,实现有序融合、协同升级,更有利于人工智能产业行稳致远,实现长期健康发展。

  协同构建责任重叠机制

  “在智能体广泛嵌入生产与交易环节的背景下,数据已成为核心竞争资源,其权利结构与配置方式直接影响市场秩序与竞争机制。”在中国人民大学法学院教授、国务院反垄断反不正当竞争委员会专家咨询组成员孟雁北看来,数据在智能体经济中占基础性地位,围绕数据获取与使用的行为规制尤为关键。

  孟雁北认为,修订后的反不正当竞争法确立的数据不正当竞争条款强调保护经营者合法持有的数据资源,并对数据获取与利用方式提出正当性要求,具有重要意义。在智能体经济语境下,应进一步明确数据处理行为的正当性边界,审慎界定何种行为构成对市场竞争秩序的扰乱。

  此外,孟雁北认为,面对智能体经济带来的新型风险与结构性变化,行政监管应坚持法治化路径,可通过“小切口”立法与执法实践,结合具体商业场景逐步完善规则体系,在风险可控的前提下实现创新发展与竞争秩序的动态平衡。

  北京交通大学法学院副教授、数据法学研究中心主任付新华对智能体产业发展中的责任归属问题颇为关注。付新华认为,在现行法律条件下难以赋予人工智能独立主体资格,也不能简单将智能体等同于用户的代理人。传统代理关系以明确授权与可识别意思表示为前提,而智能体往往在接收模糊指令后,通过上下文推理形成行动决策,其运行机制具有“黑箱”特征,结果亦有不可预见性,难以符合民法典关于代理构成要件的规范要求。

  基于此,付新华提出,智能体应被理解为介于工具与主体之间的中间构造,单一归责模式不足以回应风险分配需求,应通过多主体协同治理形成责任重叠机制。

  围绕风险控制能力,付新华构建了四层控制架构,即目标层由用户授权启动,治理层由服务提供商承担权限管理、风控与日志留存义务,接口层通过平台规则与凭证机制规范交互边界,信赖层保障第三方基于规则形成的合理信赖。对外规则方面,可原则上推定交易成立,同时设置数字化冷静期赋予用户撤回权;对内则通过最小权限原则、关键节点干预、异常阻断与全链路追溯机制强化运营治理,并在必要时引入产品责任及用户过错责任分配规则。

[ 责编:孙满桃 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 2026年巴塞尔艺术展香港展会启幕

  • 江西上饶:防火宣传进景区

独家策划

推荐阅读
全国科学技术名词审定委员会25日发布《关于发布试用人工智能领域名词token中文名“词元”的公告》,决定在综合考量社会各界意见建议的基础上,优先推荐“词元”作为人工智能领域名词token的中文名,并面向全社会发布试用。
2026-03-26 09:23
木卫二是一颗冰封的木星卫星,也是太阳系内最有希望孕育地外生命的地方。“欧罗巴快船”团队认为,他们将发现适宜生命生存的海洋,但除非探测器真正抵达、展开探测,没有人能给出确切的答案。
2026-03-26 09:24
作者:陆俊杰(南通大学副校长,江苏省习近平新时代中国特色社会主义思想研究中心特约研究员)  在促进创新链产业链资金链人才链深度融合、推动科技成果高效转化应用上探索新途径,是“十五五”时期江苏经济社会发展的重要目标任务。深耕“双高协同”不仅是破解科研创新与产业需求脱节的关键举措,更是落实创新驱动发展战略的重要布局。
2026-03-26 09:24
记者从中国发明协会获悉:在瑞士日内瓦举行的第五十一届日内瓦国际发明展上,中国代表团共获得90项金奖、95项银奖和52项铜奖。
2026-03-26 09:30
工业和信息化部25日公布,今年前2个月,我国通信业运行平稳,电信业务总量保持增长,5G、千兆光网、物联网等网络基础设施建设有序推进。截至2月末,5G基站总数达490.9万个,比上年末净增7万个,占移动基站总数的38%。
2026-03-26 09:24
3月25日,国家自然科学基金委员会在2026中关村论坛年会开幕式上发布2025年度“中国科学十大进展”,10项重大基础研究突破入选。界面调控新方法创制面向空天应用的高性能柔性叠层太阳能电池示意图 国家自然科学基金委员会供图 
2026-03-26 09:22
3月25日,以“创新与发展”为永久主题,由科技部、国家发展改革委、工业和信息化部、国务院国资委、中国科学院、中国工程院、中国科协和北京市政府共同主办的2026中关村论坛年会在北京拉开帷幕。
2026-03-26 09:21
记者24日从农业农村部获悉,农业农村部近日印发通知,督促指导各地依法严厉打击坑农害农、危害粮食安全和农产品质量安全违法行为,守护群众“舌尖上的安全”,持续夯实国家粮食安全根基。
2026-03-25 10:22
氢能兼具能源、资源、储能介质三重属性,氢能产业科技含量高、低碳属性强、发展空间大。通知提出到2030年,通过应用规模扩大,推动氢能应用技术、工艺、装备创新突破,实现燃料电池、电解槽、储运装置和材料等迭代升级,推动氢能成为新的经济增长点,支撑实现经济社会发展全面绿色转型。
2026-03-25 10:21
林间密密麻麻的印痕,正是东北虎豹国家公园生态环境越来越好的体现。在科技守护与不懈坚守下,东北虎豹国家公园的生态成果愈发显著:东北虎和东北豹的数量由公园试点初的27只和42只,增长至当前的70只和80只左右。
2026-03-25 10:11
国家卫生健康委和中国气象局24日联合发布首期全国花粉浓度预报服务提示,为公众提供精准防护指引。目前正值春季,以木本植物花粉传播为主,建议过敏人群及时关注本地花粉浓度和种类变化,必要时明确过敏原,提前做好防护和出行安排。
2026-03-25 10:04
自然资源部日前发布四川省冕宁县牦牛坪矿区稀土矿资源储量核实勘查项目成果,矿区新增稀土资源量966.6万吨。据悉,牦牛坪矿区稀土矿资源储量核实勘查项目还新增伴生萤石资源量2713.5万吨、伴生重晶石资源量3722.8万吨,均达到超大型规模,具有重大战略意义。
2026-03-25 10:00
记者了解到,自20世纪60年代推广杂交玉米种以来,我国玉米的单产提高了约2.7倍,其中51%的增益都来自优良杂交种的选育与应用。进一步研究发现,在现代杂交育种过程中,玉米的基因有害变异被不断清除或互补,并且,杂交种中有害等位基因被抑制表达的比例与其产量和育成年代同步增长。
2026-03-24 09:29
2023年,国务院部署开展专利转化运用专项行动(以下简称“专项行动”)。教育部科学技术与信息化司司长周大旺表示,教育部着力畅通科技成果转化的链条,加速把高校丰富的专利转变为产业发展的红利。
2026-03-24 09:28
走进内蒙古博物院的有机质文物修复室,时间似乎放慢了脚步,空气中透着静谧,只有工具偶尔轻碰的细微声响。”  无机质文物修复室里,文物修复师季园园展示了另一种“手术”场景。
2026-03-24 09:28
柳申滨最初以针刺治疗皮肤炎症及穴位敏化机制为切入点,试图探寻针刺调控皮肤靶器官的效应规律。”  通过和临床医生交流,柳申滨了解到,在压力、焦虑等心理应激状态下,特应性皮炎患者的皮肤炎症会显著加重。
2026-03-24 09:28
全球最大人工智能(AI)模型API聚合平台OpenRouter最新数据显示,3月16日至3月22日,全球AI大模型总调用量为20.4万亿Token,环比增长20.7%。”
2026-03-24 09:28
杂交稻的大面积推广显著提升了水稻产量,但其生产长期依赖程序复杂、成本高昂且需年年重复的杂交制种过程。
2026-03-23 09:40
近日,澳大利亚一位机器学习领域科技企业家,通过人工智能大模型自行设计肿瘤疫苗,救治自家患癌宠物犬的故事广受关注。
2026-03-23 09:39
记者从中国石化获悉,我国首套全链条国产化溶液法聚烯烃弹性体工业化装置在天津进入试运行,相关生产技术取得原创性突破,将有效缓解我国光伏等战略性新兴产业对该材料的进口依赖。
2026-03-23 09:33
加载更多