点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:AI仿冒名人带货属违法行为 消费者可要求退一赔三
首页> 法治频道> 法治要闻 > 正文

AI仿冒名人带货属违法行为 消费者可要求退一赔三

来源:央视新闻客户端2024-12-23 10:39

  如今,从智能家居的语音助手到自动驾驶汽车,从高效能的数据分析到医疗领域的精准诊断,AI正以前所未有的方式改变着世界。然而,随着AI技术的不断发展和应用,其双刃剑的特性也逐渐显现。其中,深度伪造技术就带来了不小的隐患。

  所谓的深度伪造技术,是一种利用人工智能算法生成高度逼真但并非真实的视频或图像的技术。通过深度学习算法,深度伪造技术能够分析大量的真实视频或图像数据,从而学习到特定人物或场景的特征,并生成与之极为相似的虚假内容。这种技术的出现,使得造假变得更加容易和难以辨别,给社会带来了诸多安全隐患。

  今年以来AI深度伪造假冒名人的事件时有发生,不久前,就有人利用AI技术,深度伪造了张文宏医生的脸部和声音进行直播带货。在这段视频中,被合成的人像反复介绍一种产品,声音也很像张文宏本人,商品中的蛋白棒产品已经售卖了1200多件。目前该账号已经搜索不到。而张文宏医生本人对有人利用AI模仿自己带货的行为也非常气愤。

  张文宏医生:这个事情已经有几个星期了,一开始我也是投诉。特别是对AI不是很熟悉的年纪比较大的市民,他们很容易就会相信。

  用AI制作,假冒名人欺骗网民的现象,张文宏事件并非个例。今年国庆期间就有人用企业家雷军的声音和头像制作了众多恶搞视频。

  也有人AI制作了刘德华的声音为自己增加流量。该视频出现后,刘德华电影公司连续发布两则声明,提醒各方人士注意,避免落入伪造刘德华声音的AI语音合成技术骗局。

  上海市消保委也注意到了最近日益增加的AI假冒名人的视频。

  上海市消费者权益保护委员会 副秘书长唐健盛:我们关注到现在这种虚拟人直播带货的情况,也是越来越多了。有不法商家通过AI手段去冒用张文宏老师的形象和声音,做的假的直播带货,这种行为我们觉得是对消费者合法权的侵害,因为它就是一个赤裸裸的欺诈消费者行为。

  AI模仿他人技术成熟 可轻松克隆脸和声音

  现在的AI技术在克隆他人面部和声音上,到底发展到了什么程度?专家介绍,目前模仿他人的声音和脸的技术已经非常成熟,提供一张照片就能做出换脸的效果,他人的声音也能被轻易模仿。

  中国网络空间安全协会人工智能安全治理专业委员会专家薛智慧:通过人工智能技术,将脸进行替换。声音需要有一个语言的模型,语言模型里边被模仿者的声音进行合成,实现音色的克隆。

  技术人员现场做了一个测试,将事先录制好的视频换成记者的脸和声音。首先记者给技术人员提供了一张证件照片,不到两分钟,通过软件的渲染,视频的人脸就换成了记者的脸。

  随后是声音的AI制作。记者现场录制了一段声音输入到AI资料库中,很快AI就能用记者的声音播报任何的文本内容。

  AI制作的换脸和声音的视频完成后,将两段视频合成后出来的效果非常逼真。

  AI模仿度高 但并非毫无破绽

  专家表示,AI模仿度高但是并非毫无破绽。

  首先,这种既要换脸又要换声的操作,只能制作视频,无法做到实时直播。

  其次,观众通过仔细辨认视频,也能看出AI的痕迹。

  专家提醒,辨别时可以重点关注视频中人脸的变换,包括人脸轮廓和背景环境融合度、协调度等。另外,在语音、语速和口型的匹配度上,也可以去重点关注。

  未经授权利用AI假冒他人属违法行为

  那么,是否可以利用AI深度伪造技术随意将名人形象为己所用呢?专家表示,那些未经过授权使用他人形象的行为,均属于违法行为。

  中国政法大学副教授朱巍:我们现在看到的一些编辑的人脸,包括声音在内,实际上按照民法典的规定,这个都属于当事人权利人自己的人格权利,未经允许,任何人不得侵害。不仅不能直接用,也不能使用当事人的人脸信息、声音信息进行深度合成,不能放到深度合成的物料库里或场景库里。同时,他经过编辑的肖像和声音,用这种方式去展现一个相关内容,这属于伪造的信息。按照网络安全法的规定,这属于违法信息。

  另外法律专家表示,AI假冒名人发表自己的作品,有可能会追究发布者的刑事责任。

  中国政法大学副教授朱巍:未经权利人同意随便使用别人的肖像和声音并对外发布,按照民法典的规定是一种侵权责任,要承担包括损害赔偿、精神损害赔偿在内的相关责任。如果把相关视频,包括声音编辑之后,形成了相关内容。这个内容如果违反网络安全法的相关规定,当事人可能要承担包括刑事责任在内的法律责任。

  购买AI假冒名人带货产品 可要求退一赔三

  专家表示AI假冒名人进行带货这样的行为,已经涉嫌违法,一旦消费者信以为真购买了产品,可以要求商家退一赔三。

  上海市消费者权益保护委员会 副秘书长唐健盛:消费者权益保护法明确规定,如果消费者遭到了欺诈,可以按照消费者权益保护法的规定要求不法商家进行赔偿。具体的赔偿标准就是退一赔三,如果不足500元,消费者完全可以要求商家按照500元进行相关的赔偿。

  专家表示,短视频平台也应该担负主体责任,有义务防范AI假冒名人视频在自己的平台大量传播。

  中国政法大学副教授朱巍:如果发现利用AI合成的声频和视频传播虚假消息,并不是仅仅把视频删掉就完了,应当对发布者采取包括信用管理在内的强制措施,包括账号的盈利权限,包括账号的一些相关的特殊的权限,是根据信用的降低,要随之产生必要的处罚措施。

[ 责编:刁慈 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 欢乐冰雪季

  • 颐和园“金光穿洞”奇景引客来

独家策划

推荐阅读
两根“玻璃针”机器手,快速翻转细胞,准确无误地找到细胞切入点,精准提取细胞核后,再注入体细胞核……前后不过86秒,一个完整的细胞胚胎就已“孕育”完成,随后开启“克隆之旅”。
2024-12-20 09:51
当你看到一列高速行驶的列车,最重要的事就是确保自己要登上这趟列车。
2024-12-20 16:14
12月18日上午,清华大学新闻学院与人工智能学院双聘教授沈阳带领师生团队倾力打造的“人机共生:未来艺术的共创”画展在清华大学蒙民伟人文楼开幕。
2024-12-20 15:00
我国科学家获取人类首份月球背面古磁场信息,填补月球磁场中晚期演化的数据空白。
2024-12-20 12:57
近日,由中国科协学会服务中心组织编写的《中国科技期刊发展蓝皮书(2024)》(以下简称《蓝皮书》)在中国科学技术期刊编辑学会2024年学术年会上正式发布。
2024-12-20 09:11
在位于地下700米的液体灌装间里,江门中微子实验项目经理、中国科学院院士王贻芳宣布“启动灌注”。紧接着,工作人员按下按钮,水经过层层过滤变成超纯水,并以每小时100吨的流量注入探测器水池中。
2024-12-19 09:27
由中国工程院院刊《工程》(Engineering)评选的2024全球十大工程成就18日在京发布,CAR-T细胞疗法、嫦娥六号、低轨通信卫星星座、柔性显示、高温气冷堆核电站、智能工厂、无人驾驶汽车、手术机器人、文生视频大模型Sora、超大型风力发电装备入选。
2024-12-19 09:27
近日,《自然》杂志在线发布了中国科学家领衔发起、十八国科学家团队联合署名的人体蛋白质组导航国际大科学计划(以下简称“π-HuB”计划)白皮书。
2024-12-19 09:26
持续且旺盛的研发创新活动是国际科创中心繁荣发展的重要标志和动力来源。
2024-12-19 09:26
日前,在天津市蓟州区有人拍摄到天空中一道神秘的绿光,并将其形象地称为“天上一根‘葱’”。一些网友甚至认为发射绿光的设备是“天外来物”。然而,经过核实,这道绿光是由气溶胶激光雷达发出的激光。
2024-12-19 09:22
12月16日,我国自主研发的核电站应急柴油发电机组——“核柴一号”正式发布。记者从中国广核集团获悉,“核柴一号”多项核心性能指标达到国际先进水平,标志着我国首次完全具备核电站应急柴油发电机组自主设计及制造的能力。
2024-12-18 09:41
最新一期《自然》发表的研究称,在宇宙约6亿年时形成的小质量星系“萤火虫闪烁”的详细观测,能为早期星系的形成提供新见解。该研究成果基于詹姆斯·韦布空间望远镜(JWST)的数据,增进了人们对银河系演化的理解。
2024-12-18 09:31
近日,《自然》杂志在线发布了由中国科学家领衔发起、18国科学家团队联合署名的人体蛋白质组导航国际大科学计划(以下简称“‘π-HuB’计划”)白皮书。这是《自然》杂志首次发布中国科学家领衔发起的全球性大科学计划白皮书。
2024-12-18 09:28
日前,中国科学技术大学教授沈延安课题组在研究雾霾的物质来源和形成机制上取得重要进展,发现燃煤排放产生的颗粒物是华北雾霾的主要物源之一。
2024-12-18 09:26
按计划,神舟十九号载人飞行任务期间还将实施人员和应用载荷出舱活动,并开展大量科学实验与技术试验。
2024-12-18 09:26
12月16日18时,我国在文昌航天发射场使用长征五号乙运载火箭/远征二号上面级,成功将卫星互联网低轨01组卫星发射升空,卫星顺利进入预定轨道,
2024-12-17 05:25
自10月30日顺利进驻空间站组合体以来,神舟十九号航天员乘组已在轨工作生活48天,先后完成了与神舟十八号航天员乘组轮换、空间站平台维护照料、生活和健康保障、舱外航天服巡检测试、
2024-12-17 05:25
随着人工智能(AI)技术的不断发展和迭代,人类社会已进入大算力、大模型、大数据、大应用时代。针对AI在医疗领域应用的风险问题,需要从数据、安全和管理等角度进行应对。
2024-12-17 09:54
近年来,科学家试图通过抑制促纤维化因子的活性、促进胶原纤维的降解等方式改善心肌缺血再灌注损伤相关的心肌纤维化情况,但目前尚缺乏有效的临床干预方式。
2024-12-17 09:35
从渤海湾到山东半岛,从长三角到北部湾,我国海上风电可开发量巨大。国家气候中心最新数据显示,我国海上150米高度、离岸200公里以内且水深小于100米的风能技术可开发量约为27.8亿千瓦。
2024-12-17 09:33
加载更多