点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:利用“AI换脸”等音视频诈骗案件多发
首页> 法治频道> 法治要闻 > 正文

利用“AI换脸”等音视频诈骗案件多发

来源:北京青年报2023-05-25 10:10

  今年以来,ChatGPT和GPT-4等技术的应用成为信息科技领域的热点,引起公众对AI技术的广泛关注和热情。昨日,中国互联网协会发文称,伴随着深度合成技术的开放开源,深度合成产品和服务逐渐增多,利用“AI换脸”“AI换声”等虚假音视频进行诈骗、诽谤的违法行为屡见不鲜。北京青年报记者查询发现,国内多地警方已经发布了相关案例。

  利用“AI换脸”虚假视频诈骗已发生多起

  据内蒙古包头警方消息,近日,福建省一知名企业家被境外诈骗团伙骗走430万元。在得知涉案的一张银行卡在包头市一银行后,包头警方立即介入,仅用10分钟便将钱款及时控制住,为受害人止损336万余元。

  据当事人郭先生介绍,4月20日当天,骗子冒充他的至交好友,通过微信联系到他,视频中谎称一个朋友在外地招标,需要430万元,且需要公对公账户过账,想要借用郭先生公司的账户走一下账。“从头至尾都没有和我提借钱的事情,就说会先把钱给我打过来,再让我给他朋友账户转过去。因为在视频中也确认了面孔和声音,所以我放松了戒备。当时已经临近中午,对方又说招标款12点前必须到账,基于对好友的信任,还没等钱到我的账户,我就先把这430万元给对方打了过去。”郭先生说。

  钱款打过去后,郭先生给好友发了一条微信,称事情已经办妥。到对方回过来是一个问号,一问才知道自己竟遇上了AI换脸的骗局。

  多地警方密集提醒 涉及转账交易要格外留意

  北京青年报记者注意到,针对AI换脸诈骗的案件,近期国内各地警方密集进行了提醒。

  温州警方表示,不法分子通常会先盗取QQ或微信号,从QQ相册或微信朋友圈内找到号主照片、视频、声音等,大面积找好友聊天,看到有回复的,使用“AI换脸”技术与之进行视频聊天,再找各种理由骗钱,受害人往往看到视频聊天界面后,以为是好友本人,便相信转账。

  武汉警方提醒,在涉及转账交易等行为时,个人要格外留意。

  对自称“领导”“朋友”的转账要求务必提高警惕

  中国互联网协会则表示,如果有人自称“家人”“朋友”“老师”“领导”,通过社交软件、短信、电子邮件等,以各种方式和理由诱导你转账汇款,务必第一时间提高警惕。在AI时代,文字、声音、图像和视频都有可能是深度合成的。在转账汇款、资金往来这样的典型场景,要通过回拨对方手机号等额外通信方式核实确认,不要仅凭单一沟通渠道,未经核实就直接转账汇款,无论对方是谁。

  案例

  AI除了换脸换声扮好友还能合成不雅视频敲诈

  浙江温州市公安局也通报过一起利用AI换脸技术进行诈骗的案件。在这起案件中,陈先生收到了身处国外的好友“阿诚”发来的私信,在添加了对方的新微信后,对方表示自己最近准备回国,但购买机票的过程中遇到了难题,回国的机票已付了8000元定金,受到国际漫游限制,联系不上国内航空公司的经理,希望将剩余的钱转给陈先生,请他帮忙联系经理进行付款。

  对于此人的身份,陈先生有所怀疑,但对方随后打来视频电话,视频中“阿诚”和陈先生挥着手打招呼很是亲切,没过一会儿,对方就挂断了视频电话,称国外网络很卡。陈先生渐渐打消了心中的顾虑,并在“阿诚”一步步的“指导”下添加了“航空公司经理”的微信替“阿诚”支付了4.9万元。经过警方核实,骗子用AI换脸技术,利用阿诚社交平台上先前发布的视频,截取了面部视频画面并进行了“换脸”,从而对陈先生进行了诈骗。

  此外,江苏常州警方也通报了一起类似案例。小刘的初中同学“小韩”通过QQ联系小刘,准备借6000元钱, “小韩”先发来一条语音,声音很像本人,后来又给小刘打了一通视频电话。小刘转完钱后越想越不对劲,觉得“小韩”表情僵硬,于是拨打小韩的电话,没想到小韩的QQ账号被盗了

  北青报记者注意到,除了通过AI换脸,然后视频通话的手段直接诈骗钱财,还有诈骗分子通过AI不雅视频的方式进行诈骗,诈骗分子用AI技术合成诈骗对象的个人不雅照,然后以举报、散播等手段威胁当事人,要求诈骗对象汇款。

  在温州警方通报的一起案件中,温州的陈先生遭遇“AI换脸”敲诈,他收到一封“私家侦探”的敲诈信,同时附带了他与一名女子的所谓的不雅视频,信件中对方要求陈先生收件后速与其联系,不要心存侥幸,并威胁将视频散播到互联网。因为知道这是一段合成视频,但不知如何处理,陈先生向警方求助。目前此案件正在调查中。

  本组文/本报记者 李铁柱 (来源:北京青年报)

[ 责编:陈畅 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 天空之眼瞰湛江:向海而兴 向海图强

  • 集大原高铁跨京包铁路连续梁转体

独家策划

推荐阅读
对话》杂志报道称,地震气枪产生的声音会导致附近动物永久性听力丧失、组织损伤甚至死亡。海军声呐的使用还与加勒比海、欧洲和东亚的几种鲸鱼大规模搁浅有关。
2023-05-30 10:24
通过产业化运作,培育或支撑具有国际竞争力的上市种业企业,形成千亿级产业集群,为国家种业振兴贡献力量。
2023-05-30 10:23
在29日召开的2023中关村论坛“第三极环境与地球系统科学”论坛上,第二次青藏科考队队长姚檀栋院士表示,第二次青藏科考启动6年来,科考队坚持问题导向和目标导向,取得了十大重要进展。
2023-05-30 10:18
2023中关村论坛上,北京建设全球数字经济标杆城市的新突破集中亮相,城市超级算力中心、自动驾驶等方面的阶段性成果受到各方高度关注。
2023-05-30 10:14
要规范科技类校外培训,严格竞赛活动管理,统筹拔尖创新人才项目,推进中高考内容改革,实施家庭科学教育,开展科学教育研究。
2023-05-30 10:12
记者29日从教育部获悉,教育部等十八部门近日联合印发关于加强新时代中小学科学教育工作的意见。
2023-05-29 19:41
最初,研究人员考虑了糖皮质激素直接作用于免疫细胞的可能,即免疫细胞通过释放引起炎症的分子作出反应。
2023-05-29 10:17
云手机通过在云端虚拟出手机操作系统,将本地的存储、计算、渲染全部迁移到云上,操作系统以及各种应用均运行在云端,以实现硬件与性能的解耦。科技日报记者从北京移动了解到,相比实体手机,中国移动云手机有4个方面的提升。
2023-05-29 10:16
1985年,我硕士研究生毕业,被分配到长沙矿山研究院工作。经过4年不懈努力,2003年,我主持研发的我国首台深海浅层岩芯取样钻机问世,中国人终于用自己的深海钻机,在太平洋洋底打出了第一个孔。
2023-05-29 10:09
作为贵州本地数字货运平台,满帮通过物联网、云计算、大数据等技术创新,把车货匹配时效从数天大幅缩减到分钟级别。
2023-05-29 10:06
早上7点半,河南省柘城县辣椒育苗基地工作人员张红霞准时来到温室大棚。
2023-05-29 10:04
近日,中国科学技术大学俞书宏院士团队研制出一种高性能纤维素基纳米纸材料,其在极端条件下仍可保持优异的机械和电绝缘性能。相关成果日前发表于《先进材料》。
2023-05-26 09:25
立足我国人多地少的资源禀赋,面向建设人与自然和谐共生的现代化的时代要求,如何向戈壁沙漠要效益、要农产品?让我们走进四地设施农业现场,感受“唤醒”沉睡戈壁和茫茫沙漠的神奇力量。
2023-05-26 09:23
北京人艺经典话剧《茶馆》采用8K技术录制,通过网络平台观看直播的观众达5000万人次,掀起线上看话剧热潮;多位歌手视频平台开唱,线上演唱会引发现象级传播……数字技术的创新发展,让舞台艺术的作品呈现、演出场景发生了颠覆式变化。
2023-05-26 09:22
这颗卫星是“一国两制”下澳门和内地合作的产物。卫星升空后将至少在轨运行五年,为年轻一代科研人员开展科研、开发先进科学数据产品服务提供平台。
2023-05-26 09:22
世界百年未有之大变局加速演进,世界经济复苏面临严峻挑战,创新发展、合作共赢是大势所趋。
2023-05-26 09:21
中共中央、国务院印发的《数字中国建设整体布局规划》指出,建设数字中国是数字时代推进中国式现代化的重要引擎,是构筑国家竞争新优势的有力支撑。2000年前后,不少省市就政务信息的开放共享等制定了地方性法规或政府规章,但随着数据立法的兴起,多数地方的政务信息立法被废止。
2023-05-25 10:05
近日,习近平总书记给中国农业大学科技小院的同学们回信,对他们提出殷切期望。一个个科技小院如种子般播撒开来,向下扎根、向上生长。2009年,全国第一个科技小院在河北省曲周县成立,到今天,全国已建立1048个科技小院,覆盖31个省份;此外,科技小院模式还得到联合国粮农组织推介,逐渐走向世界。
2023-05-25 10:05
广州港南沙港区四期全自动化码头,集北斗导航、5G通讯、无人驾驶等前沿技术于一体。专家表示,去年以来,我国卫星导航与位置服务产业呈现规模稳步提升的发展态势,离不开市场需求的拉动。
2023-05-25 10:08
5月24日,国家自然科学基金委员会(以下简称自然科学基金委)正式发布《国家自然科学基金项目评审请托行为禁止清单》(以下简称“禁止清单”)。在《国家自然科学基金项目评审请托行为禁止清单(征求意见稿)》基础上,此次正式发布的“禁止清单”对科研人员、依托单位、评审专家和自然科学基金委工作人员的24类行为进行了规定。
2023-05-25 10:07
加载更多