点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:利用“AI换脸”等音视频诈骗案件多发
首页> 法治频道> 法治要闻 > 正文

利用“AI换脸”等音视频诈骗案件多发

来源:北京青年报2023-05-25 10:10

  今年以来,ChatGPT和GPT-4等技术的应用成为信息科技领域的热点,引起公众对AI技术的广泛关注和热情。昨日,中国互联网协会发文称,伴随着深度合成技术的开放开源,深度合成产品和服务逐渐增多,利用“AI换脸”“AI换声”等虚假音视频进行诈骗、诽谤的违法行为屡见不鲜。北京青年报记者查询发现,国内多地警方已经发布了相关案例。

  利用“AI换脸”虚假视频诈骗已发生多起

  据内蒙古包头警方消息,近日,福建省一知名企业家被境外诈骗团伙骗走430万元。在得知涉案的一张银行卡在包头市一银行后,包头警方立即介入,仅用10分钟便将钱款及时控制住,为受害人止损336万余元。

  据当事人郭先生介绍,4月20日当天,骗子冒充他的至交好友,通过微信联系到他,视频中谎称一个朋友在外地招标,需要430万元,且需要公对公账户过账,想要借用郭先生公司的账户走一下账。“从头至尾都没有和我提借钱的事情,就说会先把钱给我打过来,再让我给他朋友账户转过去。因为在视频中也确认了面孔和声音,所以我放松了戒备。当时已经临近中午,对方又说招标款12点前必须到账,基于对好友的信任,还没等钱到我的账户,我就先把这430万元给对方打了过去。”郭先生说。

  钱款打过去后,郭先生给好友发了一条微信,称事情已经办妥。到对方回过来是一个问号,一问才知道自己竟遇上了AI换脸的骗局。

  多地警方密集提醒 涉及转账交易要格外留意

  北京青年报记者注意到,针对AI换脸诈骗的案件,近期国内各地警方密集进行了提醒。

  温州警方表示,不法分子通常会先盗取QQ或微信号,从QQ相册或微信朋友圈内找到号主照片、视频、声音等,大面积找好友聊天,看到有回复的,使用“AI换脸”技术与之进行视频聊天,再找各种理由骗钱,受害人往往看到视频聊天界面后,以为是好友本人,便相信转账。

  武汉警方提醒,在涉及转账交易等行为时,个人要格外留意。

  对自称“领导”“朋友”的转账要求务必提高警惕

  中国互联网协会则表示,如果有人自称“家人”“朋友”“老师”“领导”,通过社交软件、短信、电子邮件等,以各种方式和理由诱导你转账汇款,务必第一时间提高警惕。在AI时代,文字、声音、图像和视频都有可能是深度合成的。在转账汇款、资金往来这样的典型场景,要通过回拨对方手机号等额外通信方式核实确认,不要仅凭单一沟通渠道,未经核实就直接转账汇款,无论对方是谁。

  案例

  AI除了换脸换声扮好友还能合成不雅视频敲诈

  浙江温州市公安局也通报过一起利用AI换脸技术进行诈骗的案件。在这起案件中,陈先生收到了身处国外的好友“阿诚”发来的私信,在添加了对方的新微信后,对方表示自己最近准备回国,但购买机票的过程中遇到了难题,回国的机票已付了8000元定金,受到国际漫游限制,联系不上国内航空公司的经理,希望将剩余的钱转给陈先生,请他帮忙联系经理进行付款。

  对于此人的身份,陈先生有所怀疑,但对方随后打来视频电话,视频中“阿诚”和陈先生挥着手打招呼很是亲切,没过一会儿,对方就挂断了视频电话,称国外网络很卡。陈先生渐渐打消了心中的顾虑,并在“阿诚”一步步的“指导”下添加了“航空公司经理”的微信替“阿诚”支付了4.9万元。经过警方核实,骗子用AI换脸技术,利用阿诚社交平台上先前发布的视频,截取了面部视频画面并进行了“换脸”,从而对陈先生进行了诈骗。

  此外,江苏常州警方也通报了一起类似案例。小刘的初中同学“小韩”通过QQ联系小刘,准备借6000元钱, “小韩”先发来一条语音,声音很像本人,后来又给小刘打了一通视频电话。小刘转完钱后越想越不对劲,觉得“小韩”表情僵硬,于是拨打小韩的电话,没想到小韩的QQ账号被盗了

  北青报记者注意到,除了通过AI换脸,然后视频通话的手段直接诈骗钱财,还有诈骗分子通过AI不雅视频的方式进行诈骗,诈骗分子用AI技术合成诈骗对象的个人不雅照,然后以举报、散播等手段威胁当事人,要求诈骗对象汇款。

  在温州警方通报的一起案件中,温州的陈先生遭遇“AI换脸”敲诈,他收到一封“私家侦探”的敲诈信,同时附带了他与一名女子的所谓的不雅视频,信件中对方要求陈先生收件后速与其联系,不要心存侥幸,并威胁将视频散播到互联网。因为知道这是一段合成视频,但不知如何处理,陈先生向警方求助。目前此案件正在调查中。

  本组文/本报记者 李铁柱 (来源:北京青年报)

[ 责编:陈畅 ]
阅读剩余全文()

相关阅读

您此时的心情

光明云投
新闻表情排行 日/周
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 三峡枢纽新通道首条500千伏线路迁改施工进入冲刺阶段

  • 中外专家学者在美共话斯诺精神遗产

独家策划

推荐阅读
今年“双11”,不少人的订单里多了一种看不见、摸不着的新东西:Token。81岁的图灵奖得主马丁·赫尔曼打了个有趣的比方:人类就像一个刚拿到驾照的人,不知怎么弄到了一辆500匹马力跑车。
2026-11-16 09:29
初冬时节,位于黄河岸边的河南开封前方园艺公司菊花销售依然火热,员工们忙着将一盆盆娇艳的观赏菊装上货车、送往开封市区各景点,将一包包新鲜的食用菊发往全国各地。
2026-11-16 04:50
14日,以“智能经济赋能·绿色引领未来——‘十五五’长江经济带高质量发展的新方位与新征程”为主题的第十一届长江经济带发展论坛在江苏南通举行。会上,南通大学江苏长江经济带研究院最新研究成果发布。
2026-11-16 04:50
11月18日至19日,亚太经合组织(APEC)第三十三次领导人非正式会议将在深圳举行。围绕“建设亚太共同体,促进共同繁荣”主题,聚焦“开放、创新、合作”三大优先领域,中国全年举办300多场APEC活动。
2026-11-16 04:50
14日,我国自主研制的10吨级电动商用飞机CE-25A在山东滨州完成首次有人驾驶智能飞行。飞机搭载2名飞行员、1名试飞工程师,飞行试验57分46秒,其中空中飞行16分38秒、60.4公里,飞机状态正常,各项指标符合预期。
2026-11-16 04:50
技能是劳动者的重要生产禀赋,是其嵌入生产过程、与生产工具协同的关键点。机械化、电气化和自动化催生了产业革命,建立起机器大生产与标准化流水线。在此情境下,对标准化设备的熟练操作成为劳动者的核心技能,“动手能力”成为技能人才的鲜明标签。
2026-11-13 09:55
由自然资源部、国家发展改革委联合印发的《关于“人工智能+自然资源”的实施意见》日前对外发布。《意见》旨在推动人工智能在自然资源领域规模化、产业化创新应用,服务国土空间规划“一张图”智能化升级。
2026-11-13 01:50
天津农业合成生物与生物智造科创园占地41.4亩,布局创新创业、中试、检验检测等七大功能板块,承担的是“从1到10”的成果转化职能。用谯仕彦自己的话说:“实验室实现‘从0到1’,工厂完成规模化制造,二者中间横亘着中试熟化、工程放大、市场验证等重重关口。这座科创园,就是一座跨越转化难关的桥梁。”
2026-11-13 01:50
知识的创新、传播与应用彼此关联,却承担不同的认知任务。把已有道理向更多人讲清楚,可以扩大知识的社会影响;提出此前尚未形成的科学解释,则可能改变人们对世界的认识。评判人工智能在知识生产中的作用,应区分知识传递的效率与知识创新的增量,并考察其在不同知识活动中承担的任务。
2026-11-13 02:20
该井位于渤海中部海域,紧邻渤海最大的富烃凹陷—渤中凹陷,在火山岩地层中累计钻遇超120米天然气层,完钻井深5770米。经测试,该井日产天然气约80万立方米(约2800万立方英尺),展现了海上超深层火山岩领域广阔的勘探前景,有力推动了渤中凹陷天然气勘探进程。
2026-11-13 02:20
绿色算力既是数字基础设施建设的重要方向,也是清洁能源优势转化为发展动能的现实路径。当前,人工智能技术加快迭代,算力在科技创新和产业升级中的基础作用日益凸显,持续增长的计算需求对电力保障能力和能源利用效率提出了更高要求。
2026-11-12 01:30
把两根绳子接起来量一量,总长就出来了,不必先把两段长度换算成数字再相加。模拟计算走的是这条路:不把问题拆成一条条指令,而是让物理规律直接给出结果。北京大学人工智能研究院孙仲团队牵头,联合意大利米兰理工大学、IBM苏黎世研究院和美国一家公司的研究人员,为正在升温的模拟计算研究提出“现代模拟计算”统一框架。相关论文于近日发表。
2026-11-12 01:30
眼下,重庆市彭水苗族土家族自治县的红薯正值采挖时节,一辆辆轻型卡车在通往种植基地的“产业路”上穿梭,将收获的鲜薯运送到县工业园的重庆乐薯农业有限公司,经过严格的品质检测、清洁和一系列加工程序后,便成了人们常见的红薯淀粉。
2026-11-12 02:05
11月10日,记者从山东省泰安市人民政府新闻办举行的发布会获悉,泰安将科学有序、免费开放部分泰山景区等场地,为国内外机器人企业、科研机构提供实景训练测试条件,同时统筹做好场景供需对接、数据算力支撑、落地服务保障等,推动泰安新型工业化强市建设。
2026-11-12 02:05
当前,全球新一轮科技革命和产业变革加速演进,以生成式人工智能为代表的通用目的技术正从生产端加速向消费端传导。餐饮住宿、文旅出行、养老照护、教育培训、家政美容等服务消费,直接关系到千家万户的日常生活品质。推动人工智能在服务领域深度应用,让前沿技术成果惠及更多消费者,已成为各国促进消费、提升服务业竞争力的共同关注点。
2026-11-12 02:15
全透明光伏发电玻璃可使玻璃幕墙建筑成为分布式光伏电站;新一代柔性太阳能电池阵,能为中国空间站提供电力保障。下一步,我们要高水平推进“中国碳谷”建设,形成创新合力,打通基础研究、技术攻关、产业孵化和品牌塑造全链条。
2026-11-11 09:27
国家卫生健康委、国家医保局、国家中医药局、国家疾控局共同制定印发《关于进一步做好创新药安全合理配备使用工作的通知》,满足群众多元化用药需求,提高疾病治疗效果,保障医疗质量安全。
2026-11-11 01:45
培育和发展新质生产力急需高质量创新人才。高校的独特之处,在于教育、科技、人才要素集聚,它处在科技第一生产力、人才第一资源、创新第一动力的结合点上,也承担着将三者统合起来的制度功能。
2026-11-11 01:45
与其说是AI解出了难题,不如说是人类在AI的协助下拓展了边界。这带来的不仅是解题速度的提升,更是一场深刻的科研范式之变。
2026-11-11 01:45
主动对接国家西部战略和甘肃现代产业体系建设
2026-11-11 01:45
加载更多