点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:用一张照片就能骗走你的钱?拆解“AI换脸”诈骗套路
首页> 法治频道> 法治要闻 > 正文

用一张照片就能骗走你的钱?拆解“AI换脸”诈骗套路

来源:央视新闻客户端2024-06-17 15:42

  随着人工智能软件普及,“AI换脸”“AI合成照片、视频”等技术越来越多地出现在网络里,“AI”造假花样越来越多,一些不法分子将新技术用于非法的目的,让犯罪手段又有了新方式。

  “一键去衣”!

  深度伪造近七千张淫秽图片

  在北京警方侦破的一起案件中,警方接到报案,有人在境外的网站上发广告,只需一张日常生活照片,就可以完成一键“去衣”的效果。

  一名被警方抓获的犯罪嫌疑人白某某原本是一家互联网公司的技术员,他因为使用AI去衣技术,制作、贩卖淫秽物品而涉嫌犯罪。

  北京市海淀区人民检察院检察官助理 郭树正:白某某用的这款人工智能软件,能很快对被害人的图片“一键去衣”,基本上几秒钟、几分钟就能批量生成相应的图片。

  警方在白某某家的电脑里,查获了大量的涉案照片,都是经过“一键去衣”技术处理的。

  郭树正:他在QQ上向351个人贩卖过相关图片,图片数量将近7000张。

  随后,白某某因涉嫌制作、贩卖淫秽物品牟利罪被公诉至法院。今年4月19日,北京市海淀区人民法院对这起案件进行了开庭审理。

  公诉人:其对含有人脸信息的众多不特定女性照片进行侮辱性编辑并出售,图片数量多,涉及人数多,社会公众利益受到严重损害。

  那么,这些经过去衣的照片的受害者都是什么人?白某某为什么要制作这些照片呢?他又是如何进行牟利的呢?

  2023年6月,家住北京的白某某在境外的社交媒体上接触到了这项“一键去衣”的技术,于是他动起了歪心思,打算利用这项技术来赚钱。

  北京市海淀区人民检察院检察官 李鹏:他在境外的社交媒体上发布了广告,内容就是“去衣”,1.5元一张。

  每张1.5元 发广告招揽图片定制服务

  这就是白某某发布的广告帖,上面写着“电脑AI去衣,白菜价”“身边人、网红、明星皆可”。他的广告发布后,有不少人联系白某某,给他发送照片并购买这项“去衣”服务。

  郭树正:一张图片他卖1.5元,能迅速满足相关人的需求。这个时候就有很多人去浏览白某某在境外社交网站上发布的帖子,经过我们统计,浏览他发布广告的人有3万人左右。

  那么,“AI去衣”究竟是怎样的一种技术呢?据白某某供述,这项技术并不是真的“去衣”,而是一种伪造、重绘的技术。

  郭树正:其实我们可以把它理解为深度的图片伪造,它并不是真的去掉别人照片上的衣服,其实都是针对已有的模型和已有的模组进行图片重绘。

  而且,这项技术操作起来十分简单,去衣只需要一键就能完成,因此白某某定价不高,一张照片只需要1.5元,却可以利用低价吸引更多的订单。

  短短几个月的时间,白某某就制作了几千张去衣的图片,赚了将近一万元钱。然而,他却没有意识到这一行为可能产生的严重后果。

  郭树正:其中有让白某某去学生、教师、女同事等衣服的图片。根据我们调查,白某某在这个过程中,他其实是知道可能会有人拿这个图片实施违法犯罪行为,比方说敲诈勒索,或者继续传播对被害人的名誉造成一定的损失,或者实施一些其他更恶劣的犯罪行为。

  检察官介绍,白某某使用的实际上是一个正规的AI绘图软件,而“去衣”只是其中的一个功能模块。白某某自以为发现了其中的商机,实际上却把自己送到了法庭里被告人的位置上。

  公诉人:经依法审查查明,2023年6月至8月,被告人白某某在本市海淀区等地发布AI虚拟广告,将他人提供的承载人脸信息的特定多数女性图片,通过深度制造技术AI软件制作成裸体图片贩卖牟利,同时出售AI去衣软件及使用教程牟利。

  涉嫌制作贩卖淫秽物品牟利罪被提起公诉

  检察机关认为,被告人白某某以牟利为目的,制作、贩卖淫秽物品,情节严重,其行为触犯了《中华人民共和国刑法》的相关规定,应当以制作、贩卖淫秽物品牟利罪追究其刑事责任。

  郭树正:非法进行加工和利用,加工利用之后又通过各种非法途径传播,导致本来是为我们服务,为科技进步发展提供帮助的一项技术,变成了犯罪的工具。

  侵犯不特定女性名誉 破坏网络环境

  检察机关认为,白某某利用AI技术犯罪的行为不仅侵犯了无数无辜者的隐私与名誉,还破坏了网络环境的纯净,与科技向善的精神相背离。而利用新技术犯罪,也将受到司法机关的严厉打击。

  公诉人:人工智能技术兴起之后,已经成为当今科技领域备受瞩目的技术之一,正在深刻改变我们社会、经济以及生活方式,为社会带来更多的便利。同时我们也打击治理运用AI技术实施犯罪,任何利用新技术实施犯罪的行为必将受到严惩。

  “换脸”伪造不雅照

  实施敲诈勒索

  一键去衣、AI换脸技术,还会被不法分子利用,成为敲诈勒索的工具。近期,这类案件又有抬头趋势。前不久,深圳警方打掉一个团伙,这个团伙从网上等各种渠道收集被害人图片信息,然后进行合成处理,用来敲诈勒索。

  前不久,深圳市民吴先生突然收到一个陌生手机号码发来的彩信,点开一看竟然是他和一名陌生女子在酒店房间内的不雅照片。

  当事人 吴先生:当时我收到一条彩信,里面是我的一张裸照,他当时威胁我,在几点之前要跟他联系给他转钱,我当时一想不对劲,就报警了。

  深圳警方接到报案后,立即对吴先生提供的线索进行侦查。通过梳理报案记录,警方发现全市有同样遭遇的不止吴先生一人,犯罪嫌疑人的敲诈勒索方式都如出一辙。

  当事人 邓先生:内容就是有我的照片,我旁边还有女的,还写我的名字。我还问我的同事,我同事说这肯定是别人复制上去的。

  于是警方立即对相似的案件进行串并处理。调查后,一个通过换脸技术合成不雅照,实施敲诈勒索的犯罪团伙逐渐浮出水面。

  深圳市公安局坪山分局民警 张威:经调查,这个团伙流窜作案,以“已掌握你在外面找小姐”“艳照将公之于众”等方式进行威胁,进而逼迫受害人“破财消灾”,从而达到敲诈勒索的目的。

  团伙分工明确:有人修图、有人寻作案目标

  随着侦查工作的深入,警方发现这是一个以王某为首的犯罪团伙,团伙内分工明确,有人负责修图,有人负责寻找作案目标,有人负责发短信打电话联系收款。深圳坪山警方兵分多路,展开统一收网行动,在多地警方协助下成功抓获以王某为首的十多名犯罪嫌疑人。

  在犯罪嫌疑人的电脑里,警方发现了大量经过合成换脸后的不雅照片。

  张威:从嫌疑人电脑里面提取的相关证据,这些图片是嫌疑人从网上等各种渠道收集的被害人图片信息,然后进行合成处理,用来敲诈被害人。

  目前,王某等人已被检察机关提起公诉。案件正在进一步审理当中。

  深圳市公安局刑警支队民警 程儒:如果遇到这种以换脸的方式实施敲诈勒索的行为,请及时报警。我们公安机关会依法严厉打击这种违法犯罪,在案件办理过程当中严格保护当事人的个人隐私。

  以合成照威胁受害人

  并准确说出个人信息

  在山东威海,也有当事人遭遇到骗局,在收到伪造的不雅照后,没有多加核实,就向敲诈团伙转账20万元。

  前不久,威海警方接到了反诈中心的一条资金预警信息,有市民正在向涉诈账户进行转账,民警立即与当事人取得联系,核实情况。

  威海市公安局经济技术开发区分局皇冠派出所民警 刘羿:我们看到他的手机收到了一条短信,短信上的内容大概就是一张图片,上面有一男一女的裸照,还附了留言,说“我有你全部的影像资料,赶紧跟我联系”,并附上了一个电话。

  王先生说自己当时看到这张照片,当时就有点懵。没有来得及多想,他拨打了信息上面的电话。由于对方准确地说出了自己的姓名以及工作单位,并且告诉王先生只要向他们转账68万元就可以买断这些视频,如果王先生不给钱就把视频公开。在对方的恐吓下,王先生信以为真。

  刘羿:王先生起初没有那么多钱,所以他就说我先给你10万元,对方同意后就给他发了一个指定的银行账户,所以王先生就向账户内转了第一笔10万元。然后对方仍然给他打电话说这个钱太少了,如果不想让其他人知道,不想让单位的同事知道,就必须再次转账。王先生通过多方筹集,又向指定的银行账户转了第二笔10万元。

  先后转账20万元 但未能满足对方胃口

  然而,先后转账的20万元,根本满足不了对方的胃口。正当王先生惊慌失措时,民警联系到了王先生。

  刘羿:当我们跟王先生一同看这张照片的时候,我们发现虽然脸部有相似的地方,但是他的脸型以及身形完全不是他本人。

  之后,民警赶紧通过国家反诈大数据平台对王先生转账的两个银行账户进行紧急止付操作。

  刘羿:平台对我们止付的这两个账户进行反馈,反馈出账户的余额以及银行卡的卡主身份等等情况。我们发现这两个账户的余额已经显示为0,所以我们紧接着就对这两个账户进行分析研判。

  警方紧急止付 经过研判锁定两名嫌疑人

  经过研判分析,警方锁定了犯罪嫌疑人郑某和钟某的身份信息。今年1月22日,威海警方赶赴浙江乌镇将两名犯罪嫌疑人抓获归案,为王先生挽回了损失。

  警方介绍,在这些案件当中,犯罪嫌疑人先是通过网络等渠道,搜集被害人的视频、照片以及相关信息。再通过AI换脸技术PS合成所谓的“不雅视频”或“艳照”,然后通过短信、邮箱等渠道,精准发送给选定的对象并留下联系方式,最后以要举报、散播、告知家属等手段威胁选定的对象,要求被害人将钱汇到他们指定的银行账户。

  警方提示:遇到此类情况要及时留存证据,拨打110报警。(央视新闻客户端)

[ 责编:孙满桃 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 文昌航天科普中心焕新升级

  • 三名科学家获得2025年诺贝尔物理学奖

独家策划

推荐阅读
科普资源“需求侧”井喷,“供给侧”该如何应对?
2025-09-30 02:50
从今天起,我们不妨每天给孩子留出30分钟,让他们把第一个“为什么”写下来;不妨对孩子说一句“这个问题真有意思,一起找答案”;不妨在课堂上把“解题步骤”暂时收起,让学生先猜、先试,让好奇心重新成为我们最闪耀的指南针。
2025-09-30 04:05
这个秋天,北京航空航天大学的一批新生将开启一段独特的学习旅程:从大二开始,他们将亲手参与设计一架低空飞行器,直至它真正试飞升空。想象一下,课堂上学到的公式和图纸,几年后竟能化作低空飞行器飞向蓝天,多么振奋人心!这不是科幻电影,而是北航在全国率先开设的“低空技术与工程”专业推出的“项目制人才培养”真实场景。
2025-09-30 04:05
时代浪潮奔涌,技术创新日新月异,国家发展对高素质应用型人才的需求比以往任何时候都更为迫切。由“中国制造”迈向“中国智造”,从关键技术的突破到现代产业体系的构建,处处都需要既掌握扎实理论知识,又具备卓越实践能力的青年英才。
2025-09-30 04:05
辽中凹陷位于渤海北部海域,平均水深22米。探井JZ27-6-3井钻遇油气层57.4米,完钻井深1925米。经测试,该井日产原油约500吨,日产天然气约2万立方米。
2025-09-30 04:05
2025年全国古树名木保护科普宣传周活动29日在广州启动。记者从启动仪式上获悉,为进一步加强古树名木保护,我国已启动第三次全国古树名木资源普查,并严格落实《古树名木保护条例》,按照“一树一策”“一群一策”原则,持续推进科学保护管理,推动古树名木高水平保护和高质量发展。
2025-09-30 04:05
成功攻克了近距离飞行与高精度操作难以兼顾的核心技术难题
2025-09-30 02:50
当科研人员在各自领域里突飞猛进时,科幻创作需要正视专业壁垒与认知鸿沟,更重要的是寻找方法跨越鸿沟。
2025-09-30 02:50
健全大联合、广协同、全覆盖、共建共治共享的国家科普体系,全面构筑新时代国家科普能力
2025-09-30 02:50
建设海洋强国,离不开海洋文化等软实力的支撑。
2025-09-29 09:22
2025年世界新能源汽车大会27日在海南海口开幕。大会以“产业变革与可持续发展”为主题,策划了18场会议、2场闭门会议、技术展览、科技评选和系列科普活动。
2025-09-29 05:25
国家“十四五”规划重点工程——青藏直流二期扩建工程28日正式投运,可将青海与西藏之间的输电能力提高一倍,达到120万千瓦,对于提高西藏电力供应保障能力,促进清洁能源大范围优化配置,服务建设新型电力系统具有重要意义。
2025-09-29 05:25
日前,第五届世界生物圈保护区大会在浙江杭州落下帷幕。这场十年一届的盛会首次在亚洲举行,各方代表齐聚一堂,汇聚共识,共同探讨进一步促进人与自然和谐共生、实现可持续发展的思路与举措。
2025-09-29 05:25
科普是国家创新体系的重要组成部分,是实现创新发展的基础性工作。
2025-09-29 03:15
“我们要做轻量化,就是要做轻量化生态,要建设轻量化生态系统。”在2025(第十八届)汽车轻量化大会(以下简称“大会”)上,北汽福田欧曼事业部研发中心底盘系统高级主任工程师兼公司轻量化负责人李军代表公司获得“汽车轻量化创新成果大赛卓越成果奖”,展现了中国商用车轻量化技术的最新突破。
2025-09-29 07:19
目前,我国专业技术人才超过8000万人,技能劳动者总量超过2.2亿人,其中高技能人才超过7200万人,为推动高水平科技自立自强、建设现代化产业体系提供了坚实人才支撑。
2025-09-28 09:45
9月27日20时40分,我国在太原卫星发射中心使用长征六号改运载火箭,成功将卫星互联网低轨11组卫星发射升空,卫星顺利进入预定轨道,发射任务获得圆满成功。
2025-09-28 09:39
今天,横跨贵州省贞丰县与关岭县的世界第一高桥——六安高速花江峡谷大桥正式建成通车。大桥通车后,原来需要绕行2小时的花江峡谷两岸贞丰县至关岭县,如今仅需2分钟即可直达,真正实现了“天堑变通途”。
2025-09-28 09:39
近日,2025亚太机器人世界杯青岛国际邀请赛在青岛西海岸新区举行,来自12个国家和地区的84支代表队同台竞技。在各类比赛中,人形机器人足球赛吸引了最多观众“观战”。
2025-09-28 04:15
加载更多