利用“AI换脸”虚假视频诈骗多地警方发布案例

今年以来，ChatGPT、GPT-4等技术的应用成为信息技术领域的热点，引发了大众对人工智能技术的广泛关注和热情。 昨日（24日），中国互联网协会发文称，随着深度合成技术的开源，深度合成产品和服务逐渐增多，使用“AI换脸”等虚假音视频属于违法行为和“AI变声”进行诈骗和诽谤。 行为并不少见。 北京青年报记者采访发现，国内多地警方发布了相关案件。

利用“AI换脸”进行虚假视频诈骗的案例已经多起

据内蒙古包头警方通报，近日，福建省某知名企业家被境外诈骗团伙诈骗430万元。 得知涉案银行卡在包头市一家银行后，包头警方立即介入，仅用10分钟就控制了这笔钱，为被害人止损336万余元。

据当事人郭先生介绍，4月20日，骗子冒充其好友，通过微信与其联系。 视频中，他谎称有朋友在外地竞拍，要价430万元，需要从公对公账户转账。 借用郭先生公司的账户来付账。 “从头到尾PC蛋蛋信誉群，他都没有跟我提过贷款的事情，他说先把钱打给我，然后让我转账到他朋友的账户上。因为人脸和声音也都确认在看完视频，我放松了警惕，当时快中午了，对方说投标钱必须在12点前到账，基于对朋友的信任，我把430万元给了对方在钱到达我的账户之前开派对。” 郭先生说

钱转完后，郭先生给朋友发了微信，说事情已经解决了。 对方回来的时候一脸问号，一问才知道自己遇到了AI换脸骗局。

多地警方密集提醒大家注意涉及汇款的交易

北京青年报记者注意到，近期，全国各地警方密集发布人工智能换脸诈骗案件提醒。

温州警方表示，不法分子通常会先窃取QQ或微信，从QQ相册或微信朋友圈中查找账号主人的照片、视频、语音等，大面积与好友聊天。 Face”技术与他们进行视频聊天，然后找各种理由骗钱。 受害人往往看到视频聊天界面，认为是自己的朋友，于是相信了转账。

武汉警方提醒，个人对于转账交易等行为要格外小心。

警惕以“领导”、“朋友”名义提出的汇款要求

中国互联网协会表示，如果有人自称是“家人”、“朋友”、“老师”、“领导”，通过社交软件、短信、邮件等方式诱导您转账汇款各种方式和原因，你必须立即提高警惕。 AI时代，文字、声音、图像、视频都可能被深度合成。 在转账汇款、资金往来等典型场景中，需要通过回拨对方手机号等附加通讯方式进行验证确认。 无论对方是谁，都不要依赖单一的沟通渠道，未经验证直接转账。

案子

AI除了变脸变声假扮朋友，还能合成不雅视频敲诈勒索

浙江省温州市公安局也通报了一起利用人工智能换脸技术诈骗的案件。 就在这时，陈先生收到了旅居国外的好友“阿城”的私信。 添加对方新微信后，对方称自己最近准备回国，但在购票过程中遇到了困难。 回国的机票我已经付了8000元押金。 由于国际漫游限制，我无法联系到国内航空公司的经理。 希望把剩下的钱转给陈先生多地警方密集提醒，让他联系经理付款。

陈先生对这个人的身份有些怀疑，但对方随后打了一个视频电话。 视频中，“阿诚”和陈老师十分亲切地挥手打招呼。 过了一会儿，对方挂断了视频通话，说老外网速很慢。 陈先生逐渐打消了顾虑，在“阿诚”的一步步“指导”下，他加了“航司经理”的微信，并为“阿诚”支付了4.9万元。 经警方核实，骗子利用AI换脸技术截取人脸视频画面，利用此前发布在阿诚社交平台上的视频进行“换脸”，从而对陈先生进行诈骗。

此外，江苏常州警方也通报了一起类似案件。 小刘的初中同学“小韩”通过QQ联系到小刘，打算借6000元。 “小寒”先是发了一条语音，跟自己的声音很像，然后给小刘打了视频电话。 小刘转完钱后，越想越不对劲。 他觉得“小寒”表情僵硬，就给小寒打电话，不料小寒的QQ号被盗了。

北青报记者注意到，除了通过AI换脸，然后直接通过视频通话骗钱，还有利用AI骗取不雅视频的骗子。 骗子利用人工智能技术合成骗子的个人不雅照片。 然后通过举报、散播等方式威胁当事人，要求被骗对象汇款。

在温州警方通报的一起案件中，温州陈先生被“AI换脸”勒索。 他收到一封来自“私家侦探”的勒索信，信中附有所谓的他和一名女子的不雅视频。 中方要求陈先生收到邮件后尽快与其联系，不要心存侥幸，并威胁要将视频传到网上。 陈先生明知是合成视频却不知如何是好，向民警求助。 此案目前正在调查中。

今年以来，ChatGPT、GPT-4等技术的应用成为信息技术领域的热点，引发了大众对人工智能技术的广泛关注和热情。 昨日（24日），中国互联网协会发文称，随着深度合成技术的开源，深度合成产品和服务逐渐增多，使用“AI换脸”等虚假音视频属于违法行为和“AI变声”进行诈骗和诽谤。 行为并不少见。 北京青年报记者采访发现，国内多地警方发布了相关案件。

利用“AI换脸”进行虚假视频诈骗的案例已经多起

据内蒙古包头警方通报，近日，福建省某知名企业家被境外诈骗团伙诈骗430万元。 得知涉案银行卡在包头市一家银行后，包头警方立即介入，仅用10分钟就控制了这笔钱，为被害人止损336万余元。

据当事人郭先生介绍，4月20日，骗子冒充其好友，通过微信与其联系。 视频中，他谎称有朋友在外地竞拍，要价430万元，需要从公对公账户转账。 借用郭先生公司的账户来付账。 “从头到尾，他都没有跟我提过贷款的事情怎么找PC蛋蛋微信群平台，他说先把钱打给我，然后让我转账到他朋友的账户上。因为人脸和声音也都确认在看完视频，我放松了警惕，当时快中午了，对方说投标钱必须在12点前到账，基于对朋友的信任，我把430万元给了对方在钱到达我的账户之前开派对。” 郭先生说

钱转完后，郭先生给朋友发了微信，说事情已经解决了。 对方回来的时候一脸问号，一问才知道自己遇到了AI换脸骗局。

多地警方密集提醒大家注意涉及汇款的交易

北京青年报记者注意到，近期，全国各地警方密集发布人工智能换脸诈骗案件提醒。

温州警方表示，不法分子通常会先窃取QQ或微信，从QQ相册或微信朋友圈中查找账号主人的照片、视频、语音等，大面积与好友聊天。 Face”技术与他们进行视频聊天，然后找各种理由骗钱。 受害人往往看到视频聊天界面，认为是自己的朋友，于是相信了转账。

武汉警方提醒，个人对于转账交易等行为要格外小心。

警惕以“领导”、“朋友”名义提出的汇款请求

中国互联网协会表示，如果有人自称是“家人”、“朋友”、“老师”、“领导”，通过社交软件、短信、邮件等方式诱导您转账汇款各种方式和原因，你必须立即提高警惕。 AI时代，文字、声音、图像、视频都可能被深度合成。 在转账汇款、资金往来等典型场景中，需要通过回拨对方手机号等附加通讯方式进行验证确认。 无论对方是谁，都不要依赖单一的沟通渠道，未经验证直接转账。

案子

AI除了变脸变声假扮朋友多地警方密集提醒，还能合成不雅视频敲诈勒索

浙江省温州市公安局也通报了一起利用人工智能换脸技术诈骗的案件。 就在这时，陈先生收到了旅居国外的好友“阿城”的私信。 添加对方新微信后，对方称自己最近准备回国，但在购票过程中遇到了困难。 回国的机票我已经付了8000元押金。 由于国际漫游限制，我无法联系到国内航空公司的经理。 希望把剩下的钱转给陈先生，让他联系经理付款。

陈先生对这个人的身份有些怀疑，但对方随后打了一个视频电话。 视频中，“阿诚”和陈老师十分亲切地挥手打招呼。 过了一会儿，对方挂断了视频通话，说老外网速很慢。 陈先生逐渐打消了顾虑，在“阿诚”的一步步“指导”下，他加了“航司经理”的微信，并为“阿诚”支付了4.9万元。 经警方核实，骗子利用AI换脸技术截取人脸视频画面，利用此前发布在阿诚社交平台上的视频进行“换脸”，从而对陈先生进行诈骗。

此外PC蛋蛋群哪里找呢？，江苏常州警方也通报了一起类似案件。 小刘的初中同学“小韩”通过QQ联系到小刘全天加拿大28靠谱群，打算借6000元。 “小寒”先是发了一条语音，跟自己的声音很像，然后给小刘打了视频电话。 小刘转完钱后，越想越不对劲。 他觉得“小寒”表情僵硬，就给小寒打电话，不料小寒的QQ号被盗了。

北青报记者注意到，除了通过AI换脸，然后直接通过视频通话骗钱，还有利用AI骗取不雅视频的骗子。 骗子利用人工智能技术合成骗子的个人不雅照片。 然后通过举报、散播等方式威胁当事人，要求被骗对象汇款。

在温州警方通报的一起案件中，温州陈先生被“AI换脸”勒索。 他收到一封来自“私家侦探”的勒索信，信中附有所谓的他和一名女子的不雅视频。 中方要求陈先生收到邮件后尽快与其联系加拿大28QQ群哪里找呢？，不要心存侥幸，并威胁要将视频传到网上。 陈先生明知是合成视频却不知如何是好，向民警求助。 此案目前正在调查中。