近日，山东省济南市商河县公安局刑警大队破获了一起利用AI换脸技术诈骗的典型案件。
侦办此案的民警张振华介绍，今年5月份，黄某某（化名）在家刷短视频时收到了一条私信，对方自称是黄某某的表哥，寒暄几句取得黄某某初步信任后，希望黄某某帮自己给一个需要资金周转的朋友，转一笔大额资金。
刚开始，黄某某并未立即转账，但在与“表哥”进行了视频通话，黄某某见到视频中的人和表哥一模一样，确信了对方身份后，于是向对方提供的银行账户转了30余万元。
收到这笔钱后，对方还继续催促黄某某转出剩余的钱款。意识到不对劲的黄某某给表哥打去电话核实，才知道其表哥对此事毫不知情。发现上当受骗后，黄某某立即报警。最终，警方通过技术手段侦查，抓获犯罪嫌疑人7人，目前此案已进入法院审判阶段。
近年来，AI换脸、换声视频在网络上流行起来，AI合成的技术门槛逐渐降低。随着人工智能技术的广泛应用，一些不法分子开始利用其实施新型网络诈骗。
AI换脸技术究竟如何实现？AI诈骗能有多逼真？今天，派派君就和大家一起来关注如何防范这种骗术。
AI换脸诈骗频发，已有多人被骗
AI技术发展迅速，只需要提供一张带脸的照片，就可以把自己置换成视频、电视剧中的男（女）主角，而且拟真度非常高，毫无违和感。
有人把鹿晗的脸置换到刘亦菲扮演的“小龙女”角色中，看看实际效果，如果不是事先看过《神雕侠侣》，派派君还以为就是“本人”呢。
AI技术是把“双刃剑”，在给人们生活提供便利的同时，也给不法分子留下了可乘之机。
今年8月，宁夏银川市一男子被自称是其领导的骗子讹走了260万元。原因是男子在视频通话中，看到对方确实是其领导，才向对方提供的银行账户转账。对方收到资金后，称还剩38万元要转到对方提供的个人账户上，其发觉不对，打电话求证，领导称没有这回事，遂立即到公安机关报案。
今年6月，广州69岁的龚伯收到了来自“儿子”的电话，求助他转账100万元。龚伯看对方发来的视频后，确认是“儿子”本人，便来到银行火急火燎准备转账。好在，银行工作人员及时发现，龚伯所谓的“儿子”是AI换脸生成，赶忙拦截了支付，为老人家止损100万元。
今年4月，福州市某科技公司法人代表郭先生10分钟内被骗430万元。案发时，他的好友通过微信视频联系他，称有朋友在外地竞标，需要430万元保证金，想借用郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天“核实”了身份，郭先生就转账了。事后，郭先生拨打好友电话才得知被骗。
去年2月，浙江温州陈先生称，自己被“好友”诈骗了近5万元。经警方核实，诈骗分子利用陈先生好友“阿诚”在社交平台发布的视频，截取其面部视频画面后再利用“AI换脸”技术合成，制造陈先生与“好友”视频聊天的假象骗取其信任，从而实施诈骗。
AI换脸技术能否以假乱真？
AI换脸技术的飞速发展和应用，使公众担心其是否可以做到以假乱真。
关于此问题，南京大学计算机科学与技术系郭延文教授回答道：“从图片到一些电视节目的制作，已经可以通过换脸技术对其本身进行一定的编辑。随着AIGC的迅速发展，目前通过人工智能，尤其是深度学习技术已经可以生成非常逼真的图像，甚至是视频。从换脸的角度上看，其实现在至少从我们非专业的角度去看，完全可以做到以假乱真，仿佛是原始成像或者拍摄实现的。”