警惕AI换脸来诈骗！和你视频的可能不是真朋友 诈骗千层套路如何破解？

随着数字科技的飞跃发展，“互联网+”时代已经紧跟不断进步的网络技术而到来，AI也在迅速进入大众生活。

数字化浪潮席卷社会的方方面面，诈骗手段也随之更新迭代，尤其是日益增加的电信网络诈骗犯罪，不仅对众多受骗者造成了严重的财产损失，也令各类金融机构叫苦不迭。

需要注意的是，诈骗分子也盯上AI技术，和你视频对话的，可能不是本人。然而，在日益增加的电信诈骗案件中，犯罪分子常常诱导用户自行操作，如何辨别用户的正常操作与受骗后“非自觉”的操作，成为一道风控难题。

AI诈骗是什么？

所谓AI诈骗，是指诈骗分子通过AI技术，广泛搜集人脸、声音等个人生物信息，以此对人物性格进行刻画，从而进行较为有针对性的诈骗犯罪行为。

整体来看，“AI换脸”“AI拟声”以及虚拟场景构建的出现，正是设备性能提升和技术软件优化的产物，而利用“AI换脸”技术实施诈骗，已然成为一种新型网络诈骗。

据《工人日报》报道，今年5月份，包头警方发布一起利用AI实施电信诈骗的典型案例。4月20日中午，郭先生微信列表中的一位好友突然通过微信视频联系他，声称自己的朋友在外地竞标，需要430万保证金。

基于对好友的信任，郭先生在加上所谓“好友”的朋友后，通过视频聊天核实身份，在微信视频聊天中，骗子“换脸”后面部表情自然，声音逼真，受害人便放松了警惕。

之后，郭先生分两笔把430万转到了“好友”朋友的银行卡，期间也没有核实钱款是否到账。过了一阵子，郭先生再度拨打好友电话才发觉被骗。正是基于智能AI换脸和拟声技术，诈骗分子成功佯装成好友，对郭先生实施了诈骗。

幸运的是，接到报警后，福州、包头两地警银迅速启动止付机制，成功止付拦截336.84万元，但仍有93.16万元被转移，目前正在全力追缴中。

浙江网信网文章显示， 随着人工智能技术的普及应用，不法分子实施诈骗的精准性、迷惑性、隐蔽性增强，公安、检察等政法机关办案将面临侦查破案难、电子证据调取难、认定处理难等现实困难。

如何防范？

最高人民检察院官方微信公众号提示，要“相互提示，共同预防”“多重验证，确认身份”“细心判断，识别假脸”。

具体来看，首先，要时常提醒、告诫身边的亲人、朋友提高安全意识和应对高科技诈骗的能力，预防上当受骗。特别提醒老年人在接到可疑电话、短信时，要再次回拨家人电话确认，不要贸然轻信。

其次，在涉及转账交易等行为时，细心询问私密信息、多重验证身份，确认对方是否为本人。避免通过微信等社交软件直接转账，最好向对方的银行账户转账，将到账时间设置为“2小时到账”或“24小时到账”。

值得注意的是，多数假脸是使用眨眼照片合成，假脸极少甚至不会眨眼，缺少眨眼是判断一个视频真假的好方法。辨识“深度伪造”换脸视频的方法还包括语音和嘴唇运动不同步、情绪不符合、模糊的痕迹、画面停顿或变色等。

有接近经侦办案人士向记者透露，他明显感受到的是，自2019年以来，新形式的网络诈骗案呈现明显增长。“特别是在几个一线城市中，被骗的受骗者不仅限于中老年防骗意识较为薄弱的群体，金融白领、律师、大学生等等都有不少典型案例。”

此外，诈骗团伙对于社会时事、机构企业等特性跟进十分迅速，诈骗的方式手段与“话术”也在不断更新迭代，尤其在当前数字化、线上化应用普及的今天，诈骗分子能更加便利地通过社交平台进行精准诈骗。

有分析人士表示，法律制度方面看，反电信网络诈骗法、刑法等法律为打击治理各类网络诈骗活动提供了法律支撑。接下来，或将通过进一步完善人工智能等领域相关法律，通过案例等指引，建立人工智能侵权纠纷法律框架、诉讼程序和赔偿标准等。