最近，包头警方发布了一起利用 AI 实施电信诈骗的案例。4 月 20 日，一家福州公司的老板郭先生突然收到「好友」的微信视频联系，这位「好友」声称在外地竞标需要 430 万保证金，而且需要公对公账户过账，想要通过郭先生公司的账户走账。

郭先生没有太怀疑，一方面是他比较信任好友，在视频聊天中也确认了对方的身份，再加上对方还将银行转账底单的截图发了过来，不到 10 分钟就将 430 万元转到指定账户。结果等到电话联系好友，郭先生这才发现：

【资料图】

自己被骗了。

你很难怪郭先生「不小心」。警方公布的细节里提到，骗子是直接盗用了郭先生好友的微信，通过智能 AI 换脸和拟声技术「模拟」郭先生好友，再发起微信视频聊天。而且从过程来看，骗子可能通过微信聊天记录或者其他渠道，对郭先生好友乃至郭先生都有一定了解，否则也不会诈称竞标需要巨额保证金。

「好友微信，视频聊天，这还能怎么防？」一位网友表达了自己的担忧。而事件公布后，AI 诈骗很快就引起了大量讨论和分享，「AI 诈骗正在全国爆发」的话题一度冲上了微博热搜第一。

可以理解，过去很多电信诈骗事件中，很多骗子都会冒充亲戚、同学或者朋友，通过一步一步的套话骗取受害者的信任。只要我们和家人朋友本人进行语音和视频联系，大部分骗局都会不攻自破。

但现在语音和视频也不可信了，而且是越来越不可信。

AI 改变诈骗，已经是无可争议的事实了。

除了郭先生的案件，稍早前外媒 Gizmodo 也报道过一起 AI 诈骗事件。一位英国能源公司的 CEO，在不知情的情况下被骗子采集了声音。随后，骗子将获取到的声音素材进行了 AI 合成，再利用电话转账的漏洞，将 22 万英镑转到自己的异国账户上。

按照这位 CEO 说法，他后来自己听到这段 AI 合成语音时也惊讶了，因为这段语音不仅模仿出了他平时说话的语调，甚至还带有一点他的口癖。

模仿一个人的声音，对 AI 来说早就不是新鲜事。今年年初，微软推出了语音模型 VALL-E，甚至只需要 3 秒就能复制任何人的声音，还可以保持语气，就连环境背景都能模仿。

这项技术显然还不能飞入「寻常百姓家」，但寻常人已经可以通过一些开源的语音合成技术，基于大量的声音数据，也能合成真实无破绽的声音。比如具备语音合成功能的工具 Bark，除了声色接近真人，还能加入背景噪音和高度拟真的笑声、叹息和哭泣声等效果。

而在最近两个月，「AI 孙燕姿」 也在各大视频平台走红，大量的 AI 创作者通过「AI 孙燕姿」翻唱不同曲风的作品，也让很多网友「重新认识了这些歌曲」，其中「AI 孙燕姿」版本的《发如雪》仅在 B 站一个平台的播放量就接近 200 万。

技术门槛的降低，也给了犯罪分子可乘之机。在郭先生的案件中，骗子盗用了其好友的微信，大量的声音素材同样唾手可得，也难怪郭先生从始至终都没发现好友的声音有问题。

当然，就视频聊天而言，我们判断真伪的核心还是「看脸」，毕竟我们在生病的时候声音也会改变，手机的降噪也一直没有被很好地解决。

同时人脸也更容易取得我们的信任。

然而 AI 换脸的技术其实已经非常成熟。新华社就曾报道，合成一个动态视频的成本在 2 元 -10 元，针对大型直播平台，支持实时换脸的全套模型购买价格为 3.5 万元，并且可以做到很低的延迟和出错率。

除了骗子用 AI 换脸技术伪装成其他人，在直播带货中，最近也有很多主播用上了 AI 换脸，将自己的脸替换成更有知名度和流量的「明星」，本质上就是想利用「明星」名气进行带货，也可以称得上另一种诈骗。但更重要的是，这件事说明 AI 换脸的成本已经相当低下。

生成式 AI 的发展，不仅可以让郭先生在视频聊天中无法分辨好友的声音和样子，也能让 AI 孙燕姿成为顶流，让所有人在手机上一键 AI 换脸。

人们对 AI 的担忧是应该的，就连孙燕姿本人在针对「AI 孙燕姿」的声明中也说，「你可能会反对，说我还是能分辨出区别的，它没有情绪，没有音调和呼吸（或任何你能想到的术语）的变化。很抱歉，我怀疑这只是一个非常短期内的回应。」

回到电信诈骗这件事上，原本骗子的手段就层出不穷，AI 技术更让诈骗变得防不胜防。除了监管机构的规范和引导，我们普通人虽然无法影响 AI 技术的进化速度，但面对 AI 诈骗，还是有一些事是我们可以做到的。

第一，保护好个人信息。

在郭先生的诈骗案中，好友微信被盗无疑是极为关键的因素。

今天微信早就成为了所有中国人最主要的联系方式之一，在默认情况下都不会想到被盗，特别是互相之间熟悉的人，很容易就会被骗转账。不仅如此，微信上还存有大量的个人信息、语音、文件，可能还包括一些人像视频和身份证，我们都要谨慎处理。

而在微信之外，我们也必须意识到，AI 时代，个人隐私数据将变得越来越重要。

第二，核实好对方身份。

AI 让核实身份变得前所未有地困难，毕竟从声音到人脸全都能合成，而且技术还在不断地迭代优化。虽然亲自碰面可以避免 AI 诈骗，但显然这不现实，我们和家人、朋友、同事大量的互动都迁移到了互联网上，也包括数不清的交易。

我们只能学着适应，特别是大金额的转账，不能只靠对方的脸和声音，要在不同渠道进行确认，比如电话和微信。如果可以，最好还要多问一些问题，最好只有双方知道。

第三，及时拨打 110 报警。

电信诈骗的花样一直层出不穷，很多人都自信地认为自己不会被骗，然而现实告诉我们，所有人都有被骗的可能。而在发现被骗后，我们仍然还有机会挽回损失，郭先生虽然被骗了 430 万，但因为及时报警还是拦截回来了 300 多万。毕竟，警察才是最了解电信诈骗的。

不过坦率地讲，落到实际，AI 诈骗对于我们普通人还是太难了，尤其是核实身份的关键一步，随着 AI 迭代只会越来越难。

好消息是，监管层面也在跟进，伴随着 AI 的爆发，全球各国都在重视 AI 安全和监管方面的问题，国家网信办此前发布的《生成式人工智能服务管理办法（征求意见稿）》，也强调了数据资源、生成内容、用户信息等多方面的安全可信。