「AI 诈骗」冲上热搜第一,我们整理了一份普通人反诈指南-世界快报
2023-05-24 01:10:32 来源: 雷科技

最近,包头警方发布了一起利用 AI 实施电信诈骗的案例。4 月 20 日,一家福州公司的老板郭先生突然收到「好友」的微信视频联系,这位「好友」声称在外地竞标需要 430 万保证金,而且需要公对公账户过账,想要通过郭先生公司的账户走账。

郭先生没有太怀疑,一方面是他比较信任好友,在视频聊天中也确认了对方的身份,再加上对方还将银行转账底单的截图发了过来,不到 10 分钟就将 430 万元转到指定账户。结果等到电话联系好友,郭先生这才发现:


【资料图】

自己被骗了。

你很难怪郭先生「不小心」。警方公布的细节里提到,骗子是直接盗用了郭先生好友的微信,通过智能 AI 换脸和拟声技术「模拟」郭先生好友,再发起微信视频聊天。而且从过程来看,骗子可能通过微信聊天记录或者其他渠道,对郭先生好友乃至郭先生都有一定了解,否则也不会诈称竞标需要巨额保证金。

「好友微信,视频聊天,这还能怎么防?」一位网友表达了自己的担忧。而事件公布后,AI 诈骗很快就引起了大量讨论和分享,「AI 诈骗正在全国爆发」的话题一度冲上了微博热搜第一。

可以理解,过去很多电信诈骗事件中,很多骗子都会冒充亲戚、同学或者朋友,通过一步一步的套话骗取受害者的信任。只要我们和家人朋友本人进行语音和视频联系,大部分骗局都会不攻自破。

但现在语音和视频也不可信了,而且是越来越不可信。

AI 改变诈骗,已经是无可争议的事实了。

除了郭先生的案件,稍早前外媒 Gizmodo 也报道过一起 AI 诈骗事件。一位英国能源公司的 CEO,在不知情的情况下被骗子采集了声音。随后,骗子将获取到的声音素材进行了 AI 合成,再利用电话转账的漏洞,将 22 万英镑转到自己的异国账户上。

按照这位 CEO 说法,他后来自己听到这段 AI 合成语音时也惊讶了,因为这段语音不仅模仿出了他平时说话的语调,甚至还带有一点他的口癖。

模仿一个人的声音,对 AI 来说早就不是新鲜事。今年年初,微软推出了语音模型 VALL-E,甚至只需要 3 秒就能复制任何人的声音,还可以保持语气,就连环境背景都能模仿。

图 / 微软

这项技术显然还不能飞入「寻常百姓家」,但寻常人已经可以通过一些开源的语音合成技术,基于大量的声音数据,也能合成真实无破绽的声音。比如具备语音合成功能的工具 Bark,除了声色接近真人,还能加入背景噪音和高度拟真的笑声、叹息和哭泣声等效果。

而在最近两个月,「AI 孙燕姿」 也在各大视频平台走红,大量的 AI 创作者通过「AI 孙燕姿」翻唱不同曲风的作品,也让很多网友「重新认识了这些歌曲」,其中「AI 孙燕姿」版本的《发如雪》仅在 B 站一个平台的播放量就接近 200 万。

图 /b 站截图

技术门槛的降低,也给了犯罪分子可乘之机。在郭先生的案件中,骗子盗用了其好友的微信,大量的声音素材同样唾手可得,也难怪郭先生从始至终都没发现好友的声音有问题。

当然,就视频聊天而言,我们判断真伪的核心还是「看脸」,毕竟我们在生病的时候声音也会改变,手机的降噪也一直没有被很好地解决。

同时人脸也更容易取得我们的信任。

然而 AI 换脸的技术其实已经非常成熟。新华社就曾报道,合成一个动态视频的成本在 2 元 -10 元,针对大型直播平台,支持实时换脸的全套模型购买价格为 3.5 万元,并且可以做到很低的延迟和出错率。

除了骗子用 AI 换脸技术伪装成其他人,在直播带货中,最近也有很多主播用上了 AI 换脸,将自己的脸替换成更有知名度和流量的「明星」,本质上就是想利用「明星」名气进行带货,也可以称得上另一种诈骗。但更重要的是,这件事说明 AI 换脸的成本已经相当低下。

图 / 中国新闻网

生成式 AI 的发展,不仅可以让郭先生在视频聊天中无法分辨好友的声音和样子,也能让 AI 孙燕姿成为顶流,让所有人在手机上一键 AI 换脸。

人们对 AI 的担忧是应该的,就连孙燕姿本人在针对「AI 孙燕姿」的声明中也说,「你可能会反对,说我还是能分辨出区别的,它没有情绪,没有音调和呼吸(或任何你能想到的术语)的变化。很抱歉,我怀疑这只是一个非常短期内的回应。」

回到电信诈骗这件事上,原本骗子的手段就层出不穷,AI 技术更让诈骗变得防不胜防。除了监管机构的规范和引导,我们普通人虽然无法影响 AI 技术的进化速度,但面对 AI 诈骗,还是有一些事是我们可以做到的。

第一,保护好个人信息。

在郭先生的诈骗案中,好友微信被盗无疑是极为关键的因素。

今天微信早就成为了所有中国人最主要的联系方式之一,在默认情况下都不会想到被盗,特别是互相之间熟悉的人,很容易就会被骗转账。不仅如此,微信上还存有大量的个人信息、语音、文件,可能还包括一些人像视频和身份证,我们都要谨慎处理。

而在微信之外,我们也必须意识到,AI 时代,个人隐私数据将变得越来越重要。

第二,核实好对方身份。

AI 让核实身份变得前所未有地困难,毕竟从声音到人脸全都能合成,而且技术还在不断地迭代优化。虽然亲自碰面可以避免 AI 诈骗,但显然这不现实,我们和家人、朋友、同事大量的互动都迁移到了互联网上,也包括数不清的交易。

我们只能学着适应,特别是大金额的转账,不能只靠对方的脸和声音,要在不同渠道进行确认,比如电话和微信。如果可以,最好还要多问一些问题,最好只有双方知道。

第三,及时拨打 110 报警。

电信诈骗的花样一直层出不穷,很多人都自信地认为自己不会被骗,然而现实告诉我们,所有人都有被骗的可能。而在发现被骗后,我们仍然还有机会挽回损失,郭先生虽然被骗了 430 万,但因为及时报警还是拦截回来了 300 多万。毕竟,警察才是最了解电信诈骗的。

不过坦率地讲,落到实际,AI 诈骗对于我们普通人还是太难了,尤其是核实身份的关键一步,随着 AI 迭代只会越来越难。

好消息是,监管层面也在跟进,伴随着 AI 的爆发,全球各国都在重视 AI 安全和监管方面的问题,国家网信办此前发布的《生成式人工智能服务管理办法(征求意见稿)》,也强调了数据资源、生成内容、用户信息等多方面的安全可信。

关键词:
责任编辑:zN_2422