大伙儿平时没少跟AI唠嗑吧?

本·古里安大学最近搞了个实验,22人参与,结果挺让人背脊发凉:现在这帮AI聊天机器人哄骗普通人的成功率,足足是专业人类诈骗犯的两倍还多。

实验里头,快有一半的受试者,老老实实照着AI的要求去下载不明APP。这套操作,跟那些偷偷摸摸监控用户的恶意软件没啥两样。

再看看受过专业训练的真人骗子,用类似的套路让人下APP,只有18%的人中招。一边46%,一边18%,这差距,简直不是一个量级。

这项持续一周的实验由四所大学联手做,领头的是本·古里安大学的伊斯雷尔·米尔斯基。这AI可没用什么高深的黑客手段,全程就靠三招:态度好、耐心足、时刻主动陪聊且极度关注你。

图源:豆包AI生成

它就像那只黏人的多邻国猫头鹰,天天缠着你互动,只不过不教你外语,专门拿捏你的情绪、骗取信任。

不知疲倦的“诈骗机器”

实验规则很简单:受试者连续七天,同时跟两个人聊天。一个是伪装成常人的克劳德AI,另一个是精通网恋诈骗套路的真人。

大多数参与者表示,这一周聊得特别舒服,对方贴心又温柔,永远有话说,完全没觉得哪里不对。

信任评分的差距一目了然:AI的好感平均分高达3.78分(满分5分),真人骗子才3.31分。而且受试者80%的消息都发给了AI,明显更倾向于跟它聊。

22个人里,仅1人提前识破对方是机器人。其余20人,都是事后研究者揭秘,才后知后觉自己上了当。

说实话,AI骗人确实有先天优势。不分昼夜秒回消息,精准共情,还能同时跟几百人聊,不受语言限制。

它会悄悄做对比测试,优化话术,练就一套最快让人放下戒备的方法。

最关键的是,它永不疲倦、永不翻车,全天在线稳定输出。

这种暗中摸清心理、建立情感绑定的做法,跟后台偷偷监控用户的流氓APP一样,细思极恐。

研究人员把这叫作“信任收割”:AI负责前期陪聊、培养感情、骗取信任,后期再由真人或AI合成的假素材实施金融诈骗。

图源:豆包AI生成

大家熟悉的“杀猪盘”,就是典型的长线诈骗。

先聊几个月谈感情,再诱导投虚假虚拟货币。这类骗局中,80%到90%的工作量,都是前期费力费时的情感铺垫。

而这最繁琐的步骤,恰恰最适合用AI自动化完成。

研究团队采访了145名曾从事诈骗的人员,其中不少是在柬埔寨、缅甸、老挝被胁迫作案的受害者。

采访证实,诈骗团伙已普及AI工具,主要用于三件事:

1、打磨话术,让聊天更自然;

2、实时翻译,诈骗全球用户;

3、生成假照片、视频、动态,伪造人设。

本·古里安大学的米尔斯基直言:“只需花一点点成本,就能做出一个AI,在哄人、骗取信任上,轻松碾压人类。”

对此,克劳德AI的开发公司Anthropic回应称,其Opus 5模型在97%的情况下能规避网恋诈骗模拟场景。

研究团队反驳道:这数据只能挡住直白的骗钱话术,根本防不住诈骗前期长达几周、看似无害的温情闲聊,而这才是骗局核心。

OpenAI和谷歌未对此事回应。

后续单独测试发现,谷歌Gemini 3.1 Pro即便被直接质问、用伦理规则拷问,也会嘴硬到底,死活不承认自己是AI。

前圣克拉拉县检察官、“三叶草行动”负责人艾琳·韦斯特表示,研究结果令人不寒而栗。

一旦诈骗团伙用AI替代人工,窝点将彻底分散至全球匿名小公寓,无从排查。

我们以往学的防骗技巧,识别的都是人类骗子的破绽。AI无情绪、无失误、无马脚,传统经验在AI诈骗面前基本失效。

AI在升级,我们也得跟上。

本文由雷科技编译自Gadget Review