Coinbase称其AI拦截了470万美元的Deepfake埃隆·马斯克骗局

中性-3.92%
11月18日 15:30
来源:Bitcoin Magazine

AI 摘要

Coinbase的AI代理成功阻止了一起针对投资者的470万美元深度伪造骗局,同时该平台还推出了用于交易比特币和股票的ChatGPT插件。

Bitcoin Magazine

Coinbase称其AI拦截了470万美元的Deepfake埃隆·马斯克骗局

Coinbase (COIN)表示,其AI反诈骗代理阻止了约470万美元的客户资金流入骗子手中。骗子利用埃隆·马斯克的深度伪造形象推销虚假的特斯拉加密货币赠送活动,该系统拦截了客户试图发送的大约91%的资金。该交易所描述了这一事件,发布在周二的博客文章中,这是每周消费者保护系列的一部分。该公司表示,该系统是在“无需人工干预”的情况下运行的。

这两个数字暗示客户曾试图发送约520万美元,其中约有46万美元仍离开了他们的账户。Coinbase并未说明有多少资金最终到达了骗子手中。

一场并非真实的直播

该骗局发生在特斯拉“飞行汽车”演示期间。骗子搭建了一个看起来像真实广播的YouTube直播,使用了深度伪造的马斯克、屏幕上的钱包地址和二维码。该直播承诺将发送到该地址的任何加密货币翻倍,Coinbase称观看人数超过50万。

在大约两个小时内,数百名Coinbase客户试图向屏幕上显示的地址发送数百万美元。其中许多是长期用户。Coinbase未说明假直播何时运行,也未说明客户试图发送哪些币种。

该公司强调其平台未被入侵。“没有人被黑客攻击,”Coinbase写道。“没有Coinbase账户被攻破,没有密码被盗,也没有凭证被钓鱼。”这正是赠送欺诈难以阻止的原因,因为大多数防御措施寻找的是账户持有人未授权的活动,而在这里,客户自己登录并按下了确认键。

“我们的系统可以实时看到风险信号。它们看不到意图,”帖子中写道。

代理如何工作

Coinbase表示其防御机制由三部分组成。机器学习模型首先对实时发出的转账进行评分,观察赠送模式、品牌冒充和新创建的钱包地址。该公司的目标是“抓住危险,而不是客户”。当一笔转账被标记时,一个专门的诈骗代理接管,查找上下文,命名诈骗模式,解释赠送计划的工作原理,并提出旨在让故事崩溃的问题。

在客户看到回复之前,每条回复都会根据置信度进行评分,因此系统知道何时需要增加摩擦。Coinbase表示,该代理从未接受过此类骗局的训练。与实时产品发布相关的深度伪造赠送不在其训练数据中。

“它无论如何都识别出了计划的形状,”该公司写道,指出其承诺倍增资金、限时活动的截止日期以及不可逆转的转账。

更廉价的伪造品

Coinbase表示,深度伪造改变了骗局的经济学。以前策划这样的骗局需要“一个团队、一个工作室和数周时间”,该公司写道。“现在只需要一个直播时段和一个模型。”该公司表示,它正在将AI对高风险转账的审查扩展到所有类型的骗局,而不仅仅是高知名度的骗局,并且还在使用AI标记新的诈骗案例,以便其模型能够在几小时内而不是几周内从攻击中学习。

社会工程一直是Coinbase客户的持续问题。今年9月,一名布鲁克林男子因涉及1600万美元的Coinbase网络钓鱼骗局被判入狱12年。本周,Trezor客户报告称,在硬件钱包制造商的物流合作伙伴发生泄露后,他们接到了诈骗电话,导致27,000个订单信息暴露。

这篇帖子发布的同一天,Coinbase推出了一款用于交易比特币、股票和衍生品的ChatGPT插件,该插件要求用户批准每笔订单。Coinbase在帖子末尾列出了他们永远不会做的事情,包括承诺将客户发送的加密货币翻倍、三倍或倍增。

“任何合法的人都不会让你的加密货币翻倍,”该公司写道。

这篇文章Coinbase称其AI拦截了470万美元的Deepfake埃隆·马斯克骗局最初出现在Bitcoin Magazine上,由Micah Zimmerman撰写。