比特币矿场揭露操纵ChatGPT和Google的诈骗航空公司骗局

image

来源:Criptonoticias 原标题:一矿业公司揭露操控ChatGPT和Google的诈骗 原始链接:

发现

Aurascape,一家由Auradine创建但在Aura Labs生态系统内独立运营的网络安全与人工智能公司,揭示了一种新的互联网诈骗模式。

在12月8日的一份声明中提到的诈骗行为影响了像ChatGPT、Google、Perplexity等大规模语言模型基础的人工智能平台和助手。

根据调查,这种诈骗模式依赖于对网络内容的系统性操控以引导用户拨打虚假客服热线,这些热线假冒航空公司。

攻击的原理

研究人员解释说,攻击者并不试图篡改AI助手(通过先进模型回答问题的程序)的内部运作。

相反,他们干预这些系统获取信息的环境。操控合法网页,使得当用户搜索航空公司联系方式时,助手最终显示虚假的电话号码,这些电话号码连接到以骗取支付或敏感信息为目的的诈骗中心。

实际上,攻击的目标并非AI模型本身,而是它所查询的内容。因此,攻击者更倾向于影响“合成回答”的系统,而不是直接欺骗用户,这扩大了诈骗的影响范围。

机制:“LLM电话号码中毒”

根据Aurascape的说法,诈骗者进行的操作被研究人员称为**“针对语言模型的电话号码中毒”**。

该机制包括修改互联网中的合法内容,让AI助手将其阅读后推荐虚假的电话号码,就像它们是官方的。

研究人员解释说,攻击者实际上在攻击整个网络。他们在公共机构、大学、WordPress博客、YouTube描述、Yelp等平台插入虚假内容。

此外,黑客还采用其他技术,如生成引擎优化(Generative Engine Optimization)答案引擎优化(Answer Engine Optimization),以影响系统选择和合成信息的方式。

通过这两种技术,他们占据了**AI助手“认为是“正确答案””**的空间。

诈骗实例

在一次内部演示中,Aurascape显示,当查询“阿联酋航空的官方预订号码”时,Perplexity确实返回了一个虚假号码

Interfaz de una IA de texto que refleja una búsqueda de teléfonos de aerolíneas.

类似的关于英国航空的查询也返回了相同的电话号码,被标为“常用热线”。

甚至如下一张图片所示,Google的AI Overview功能显示了多个虚假号码,表面上似乎是官方号码,并附有逐步预订航班的指引:

Interfaz de una búsqueda de Google sobre teléfonos de aerolíneas aéreas.

比特币矿业与人工智能的交集

Auradine是一家美国公司,专注于比特币挖矿硬件的制造。其他矿业公司如MARA和Genesis Digital Assets已经购买了他们的ASIC设备。

然而,Aurascape的研究也揭示了一个日益增长的现象:比特币矿业公司与人工智能产业的交叉融合。

矿工们正逐步将业务范围扩大到与人工智能相关的活动。这些企业习惯运营大型硬件基础设施和数据中心,试图通过多元化服务来减少对矿业市场波动的暴露

由Auradine进行的安全分析正是这一交叉点不断推进的一个例证,展示了矿业公司如何利用其技术经验,进入对计算、分析和网络安全需求持续增长的行业。

BTC-2.37%
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
0/400
暂无评论
交易,随时随地
qrCode
扫码下载 Gate App
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)