研究人员发布 HalluSquatting 攻击,利用 AI 幻觉
来自特拉维夫大学、Technion 和 Intuit 的研究人员提出了一种名为对抗性幻觉蹲点的网络攻击技术,利用 AI 生成的幻觉来破坏 AI 代理。该攻击通过预测 AI 模型可能生成的不存在的资源名称,注册这些名称,并嵌入有害代码,从而欺骗 AI 系统相信虚假软件仓库或工具中包含恶意指令。当 AI 助手获得与计算机交互的能力——访问文件、搜索网络、编写代码和运行命令时,安全漏洞便会出现,代理在处理未验证信息时形成安全隐患。 研究人员演示针对 AI 幻觉的攻击机制 题为《提防代理僵尸网络:通过通用和可转移的对抗性幻觉蹲点实现可扩展的非定向提示软件攻击》的论文详细描述了该攻击如何利用 AI 模型生成虚假链接到软件仓库和其他在线资源。研究人员指出,代理型大规模语言模型应用的日益普及带来了提示软件的威胁。该攻击方法包括预测 AI 模型可能创建的虚假资源,注册这些名称,并添加恶意指令,供 AI 代理后续视为合法内容。 该技术类似于 typosquatting,即攻击者注册类似合法网站或软件包的域名。幻觉蹲点针对 AI 模型的错误,而非人为打字错误。研究人员表示,持续的研究已展示出多种针对 Ch
Oliver Grant·9 分钟前
