研究揭LLM攻擊新手法HalluSquatting，可誘使AI程式開發助理安裝惡意程式

一项由特拉维夫大学进行的研究揭示了一种名为 HalluSquatting 的新型攻击技术，该技术能够诱导大型语言模型（LLM）驱动的 AI 编程助手安装恶意软件。

研究人员发现，HalluSquatting 攻击利用了 LLM 的“幻觉”特性，即 AI 在某些情况下会生成不准确或捏造的信息。通过精心设计的提示，攻击者可以促使 AI 编程助手，例如那些集成了 Cursor、Cursor CLI、Windsurf、GitHub Copilot、Cline、Gemini CLIOpenClaw、ZeroClaw 和 NanoClaw 等工具的助手，在代码中插入恶意指令。

研究表明，这种攻击的有效性高达 85%，甚至在某些情况下可以达到 100%。这意味着，AI 编程助手在被 HalluSquatting 攻击后，可能会被诱导安装包含恶意代码的软件，从而对开发者的系统和项目构成严重威胁。