研究揭LLM攻擊新手法HalluSquatting，可誘使AI程式開發助理安裝惡意程式

以色列特拉维夫大学的研究人员揭示了一种名为 HalluSquatting 的新型攻击技术，该技术能够诱骗大型语言模型（LLM）驱动的AI编程助手安装恶意软件。

这种名为 HalluSquatting 的攻击方式利用了LLM在处理指令时可能出现的“幻觉”现象。研究人员发现，通过精心设计的提示，可以使像 Cursor CLI、Windsurf、GitHub Copilot CLI、Gemini CLI、OpenClaw、ZeroClaw 和 NanoClaw 这样的AI编程助手，在用户不知情的情况下，执行安装恶意软件的命令。

实验结果显示，该技术在85%的测试案例中成功诱导AI助手执行了恶意操作，并且在某些情况下，成功率达到了100%。这意味着，依赖这些AI工具进行代码开发的开发者面临着潜在的安全风险。