特拉维夫大学、以色列理工学院及 Intuit 的研究人员在论文《警惕代理僵尸网络:通过通用且可转移的对抗性 HalluSquatting 实现可扩展的非定向 Promptware 攻击》中揭露了一种名为「对抗性幻觉入侵」的新型攻击手法,利用 AI 幻觉现象诱骗 AI 代理下载恶意代码。 HalluSquatting 攻击机制:预测 AI 幻觉资源并提前注册的技术原理 根据研究人员的说明,HalluSquatting 的攻击步骤为:攻击者预测 AI 模型可能生成指向软件仓库和线上资源的虚假链接,提前在这些名称下注册,并在其中植入恶意指令;当 AI 代理之后尝试检索这些幻觉资源时,会将攻击者控制的内容视为合法内容并执行。 此机制类似于传统网络攻击中的「误植域名」——误植域名利用人类打字错误,而 HalluSquatting 针对的是 AI 模型的幻觉错误。随着 AI 助手的功能从回答问题扩展到能够访问文件、搜索网络、编写代码和运行命令,这种威胁的影响范围显著扩大。 测试数据:代码仓库 85% 与技能安装 100% 根据研究人员的测试结果,HalluSquatting 攻击的幻觉发生率如下:
Meta Platforms, Inc. 于周四发布了 Muse Spark 1.1 AI 模型,而 Cathie Wood 的 ARK 投资管理公司购买了 34,080 股价值 2060 万美元的 Meta 股票。该 AI 模型代表了 Meta 在编码和代理任务方面迄今为止最强大的版本,标志着公司在 AI 编码市场与 Anthropic 和 OpenAI 竞争的努力。META 股价在隔夜交易中延续了周四的上涨,从今年的低点上涨约 20%,并在距其 200 日移动平均线 11 美元以内运行。此次股价变动发生在 Meta 在快速增长的 AI 编码市场中更积极竞争的背景下,竞争对手已提供类似模型一段时间。 Meta 发布 Muse Spark 1.1 AI 模型用于编码任务 Meta 表示,Muse Spark 1.1 是其在实际编码和代理任务中最强大的模型,此前在四月首次推出了第一个版本。虽然 Anthropic 和 OpenAI 已经提供了类似的专注于编码的模型一段时间,但此次发布标志着 Meta 更积极地在快速增长的 AI 编码市场中竞争。META 在周四上涨 4.7%,在隔夜交易中