深度：四大AI实验室集体“翻车”，暴露Agent架构的致命安全盲区

安全公司 Irregular 近期披露，包括 Google Gemini 在内的四家主流 AI 实验室均遭遇了严重的系统性安全漏洞，其核心诱因指向了同一个底层架构缺陷：智能体（Agent）在调用内部工具与 API 时缺乏必要的隔离与验证。

• ▶ 间接提示词注入（Indirect Prompt Injection）已演变为实战威胁：攻击者无需直接与模型对话，只需在 AI 检索的外部文档中埋入恶意指令，即可接管模型权限。
• ▶ “工具调用”成为安全防护的重灾区：当 AI 实验室赋予模型读写邮件、访问内网或执行代码的权限时，往往忽略了对模型生成指令的二次审计。

八卦洞察

这次集体“翻车”标志着 AI 安全威胁从“调戏聊天机器人”正式转向“渗透企业基础设施”。过去我们担心模型说错话，现在我们必须担心模型成为内网的“特洛伊木马”。问题的根源在于，开发者过度信任了 LLM 处理非结构化数据的能力，将其输出直接作为系统级指令执行。在 RAG（检索增强生成）和 Agent 架构大行其道的今天，这种“信任链”极其脆弱。如果 AI 能够根据网页内容自动发送邮件，那么网页上的隐藏指令就能让 AI 变成一个自动化的数据窃取工具。这不仅仅是补丁能解决的 Bug，而是当前智能体设计范式的结构性风险。

行动建议

对于正在构建 Agent 或 RAG 系统的企业，建议立即采取以下措施：首先，实施“最小权限原则”，严禁 AI 智能体拥有跨域执行权限，所有高敏感操作（如删除、外发、权限变更）必须引入 Human-in-the-loop（人工确认）机制。其次，构建“影子执行环境”，将 AI 的代码执行和工具调用限制在完全隔离的沙箱中，严禁其直接访问生产数据库或内网敏感 API。最后，针对检索链路增加“内容清洗层”，在数据进入模型上下文之前，利用专用小模型检测并过滤潜在的注入攻击指令。