大模型投毒

核心事件 研究人员近期揭露了一场由以色列发起的隐蔽影响力行动：通过建立名为“创新与务实解决方案中心”的虚假智库，发布大量针对性文章，旨在利用大语言模型（LLM）的检索增强生成（RAG）机制，诱导AI在处理中东敏感议题时生成符合其政治立场的回答。 ▶ 影响力行动的范式转移： 认知作战正从传统的社交媒体“水军”模式，进化为针对AI模型底层知识库的“叙事投毒”。 ▶ RAG漏洞的武器化： 攻击者利用AI对看似专业、具有学术伪装的来源的信任，通过SEO手段确保虚假信息被RAG系统优先检索。 八卦洞察 这标志着地缘政治博弈进入了“算法煤气灯（Algorithmic Gaslighting）”时代。传统的搜索引擎优化（SEO）正在演变为人工智能优化（AIO）。以色列此举极其狡猾地利用了当前LLM的技术短板：模型往往无法区分真实智库与精心伪装的宣传机器。当用户询问“加沙局势”时，AI如果调用了这些被污染的来源，其生成的“客观总结”本质上就成了国家级宣传的扩音器。这种“模型投毒”比社交媒体上的虚假账号更难防范，因为它直接侵蚀了AI作为“事实源头”的公信力。 行动建议 对于AI厂商而言，必须升级RAG系统的源信誉评估算法，不能仅依赖文本的语义相关性，而应引入针对发布者背景的深度验证。对于政企用户，在处理高度敏感的决策咨询时，应建立多源交叉验证机制，并警惕AI输出中可能存在的结构性偏见。安全团队需将“叙事完整性”纳入AI安全治理框架，防范国家级力量对知识供应链的渗透。