认知科学

核心摘要 DeepMind的研究人员近期发布论文指出，当前大语言模型（LLM）在生成全新的解释性假设方面存在根本性缺陷，即模型无法实现从已知数据到未知逻辑的“跨越式”推理，这直接挑战了AI在科学发现领域的“全能”叙事。 ▶ 概率拟合的局限性： LLM本质上是高维空间的插值器，擅长在现有知识图谱内填补空白，但在面对需要打破常规、提出原创性解释的任务时表现乏力。 ▶ “新瓶装旧酒”的幻象： 模型生成的所谓“创新”往往只是训练数据中已有模式的随机重组，而非基于因果逻辑的范式突破。 八卦洞察 这项研究给狂热的“Scaling Law”信徒泼了一盆冷水。它揭示了一个残酷的现实：即便模型参数达到万亿级别，它们依然被困在训练数据的“统计围城”中。在硅谷，我们常说“Garbage in, Garbage out”，但DeepMind指出的是更深层的问题——“Known in, Known out”。LLM在科学研究中更像是一个高效的图书馆管理员，而不是爱因斯坦。它能帮你总结所有已知的物理定律，但它无法在没有任何先例的情况下“跳”出相对论。这种“认知跳跃”能力的缺失，意味着当前的Transformer架构可能在通往AGI（通用人工智能）的道路上存在天然的演化瓶颈。 行动建议 对于企业和研究机构而言，不应过度依赖LLM进行“从0到1”的原始创新。建议将LLM的应用重点放在知识合成、实验方案优化以及大规模文献筛选上，即利用其强大的插值能力来加速验证，而非指望其产出颠覆性的科学假设。同时，关注“神经符号AI”或集成“世界模型”的新型架构，这可能是突破“认知跳跃”限制的下一个技术风口。

最新发表于《PNAS Nexus》的研究指出，Transformer 架构在认知科学层面上缺乏“执行控制”能力，导致其在处理包含干扰信息的复杂上下文时，无法像人类一样有效过滤噪声，从而引发推理失效。▶ 注意力机制的本质是“相似度”而非“选择”：Transformer 的注意力分配极易被无关但显著的特征（Salient Features）劫持，这解释了为何 RAG 系统在引入低质量检索内容时性能会大幅下降。▶ 模型规模无法弥补架构短板：单纯增加参数量并不能赋予模型区分任务相关信息与纯噪声的能力，这种“执行控制”的缺失是当前生成式 AI 迈向可靠推理的核心障碍。八卦洞察业界长期以来对“Attention is All You Need”存在一种认知误区，即认为机器的注意力等同于人类的专注力。事实上，Transformer 的注意力是一种“被动匹配”机制。本研究通过实验证明，当任务指令中混入干扰项时，模型的注意力会被权重强制分散。这意味着，目前所谓的“长文本能力”在很大程度上是脆弱的——只要上下文中的噪声达到一定阈值，模型的逻辑链条就会崩塌。这不仅是算法问题，更是底层架构的认知局限。我们正处于从“概率拟合”向“结构化控制”转型的临界点，未来的架构演进必须引入类似于人类前额叶皮层的“硬性过滤”机制。行动建议针对企业级应用，开发者不应寄希望于模型能自动在海量上下文中“去伪存真”。在 RAG 架构中，必须在检索后环节（Post-retrieval）引入强力的重排（Reranking）和噪声清理模块，甚至使用较小的专用模型先进行“信息脱敏”。在 Prompt 工程中，应采用“少发散、多聚焦”的策略，通过显式的思维链（CoT）引导模型进行自我校验，以抵消其天然的执行控制缺陷。