谷歌在最新的 Gemini 模型更新中宣布,temperature、top_p 和 top_k 等传统采样参数已被正式弃用并忽略。这意味着开发者在调用 API 时,即便手动设置这些变量,系统也将依靠模型内部优化逻辑来决定输出的随机性与确定性。▶ 采样参数的终结:开发者不再需要通过繁琐的试错来寻找最优随机性,模型将根据 Prompt 意图与上下文自动平衡创造力与精准度。▶ 抽象层级上移:API 供应商正逐步收回底层控制权,旨在降低使用门槛并确保输出质量的一致性,标志着大模型正从“可调工具”向“托管服务”转型。八卦洞察这一举动是 AI 基础设施演进的必然结果。长期以来,调校 temperature 等参数更像是一门“玄学”而非科学,增加了开发者的认知负担。谷歌此举释放了一个强烈信号:模型供应商认为其内部的强化学习(RLHF)和对齐技术已经足够成熟,能够比人类开发者更精准地控制生成概率。从商业角度看,这有助于谷歌标准化推理成本,减少因极端参数设置导致的无效计算或低质量输出。然而,对于追求极致控制的重度开发者而言,这无疑进一步加剧了模型的“黑盒化”,削弱了在特定垂直场景下微调输出风格的空间。行动建议开发者应立即审计现有的 API 集成代码,移除对已弃用参数的依赖,以避免未来可能的兼容性报错。建议将研发重点从“超参数调优”转向“提示词工程(Prompt Engineering)”和“语义结构优化”,因为模型现在更依赖于指令本身的意图来决定其表现。对于需要高度确定性输出的场景(如代码生成或结构化数据提取),应通过 Prompt 明确约束,而非寄希望于将 temperature 设为 0。
SOURCE: HACKERNEWS // UPLINK_STABLE