什么是束搜索?AI 如何同时保留多个生成方向

束搜索 Beam Search 是什么?它如何在文本生成中同时尝试多个候选、和贪心解码及采样有何区别,以及为什么聊天模型不总用它。

什么是束搜索?AI 如何同时保留多个生成方向
编辑部 ·

模型生成文本时,每一步都有多个可能的下一个 token。最简单的办法是永远选概率最高的那个,叫贪心解码;但早期一个小选择可能让后面走入不佳路径。**束搜索(Beam Search)**会同时保留几条最有希望的候选路径,向前展开后再淘汰较差的。

它像多带几条备选路线

设束宽为 3:模型不会只保留当前最可能的一句话开头,而是保留 3 种开头;下一步每种再扩展,最后选整体概率最好的几条。束宽越大,搜索越广,计算也越贵。

和其他生成方式的区别

方法特点常见用途
贪心解码每步只选最高概率快速、确定性任务
束搜索保留多个高概率路径翻译、结构化生成
采样按概率随机选择聊天、创作、多样化输出

聊天模型常希望回答自然、多样,有时还会设置温度或 top-p 采样;束搜索倾向选择高概率、保守的句子,容易让多条结果变得相似甚至重复。因此它并非所有生成任务的最佳默认选项。

总结

束搜索通过同时保留多条候选路径,降低“第一步选错导致全盘跑偏”的风险。它用更多计算换取更稳的高概率输出,尤其适合目标明确、可用整体概率衡量质量的任务;而开放式对话通常更需要采样带来的多样性。