推理时扩展类别:提升大语言模型推理能力
OpenAI
推理时扩展通过增加推理阶段的算力投入来提升大语言模型的答案质量。本文对相关方法进行分类,并回顾近期论文,指出主要大语言模型提供商都依赖此类技术。
推理时扩展已成为一种通过分配额外计算资源来提升大语言模型(LLM)性能的关键方法。本文将相关技术分为以下几类:思维链提示(Chain-of-Thought prompting)、自一致性(Self-Consistency)、最佳N选一排名(Best-of-N ranking)、带验证器的拒绝采样(Rejection Sampling with a Verifier)、自我精炼(Self-Refinement)以及解路径搜索(Search Over Solution Paths)。文章还概述了近期相关论文,并指出专有LLM(Proprietary LLMs,即私有大型语言模型)已采用这些方法。作者将关于该主题的书籍章节分为两部分(已提供早期访问),并分享了最终章节中未收录的额外想法和笔记。
来源: Sebastian Raschka —
原文
