什么是连续式思维链（COCONUT）

什么是连续式思维链（COCONUT）

连续式思维链（Chain of Continuous Thought，简称Coconut）是一种新的推理范式，旨在提升大型语言模型（LLMs）在潜在空间中的推理能力。与传统的思维链（Chain of Thought，简称CoT）不同，连续式思维链通过在潜在空间中构建连续的思维路径，使模型能够更高效地进行推理和决策

核心概念

1. 潜在模式与语言模式的切换：
   • 在语言模式下，模型像标准语言模型一样生成下一个词元（token）。
   • 在潜在模式中，模型直接利用前一个词元的隐藏状态作为下一个输入嵌入，这种隐藏状态被称为“连续思维”，代表了模型当前的推理状态。
2. 连续思维的特性：
   • 连续思维可以编码多个潜在的下一步，类似于广度优先搜索（BFS），使模型能够在推理过程中同时探索多个路径，并逐步排除错误路径。
   • 这种方法允许模型在推理过程中保持多种可能的解题思路，从而避免过早锁定在一个单一的确定路径上。
3. 训练过程：
   • COCONUT采用多阶段训练策略，逐步用潜在表示替代基于语言的推理步骤。在最终阶段，模型完全在潜在空间中解决问题。
   • 训练过程中，模型在语言和潜在模式之间交替，逐渐优化其潜在推理能力。
4. 实验结果：
   • 在数学推理任务（如GSM8k）和逻辑推理任务（如ProntoQA和ProsQA）中，COCONUT表现出显著的推理能力提升。特别是在需要大量规划的任务中，COCONUT超越了传统的CoT方法，并减少了生成的token数量。
5. 潜在推理机制：
   • COCONUT中的潜在推理被解释为一个搜索树，而非简单的推理链。模型通过概率分布来估计每个节点到达目标的潜力，从而优先考虑有希望的节点。

总结

COCONUT通过在潜在空间中构建连续的思维路径，使大型语言模型能够更高效地处理复杂推理任务。这种方法不仅提高了推理的准确性和效率，还增强了模型在处理不确定性或多个解决路径任务时的能力。因此，COCONUT为机器推理树立了新的标杆，并为未来的人工智能研究提供了新的思路和方法

• 论文地址：https://arxiv.org/pdf/2412.06769
• 论文标题：Training Large Language Models to Reason in a Continuous Latent Space