思维缓冲区（Buffer of Thoughts，简称BoT）是一种用于增强大型语言模型（LLMs）推理能力的创新框架。该框架的核心思想是通过存储和动态更新一系列高级思维模板，来提升模型在复杂推理任务中的准确性、效率和鲁棒性。
BoT由两个主要组件构成：元缓冲区（Meta-Buffer）和缓冲区管理器（Buffer-Manager）。元缓冲区是一个轻量级的库，存储了一系列从不同任务解决过程中提炼出的高级思维模板，这些模板被称为“思维模板”。这些模板可以跨任务共享，为语言模型提供一个可调用的“思维库”，帮助模型在面对新问题时快速检索并实例化相关模板以进行高效推理。
缓冲区管理器负责动态更新元缓冲区，随着更多任务的解决，其容量也会增强。这种动态更新机制使得BoT能够持续学习和改进，适应不断变化的问题域。通过这种方式，BoT不仅提高了推理的准确性和效率，还增强了模型的鲁棒性。
在实验中，BoT在多个具有挑战性的推理密集型任务上取得著了显的性能提升。例如，在“24点游戏”任务中，相比之前的最佳方法提高了11%的准确率，在“几何形状”任务中提高了20%，而在“一步将死”任务中提高了51%。此外，BoT展现出卓越的泛化能力和模型鲁棒性，平均只需多查询提示方法成本的12%。
BoT的应用前景广泛，尤其是在教育、医疗、法律和创意领域，可以开发智能辅导系统、智能诊断系统、智能案例分析工具和智能灵感助手，以提高效率和效果。通过利用思维模板中提供的高层次思维，BoT在不同任务中的稳定性得到了极大提升。
BoT是一种新颖且有前景的提示语框架，它通过动态的思维模板库和缓冲区管理器来提升大型语言模型在复杂推理任务中的表现，为未来的智能推理系统提供了新的研究方向和应用前景。
相关论文
论文题目：Buffer of Thoughts: Thought-Augmented Reasoning with Large Language Models