大模型靠“深呼吸”数学再涨 8 分!谷歌 DeepMind 发现 AI 自己设计提示词效果胜人类

大模型靠“深呼吸”数学再涨 8 分!谷歌 DeepMind 发现 AI 自己设计提示词效果胜人类

提示词中加上“深呼吸”,AI 大模型数学成绩就能再涨 8.4 分!谷歌 DeepMind 团队最新发现,用这个新“咒语”(Take a deep breath)结合大家已经熟悉的“一步一步地想”(Let’s think step by step),大模型在 GSM8K 数据集上的成绩就从 71.8 提高到 80.2 分。而且这个最有效的提示词,是 AI 自己找出来的。有网友开玩笑说,深呼吸以后,散

告诉大模型「深呼吸,一步一步来」有奇效,DeepMind发现最有效的提示方法

告诉大模型「深呼吸,一步一步来」有奇效,DeepMind发现最有效的提示方法

机器之心报道编辑:陈萍本文提出了一种简单而有效的方法 OPRO,其利用大型语言模型作为优化器,优化任务用自然语言描述就可以,优于人类设计的提示。优化对于所有领域都至关重要。 有些优化是从初始化开始的,然后迭代的更新解以优化目标函数。这种优化算法通常需要针对单个任务进行定制,以应对决策空间带来的特定挑战,特别是对于无导数的优化。接下来我们要介绍的这项研究,研究者另辟蹊径,他们利用大型语言模