加载中
加载中

温度是一个强大的参数,它控制着 Claude 的响应是更可预测还是更具创造性。了解如何有效地使用它可以显著改善您的 AI 应用程序。

Claude 如何生成文本

在深入了解温度之前,理解 Claude 的文本生成过程会有所帮助。当您向 Claude 发送类似"你怎么看?"的提示时,它会经历三个关键步骤:

  • 分词(Tokenization) - 将您的输入拆分成更小的片段
  • 预测(Prediction) - 计算可能的下一个词的概率
  • 采样(Sampling) - 根据这些概率选择一个令牌

下一个令牌概率的示意图:"about"为0.3,"would"为0.2,"of"、"is"和"when"各为0.1,"makes"和"we"各为0.05。

在这个例子中,Claude 可能会给"about"分配30%的概率,给"would"分配20%,给"of"分配10%,依此类推。模型随后选择一个令牌,并重复整个过程来构建完整的句子。

将该令牌列表转换为柱状图:"about"为30%,"would"为20%,"of"、"is"和"when"各为10%,"makes"和"we"各为5%。

温度的作用

温度是一个介于0和1之间的小数值,它直接影响这些选择概率。这就像调整 Claude 响应的"创造力旋钮"。

在低温度下,"about"为100%,其余为0%;在高温度下,这七个令牌分别获得23%、18%、15%、12%、12%、11%和9%。

在低温度下(接近0),Claude 会变得非常确定——它几乎总是选择概率最高的令牌。在高温度下(接近1),Claude 会在各个选项之间更均匀地分配概率,从而产生更多样化和更具创造性的输出。

交互式温度演示

您可以通过 Claude 的交互式演示看到温度的实际效果。观察当您调整温度滑块时,概率分布是如何变化的:

温度演示滑块位于0.49时:"about"接近60%,"would"、"of"、"is"、"when"、"makes"和"we"均低于10%。

在温度为0.0时,"about"获得100%的概率——完全确定。在温度为1.0时,概率在所有可能的令牌之间分布得更均匀,从而引入了随机性和创造性。

选择合适的温度

不同的任务需要不同的温度范围:

低、中、高温度范围及其用途,如下所列,并有一个从"创造性较低"指向"创造性较高"的箭头。

低温度(0.0 - 0.3)

  • 事实性回答
  • 编程辅助
  • 数据提取
  • 内容审核

中等温度(0.4 - 0.7)

  • 摘要生成
  • 教育内容
  • 问题解决
  • 有限制条件的创意写作

高温度(0.8 - 1.0)

  • 头脑风暴
  • 创意写作
  • 营销内容
  • 笑话生成

在代码中实现温度

为您的聊天函数添加温度支持非常简单。以下是修改现有函数的方法:

python
def chat(messages, system=None, temperature=1.0):
    params = {
        "model": model,
        "max_tokens": 1000,
        "messages": messages,
        "temperature": temperature
    }
    
    if system:
        params["system"] = system
    
    message = client.messages.create(**params)
    return message.content[0].text

关键的改动是将 temperature=1.0 添加为一个参数,并在 params 字典中包含 "temperature": temperature。

测试温度效果

要查看温度的实际效果,请尝试使用不同的设置生成电影创意:

python
# 低温度——更可预测
answer = chat(messages, temperature=0.0)

# 高温度——更具创意
answer = chat(messages, temperature=1.0)

在温度为0.0时,您可能会持续得到类似"一位穿越时空的考古学家必须阻止古代文物被盗"这样的回答。在温度为1.0时,您会看到主题、角色和情节元素上有更多的多样性。

关键要点

请记住,温度并不保证产生不同的输出——它只是改变了获得不同输出的概率。即使在高温度下,Claude 也可能偶尔产生相似的回答。关键在于将您选择的温度与您的具体使用场景相匹配:

  • 需要一致、事实性的回答?使用低温度
  • 想要创意头脑风暴?调高温度
  • 介于两者之间?中等温度适用于大多数常规任务

温度是您可以调整的最实用的参数之一,用于根据您的特定需求微调 Claude 的行为。