加载中
加载中

温度是一个强大的参数,它控制着 Claude 响应的可预测性或创造性程度。理解如何有效使用它可以显著改善您的 AI 应用程序。

Claude 如何生成文本

在深入探讨温度之前,了解 Claude 的文本生成过程会很有帮助。当您向 Claude 发送类似"你怎么看?"这样的提示时,它会经历三个主要步骤:

  • 分词(Tokenization) - 将您的输入拆分成更小的片段
  • 预测(Prediction) - 计算可能的下一个词的概率
  • 采样(Sampling) - 根据这些概率选择一个令牌

下一个令牌概率的示意图:"about" 0.3,"would" 0.2,"of"、"is" 和 "when" 各 0.1,"makes" 和 "we" 各 0.05。

在这个例子中,Claude 可能会将 30% 的概率分配给 "about",20% 分配给 "would",10% 分配给 "of",以此类推。模型随后会选择一个令牌,并重复这个过程以构建完整的响应。

令牌列表转化为条形图:"about" 30%,"would" 20%,"of"、"is" 和 "when" 各 10%,"makes" 和 "we" 各 5%。

温度的作用

温度是一个介于 0 和 1 之间的十进制数值,它直接影响这些选择概率。这就像在调节 Claude 响应的"创造力旋钮"。

在低温下 "about" 占 100%,其余为 0%;在高温下,七个令牌分别获得 23%、18%、15%、12%、12%、11% 和 9%。

在低温(接近 0)时,Claude 会变得非常确定——它几乎总是选择概率最高的令牌。在高温(接近 1)时,Claude 会在各选项之间更均匀地分配概率,从而产生更多样化、更具创造性的输出。

温度范围及使用场景

不同的任务需要不同的温度设置:

低、中、高温度范围及其用途,列举如下,并附有一个从"创造性较低"指向"创造性较高"的箭头。

低温(0.0 - 0.3)

  • 事实性回答
  • 编程辅助
  • 数据提取
  • 内容审核

中温(0.4 - 0.7)

  • 内容摘要
  • 教育内容
  • 问题解决
  • 带约束的创意写作

高温(0.8 - 1.0)

  • 头脑风暴
  • 创意写作
  • 营销内容
  • 笑话生成

在代码中实现温度

为您的聊天函数添加温度支持非常简单。以下是如何修改您现有的函数:

python
def chat(messages, system=None, temperature=1.0):
    params = {
        "model": model,
        "max_tokens": 1000,
        "messages": messages,
        "temperature": temperature
    }
    
    if system:
        params["system"] = system
    
    message = client.messages.create(**params)
    return message.content[0].text

关键的改动是添加 temperature=1.0 作为参数,并在 params 字典中加入 "temperature": temperature。

测试温度的效果

要实际查看温度的效果,可以尝试用不同的设置来生成电影创意:

python
# 低温 - 更可预测
answer = chat(messages, temperature=0.0)

# 高温 - 更具创造性
answer = chat(messages, temperature=1.0)

在 temperature=0.0 的情况下,您可能会持续得到类似"一位穿越时空的考古学家必须阻止古代文物被盗"这样的响应。而在 temperature=1.0 的情况下,您会看到生成的创意概念有更多变化。

关键要点

请记住,温度并不能保证产生不同的输出——它只是改变了得到不同输出的概率。即使在高温下,Claude 有时也可能产生相似的响应。关键在于让您的温度设置与任务相匹配:

  • 当您需要一致的、基于事实的回答时,使用低温
  • 当您想要创造力和多样性时,使用高温
  • 尝试不同的数值,找出最适合您特定使用场景的设置

温度是用于微调 Claude 行为的最实用参数之一,使其成为您 AI 开发工具包中不可或缺的工具。