加载中
加载中

扩展思考是 Claude 的高级推理功能,它让模型在生成响应之前有时间思考复杂的问题。启用后,Claude 会产生一个可见的思考过程,用户可以检查该过程以了解模型是如何处理其查询的。

Claude 关于关闭 JSON 分隔符的聊天内容,标注了"用户查询"、"思考/推理"和"响应"。

此功能显著提高了 Claude 处理复杂任务的准确性,但也伴随着重要的权衡。您将为思考阶段生成的所有令牌付费,并且额外的处理时间会增加响应延迟。关键在于了解何时更高的智能能够证明额外的成本和等待时间是值得的。

何时使用扩展思考

是否启用扩展思考的决定应由您的提示评估来驱动。以下是推荐的方法:

  • 首先编写并测试不启用扩展思考的提示
  • 运行评估以衡量准确性
  • 如果在提示优化工作之后结果仍未达到您的标准
  • 然后再考虑启用扩展思考作为解决方案

扩展思考如何改变响应

在不使用扩展思考的情况下,Claude 的响应流程很直接——您发送一条包含文本块的用户消息,并收到一条包含文本块的助手消息作为回复。

Claude 对"写一个关于递归的简短指南"的回复以"递归是一种强大的编程技术"开头。

启用扩展思考后,响应结构会发生显著变化。您将收到一条包含两个不同块的助手消息:

启用思考后,我们的服务器发送"写一个关于递归的简短指南",Claude 返回一个思考块,然后是一个文本块。

  • 一个包含 Claude 推理过程的 thinking 块
  • 一个包含最终响应的 text 块

签名系统

每个思考块都包含一个加密签名,用于重要的安全目的。该签名确保当您在未来的对话轮次中包含该消息时,思考文本未被修改。

助手消息 JSON,高亮显示思考块中的"signature"键,其值为一个被截断的长令牌。

Claude 在生成响应时严重依赖思考内容,因此防止篡改对于维护安全和一致的行为至关重要。如果您修改了思考文本,签名验证将失败。

删减思考内容

有时 Claude 的思考过程会被内部安全系统标记。发生这种情况时,您将收到一个被删减的思考块,而不是原始的思考文本。

助手消息:一个高亮显示的、带有加密"data"的"redacted_thinking"块,后面跟着一个"text"块"递归指南"。

被删减的内容以加密形式包含实际的思考文本。虽然您无法读取它,但您仍然可以在未来的对话轮次中包含此块,这样 Claude 就不会丢失之前推理的上下文。

实现

要在代码中启用扩展思考,您需要用两个新参数修改您的聊天函数:

python
def chat(
    messages,
    system=None,
    temperature=1.0,
    stop_sequences=[],
    tools=None,
    thinking=False,
    thinking_budget=1024
):

思考预算表示 Claude 可用于推理的最大令牌数。允许的最小值是 1024 个令牌。重要的是,您的 max_tokens 参数必须超过您的思考预算——如果您将思考预算设置为 1024,max_tokens 必须至少为 1025。

在实际使用中,您会希望有更大的缓冲空间。例如,思考预算为 1024、max_tokens 为 4000 时,Claude 最多可以使用 1024 个令牌进行思考,最多使用 2976 个令牌用于实际响应。

在启用该功能时,将思考配置添加到您的 API 参数中:

python
if thinking:
    params["thinking"] = {
        "type": "enabled",
        "budget_tokens": thinking_budget
    }

测试删减响应

在开发过程中,您可能希望测试应用程序如何处理被删减的思考块。您可以通过在消息中包含这个特殊的触发字符串来强制 Claude 返回删减响应:

TRIGGER_REDACTED_THINKING_46C9A13E193C177646C7398A98432ECCCE4C1253D5E2D82641AC0E52CC2876CB

这可以确保在生产环境中遇到删减内容时,您的错误处理能够正常工作。