加载中
加载中

扩展思考是 Claude 的高级推理功能,它让模型在生成最终回复之前有时间处理复杂问题。可以将其想象成 Claude 的"草稿纸"——您可以看到得出答案的推理过程,这有助于提高透明度,并且通常能带来更好的回复质量。

扩展思考的工作原理

启用扩展思考后,Claude 的回复会从简单的文本块变为包含两部分的结构化回复:

我们的服务器发送"Write a short guide on recursion",Claude 的助手消息包含一个思考块,然后是一个文本块。

启用思考后,您会同时获得推理过程和最终答案:

助手消息 JSON:一个带有高亮签名令牌的思考块,然后是一个文本块"A Guide to Recursion"。

主要优势包括:

  • 针对复杂任务提供更好的推理能力
  • 提高在困难问题上的准确性
  • 让 Claude 的思考过程更加透明

然而,这也伴随着重要的权衡:

  • 更高的成本(您需要为思考令牌付费)
  • 更高的延迟(思考需要时间)
  • 您代码中的回复处理会更加复杂

何时使用扩展思考

这个决定其实很简单:使用您的提示评估。先不启用思考运行您的提示,如果在您已经优化过提示之后,准确性仍未达到您的要求,再考虑启用扩展思考。它是在标准提示方式效果不够理想时才会用到的工具。

响应结构与安全性

扩展思考的响应包含一个特殊的签名系统以确保安全:

助手消息 JSON:一个带有高亮签名令牌的思考块,然后是一个文本块"A Guide to Recursion"。

该签名是一个加密令牌,用于确保您没有修改思考文本。这可以防止开发者篡改 Claude 的推理过程,而篡改推理过程可能会将模型引导至不安全的方向。

隐去的思考内容

有时您会收到一个隐去内容的思考块,而不是可读的推理文本。

当 Claude 的思考过程被内部安全系统标记时,就会发生这种情况。隐去的内容以加密形式包含实际的思考内容,使您能够在未来的对话中将完整的消息传回给 Claude,而不会丢失上下文。

实现方式

要在代码中启用扩展思考,您需要在聊天函数中添加两个参数:

python
def chat(
    messages,
    system=None,
    temperature=1.0,
    stop_sequences=[],
    tools=None,
    thinking=False,
    thinking_budget=1024
):

思考预算——请求中的 budget_tokens——用于设置 Claude 可用于推理的最大令牌数。budget_tokens 的最小值为 1024,并且您的 max_tokens 参数必须大于 budget_tokens。

在您的 API 请求中添加 thinking 参数——一个 type 设置为 "enabled" 并包含 budget_tokens 值的对象——并将 max_tokens 提高到大于 budget_tokens:

python
if thinking:
    params["max_tokens"] = thinking_budget + 1000
    params["thinking"] = {
        "type": "enabled",
        "budget_tokens": thinking_budget
    }

然后在启用思考的情况下调用您的聊天函数:

python
chat(messages, thinking=True)

测试隐去的响应

出于测试目的,您可以通过发送一个特殊的触发字符串,强制 Claude 返回一个隐去内容的思考块。这有助于确保您的应用程序能够优雅地处理隐去的响应,而不会崩溃。

当您需要 Claude 处理复杂的推理任务时,扩展思考是一项强大的功能,但鉴于其成本和延迟方面的影响,应谨慎使用。先从标准提示方式开始,充分优化,然后在需要那种额外推理能力时再添加思考功能。