08-Chain of Thought使用边界

const prompt = `
检查以下代码是否有 bug。
 
请先逐步分析每一行代码，列出可能的问题，最后给出结论。
 
分析过程：
`

// 模型输出
const output = `
让我逐步分析：
1. 第 1 行：函数定义，没问题
2. 第 2 行：user.level = 'vip' 使用了赋值运算符，应该用 ===
...
 
结论：代码有 bug，第 2 行应改为 ===
`
 
// 需要从输出中提取结论
const conclusion = output.match(/结论：(.+)/)?.[1]

const prompt = `
检查以下代码是否有 bug。
 
按以下格式输出：
 
<thinking>
在这里写出你的逐步分析过程。
</thinking>
 
<answer>
在这里给出最终结论。如果有 bug，说明是哪一行、什么问题、怎么修改。
如果没有 bug，输出「代码无问题」。
</answer>
`

<thinking>
1. 第 1 行：函数定义，参数 user 无类型标注，但不算 bug
2. 第 2 行：user.level = 'vip' 使用了赋值运算符 =，而不是比较运算符 ===
   这会导致两个问题：
   a. 条件永远为 true（赋值表达式的返回值是被赋予的值，非空字符串为 truthy）
   b. 每次调用都会修改 user.level
</thinking>
 
<answer>
代码有 bug。
第 2 行：`user.level = 'vip'` 应改为 `user.level === 'vip'`
</answer>

const answer = output.match(/<answer>([\s\S]*?)<\/answer>/)?.[1]?.trim()

const response = await callModelAPI({
  model: 'claude-sonnet-4-5',
  messages: [
    { role: 'user', content: '检查这段代码是否有 bug...' },
  ],
  thinking: {
    type: 'enabled',
    budget_tokens: 2000,  // 给模型分配 2000 token 的思考预算
  },
})
 
// response 里有 thinking 字段（推理过程）和 content 字段（最终回答）
// 可以只展示 content 给用户

// 没有 CoT
const inputTokens = 500
const outputTokens = 50  // 直接给结论
const totalCost = calculateCost(inputTokens, outputTokens)
 
// 有 CoT
const inputTokens = 500
const outputTokens = 500  // 推理过程 450 + 结论 50
const totalCost = calculateCost(inputTokens, outputTokens)  // 贵了 10 倍

const prompt = `
请简要分析这段代码，用 3-5 句话说明分析过程和结论。
`

// src/services/prompt/cot-router.ts
function shouldUseCoT(task: string, input: string): boolean {
  // 简单任务不用 CoT
  if (input.length < 50) return false
 
  // 分类、提取、格式化不用 CoT
  const simpleTasks = ['classify', 'extract', 'format', 'translate']
  if (simpleTasks.includes(task)) return false
 
  // 调试、推理、决策用 CoT
  const complexTasks = ['debug', 'analyze', 'reason', 'decide']
  if (complexTasks.includes(task)) return true
 
  return false
}

// 第一步：用小模型快速判断是否需要深入分析
const quickCheck = await callModelAPI({
  model: 'gpt-4o-mini',  // 小模型，便宜
  messages: [
    { role: 'system', content: '判断以下代码是否可能包含 bug。只需回答「可能」或「不太可能」。' },
    { role: 'user', content: code },
  ],
  temperature: 0,
  max_tokens: 10,
})
 
// 第二步：如果小模型认为可能有问题，用大模型做详细分析
if (quickCheck.choices[0].message.content.includes('可能')) {
  const detailed = await callModelAPI({
    model: 'gpt-4o',  // 大模型，贵
    messages: [
      { role: 'system', content: '详细分析这段代码的 bug，逐步推理。' },
      { role: 'user', content: code },
    ],
    temperature: 0,
  })
}

// ❌ 简单的分类任务不需要 CoT
const prompt = `
判断以下邮件是「工作」还是「个人」。请逐步分析邮件的主题、发件人、内容后给出分类。
`
 
// ✅ 简单任务直接回答
const prompt = `
判断以下邮件是「工作」还是「个人」。只输出分类结果。
`

// ❌ CoT 和 JSON Schema 同时要求
const response = await callModelAPI({
  model: 'gpt-4o',
  messages: [
    { role: 'system', content: '逐步分析后给出结论。' },
    { role: 'user', content: '...' },
  ],
  response_format: { type: 'json_schema', schema: { /* ... */ } },
})

// src/services/prompt/bug-analyzer.ts
 
const BUG_ANALYZER_PROMPT = `你是一个 TypeScript 代码调试助手。
 
## 任务
分析用户提交的代码，找出其中的 bug。
 
## 分析步骤
1. 逐行阅读代码，理解每行的意图
2. 检查每行是否有语法错误、类型错误、逻辑错误
3. 检查函数之间的数据流是否有问题
4. 总结发现的问题
 
## 输出格式
<thinking>
在这里写出你的逐步分析。
</thinking>
 
<answer>
{
  "hasBug": true/false,
  "bugs": [
    {
      "line": number,
      "type": "syntax" | "type" | "logic",
      "description": string,
      "fix": string
    }
  ]
}
</answer>
`
 
export async function analyzeBugs(code: string) {
  const response = await callModelAPI({
    model: 'gpt-4o',
    messages: [
      { role: 'system', content: BUG_ANALYZER_PROMPT },
      { role: 'user', content: code },
    ],
    temperature: 0,
  })
 
  const output = response.choices[0].message.content
 
  // 提取 thinking 和 answer
  const thinking = output.match(/<thinking>([\s\S]*?)<\/thinking>/)?.[1]?.trim() ?? ''
  const answerRaw = output.match(/<answer>([\s\S]*?)<\/answer>/)?.[1]?.trim() ?? '{}'
 
  let answer
  try {
    answer = JSON.parse(answerRaw)
  } catch {
    answer = { hasBug: false, bugs: [] }
  }
 
  return {
    thinking,  // 可以记录到日志，也可以丢弃
    ...answer,
  }
}