指标体系与线上排障

// metrics.ts
// 以分钟为粒度生成时间 key，如 "2026-03-13T10:05"
 
function getMinuteKey(): string {
 
  return new Date().toISOString().slice(0, 16)
 
}
 
class MetricsCollector {
 
  private counters: Map<string, number> = new Map()
 
  private histograms: Map<string, number[]> = new Map()
 
  // 累加计数器：比如每来一个请求 increment('requests')
 
  increment(name: string, value: number = 1) {
 
    this.counters.set(name, (this.counters.get(name) ?? 0) + value)
 
  }
 
  // 记录一个观测值：比如每次请求 observe('latency.total', 1350)
 
  observe(name: string, value: number) {
 
    const arr = this.histograms.get(name) ?? []
 
    arr.push(value)
 
    this.histograms.set(name, arr)
 
  }
 
  // 将本次请求收集的指标写入 KV
 
  async flush(env: { KV: KVNamespace }) {
 
    const minute = getMinuteKey()
 
    for (const [name, value] of this.counters) {
 
      const key = `metrics:counter:${name}:${minute}`
 
      const existing = Number(await env.KV.get(key) ?? '0')
 
      await env.KV.put(key, String(existing + value), { expirationTtl: 86400 })
 
    }
 
    for (const [name, values] of this.histograms) {
 
      const key = `metrics:histogram:${name}:${minute}`
 
      const existing = JSON.parse(await env.KV.get(key) ?? '[]') as number[]
 
      await env.KV.put(key, JSON.stringify([...existing, ...values]), {
 
        expirationTtl: 86400
 
      })
 
    }
 
  }
 
}

// pipeline-metrics.ts
const metrics = new MetricsCollector()
 
// 延迟指标：记录每个节点的耗时（单位 ms）
 
metrics.observe('latency.safety_check', safetyCheckDuration)
 
metrics.observe('latency.memory_retrieval', memoryRetrievalDuration)
 
metrics.observe('latency.llm_generation', llmDuration)
 
metrics.observe('latency.total', totalDuration)
 
// 检索质量指标
 
metrics.increment('retrieval.total_requests')
 
if (memories.length > 0) metrics.increment('retrieval.hit_requests')
 
metrics.observe('retrieval.count', memories.length)
 
metrics.observe('retrieval.top_score', memories[0]?.score ?? 0)
 
// 成本指标
 
metrics.increment('tokens.input', inputTokenCount)
 
metrics.increment('tokens.output', outputTokenCount)
 
// 情绪分布指标：每种情绪各自计数
 
metrics.increment(`emotion.${currentEmotion}`)
 
// 在 Hono 框架中，c 是请求上下文对象
 
// c.executionCtx 对应 Workers 原生的 ExecutionContext（上一篇用的 ctx）
 
// c.env 对应 Workers 原生的 env（绑定的 D1、KV 等资源）
 
c.executionCtx.waitUntil(metrics.flush(c.env))

// query.ts
const traces = await env.DB.prepare(
 
  `SELECT trace_id, total_duration, has_error, has_degraded, created_at
 
   FROM traces
 
   WHERE user_id = ? AND created_at BETWEEN ? AND ?
 
   ORDER BY created_at DESC`
 
).bind(userId, startTime, endTime).all()

// inspect.ts
const spans = await env.DB.prepare(
 
  `SELECT name, duration, status, input, output, metadata
 
   FROM spans WHERE trace_id = ? ORDER BY start_time`
 
).bind(traceId).all()