Agent 部署与生产化指南

来源：LangGraph Deployment · Google ADK Deployment · Anthropic Agent SDK | 整理时间：2026-05-14

概述

把 Agent 从本地 Demo 推到生产环境，需要解决五个问题：在哪里运行、怎么监控、怎么控制成本、怎么管理版本、怎么保障安全。本篇不讲特定框架的部署步骤（那些看官方文档就行），而是梳理通用的生产化决策框架。

部署模式选择

三种主流模式

按场景推荐

你的 Agent 做什么？
│
├─ 响应 Webhook / 定时任务
│  → Serverless（Cloudflare Workers / AWS Lambda）
│
├─ 持续运行、维护状态（如客服 Agent）
│  → 容器化（Docker + K8s / Cloud Run / Fargate）
│
├─ 处理敏感数据、合规要求
│  → 自托管（私有云 / 本地机房）
│
└─ 内部工具、团队使用
   → 容器化或 Serverless 都可以，取决于并发量

成本控制

Agent 的成本主要来自两个地方：LLM API 调用和基础设施。

LLM 成本优化

监控指标

// 每次调用记录这些指标
{
  "agent_id": "customer-support-v2",
  "model": "claude-sonnet-4-6",
  "input_tokens": 2847,
  "output_tokens": 432,
  "latency_ms": 3200,
  "cost_usd": 0.023,
  "tool_calls": 3,
  "success": true,
  "timestamp": "2026-05-14T10:30:00Z"
}

成本告警

• 单日支出上限：设置硬限制，超限自动停止
• 单次调用上限：超过阈值的调用记录告警
• 异常模式检测：Agent 进入循环时快速检测和终止

监控与可观测性

三层监控

关键告警规则

日志设计

// 结构化日志示例
logger.info("agent_task_completed", {
  task_id: "task_abc",
  agent_version: "2.1.0",
  duration_ms: 4500,
  tool_calls: [
    { name: "search_issues", latency_ms: 800 },
    { name: "create_issue", latency_ms: 1200 },
  ],
  tokens: { input: 2847, output: 432 },
  result: "success",
});

版本管理

Agent 版本策略

Prompt 版本管理

Prompt 是 Agent 的"代码"，必须版本化：

prompts/
├── v1/
│   ├── system.md          # 系统提示
│   └── tools-spec.json    # 工具定义
├── v2/
│   ├── system.md
│   └── tools-spec.json
└── current → v2/          # 软链接指向当前版本

原则：

• Prompt 变更 = 版本变更
• 每个版本有对应的测试用例
• 回滚 = 切回上一个版本目录

安全保障

生产环境安全清单

Agent 操作安全

// 危险操作需要人工确认
const dangerousActions = [
  "delete_record",
  "send_email",
  "modify_permissions",
  "execute_sql",
];

async function executeTool(name: string, params: any) {
  if (dangerousActions.includes(name)) {
    await notifyHuman(`Agent wants to execute ${name}`, params);
    const approved = await waitForApproval();
    if (!approved) return { error: "Operation cancelled by human" };
  }
  return await tools[name].execute(params);
}

部署架构示例

中小规模：Cloudflare Workers + KV

用户请求
    ↓
Cloudflare Workers (Agent 入口)
    ↓
┌──────────────────────────┐
│  Agent Logic             │
│  - Prompt 组装            │
│  - LLM 调用 (Claude API) │
│  - 工具执行              │
│  - 状态管理 (KV)         │
└──────────────────────────┘
    ↓
外部 API (GitHub / Slack / DB)

适合：单 Agent、事件驱动、中等并发、成本敏感。

企业规模：K8s + 多 Agent

负载均衡
    ↓
┌──────────────────────────────┐
│  Agent Orchestrator          │
│  - 路由请求到合适的 Agent     │
│  - A2A 协议处理              │
│  - 全局状态管理              │
└──────────────────────────────┘
    ↓         ↓         ↓
Agent A    Agent B    Agent C
(MCP)      (MCP)      (MCP)

适合：多 Agent 协作、高并发、需要精细控制和合规要求。

从 Demo 到生产的检查清单