TokenPilot 是面向 LLM API、AI Agent 与自动化工作流的 AI Token 成本治理平台。

它帮助企业完成从“月底看账单”到“实时发现异常、精准归因、主动止损、衡量 ROI”的治理升级。

简单说：其他工具告诉你“花了多少钱”，TokenPilot 告诉你“为什么花、哪里花错了、怎么少花冤枉钱”。

Token 成本有三个独特风险，传统 SaaS 工具无法应对：

• 实时发生：每次 API 调用即刻产生费用，月底账单发现时已错过止损窗口。
• 自动放大：Agent 循环、重试风暴、上下文膨胀，可让成本在几小时内非线性翻倍。
• 责任分散：调用入口散落在产品、研发、测试、员工工具各处，没有一个人能看全。

TokenPilot 帮你建立与自动化调用匹配的自动化治理体系。

治理成熟度沿着五个阶段演进，TokenPilot 的能力与之对应：

这五个问题缺一不可：有账单不等于有可见性，有告警不等于能止损，有成本不等于知道 ROI。

TokenPilot 重点覆盖 10 大高风险场景：

• Agent 循环：AI Agent 陷入无限调用，成本指数级增长。
• 重试风暴：错误触发大量自动重试，失败成本叠加。
• 测试环境浪费：开发或测试调用未隔离，混入生产预算。
• 员工异常调用：个人工具、脚本产生非预期费用。
• 上下文膨胀：多轮对话历史累积，后期每轮 token 暴增。
• 高成本模型误用：简单任务使用了顶级模型。
• 低价值客户高消耗：特定客户或功能的 ROI 严重倒挂。
• RAG 过度检索：向量检索注入了大量无效上下文。
• 批处理失控：批任务无限额保护，遇到异常数据时失控。
• API Key 泄露：密钥外泄导致异常高额调用。

账单只告诉你“总共花了多少”，它回答不了这些关键问题：

• 哪个团队、产品或 Agent 产生了这笔费用？
• 这笔费用是正常还是异常？与上周相比为什么涨了 40%？
• 哪类调用是无效支出？哪些是高价值核心调用？
• 按这个趋势，下个月的账单会是多少？

账单是结果，TokenPilot 帮你看清过程：分钟级监控、精准归因、主动预警。

团队规模不是关键，AI 调用的自动化程度才是。以下三个信号意味着你已经需要治理：

• 你有运行中的 AI Agent 或自动化工作流。
• 每月 LLM API 费用超过 $500，但说不清钱花在哪个功能或客户。
• 过去 12 个月有过一次无法解释的账单突涨。

TokenPilot 从 V0.1 风险评估开始，3 分钟就能告诉你当前成熟度等级、最大风险和优先行动项。没有任何接入成本，免费开始。

传统 FinOps 工具无法应对 Token 成本的自动化放大特性，需要专门的治理体系。

TokenPilot 的核心不是“记账”，而是业务行为特征分析，把 token 消耗和实际业务行为挂钩：

• 业务意图归因：不只看模型或 API Key，而是看哪个场景、用户或 Agent 在消耗 token。
• 异常模式识别：检测 Agent 循环、重试风暴、上下文膨胀等典型浪费模式。
• 成本-结果挂钩：把 token 花费和业务产出对应，发现 ROI 倒挂点。

产品版本遵循“先诊断再治理、先预警再自动”的原则：

TokenPilot 遵循 先证据，再结论：每一个告警和风险判断都绑定可观察字段和计算依据。

• 告警包含触发规则、影响成本估算、归因对象和建议下一步动作。
• 不做黑盒推断，字段缺失时展示“证据缺口”。
• 告警去重与限频，避免同一异常触发告警风暴。
• 自动治理动作支持 dry-run 预览、人工审批和回滚。

• 零接入：在线问卷评估，无需上传任何数据。
• 文件上传：CSV、JSONL、LiteLLM 日志，用于生成报告，无需实时接入。
• 实时 SDK/Webhook：轻量 SDK 接入或日志推送，分钟级监控。
• 网关代理：兼容主流 AI Gateway。
• 业务数据导入：连接 Stripe、CRM、工单系统，支持 ROI 分析。

这些工具是 AI Gateway：统一 API 接口、路由转发、基础成本记账。TokenPilot 做的是智能层：分析业务行为，驱动 token 优化。

LLM 可观测性工具聚焦调试和评估：追踪 prompt/response 链路、评估模型输出质量、记录实验。

TokenPilot 聚焦成本治理：发现浪费、归因、止损、衡量投入产出。可观测性工具问“输出质量怎么样”，TokenPilot 问“钱花得值不值”。

做一次免费的成熟度评估。

15 道问题，3 分钟，告诉你当前治理等级、最大风险场景和优先行动项。评估完全免费，不需要上传数据，不需要接入系统。

开始 3 分钟自评

• V0.1 风险评估：零接入，3 分钟完成在线评估。
• V0.2 报告生成：上传现有日志文件，半小时内得到分析报告。
• V0.4 动态预警：接入 SDK 或配置 Webhook，预计 1-2 天完成。
• V1.0 商业版：完整接入含团队管理和预算配置，预计 1 周完成。

设计原则是先用轻量报告证明价值，再实时接入。

• 商业化模型：OpenAI、Anthropic、Google Gemini、Mistral、Cohere、Together AI、通义千问、文心一言、智谱 GLM、DeepSeek、Kimi、豆包等。
• 自托管模型：通过 LiteLLM 兼容层支持 Llama、Qwen 等本地部署模型。
• 多模型/多供应商混合：支持在同一 Dashboard 中统一追踪和归因。

TokenPilot 只需要调用元数据，不需要完整 prompt/response 内容即可完成大多数分析。

• 必要字段：时间戳、模型名称、input/output token 数、费用、状态码、归因标签。
• 可选字段：错误信息、重试次数、环境标识、trace ID。

如果需要更深度的 Prompt 效率分析，可以选择性发送经过脱敏处理的 prompt 内容。PII 信息永远不需要上传。

V1.0 商业版开始提供私有化部署选项，支持 SaaS、混合部署和完全私有化部署。混合部署可在你的环境内处理数据，只把聚合指标和告警发送到 TokenPilot 云端。

TokenPilot 的分析引擎采用异步管道架构，数据采集和重度分析不在请求路径上执行。

• 请求路径只做轻量元数据埋点，不阻塞 LLM 调用。
• 行为分析在旁路异步完成，不影响生产延迟。
• 告警触发使用分钟级窗口聚合，不介入单次请求。