Token 本地核算
流式结束后按本地 tokenizer 结算,不信任上游 usage。
M1 先按 Premium / Standard / Economy 分层。缓存命中不额外加价,只按未命中的实际 token 计费。
| Tier | Target | TTFT | Pool | Fallback |
|---|---|---|---|---|
| Premium | anthropic/claude-sonnet-4 | 1500ms | 10 来源 | 多来源热备 + 必要时官方储备兜底 |
| Standard | openai/gpt-5.2 | 2500ms | 7 来源 | A/B 级来源加权轮询 + 自动熔断 |
| Economy | anthropic/claude-haiku-4-5 | 3500ms | 2 来源 | 低成本库存优先,适合异步和批处理 |
流式结束后按本地 tokenizer 结算,不信任上游 usage。
输入前缀 TTL 30 分钟,响应缓存 TTL 6 小时。
命中部分用于减少用户成本,也改善延迟。
| Model | Provider | Tier | Input / 1M | Output / 1M | Cache | Score |
|---|---|---|---|---|---|---|
| anthropic/claude-haiku-4-5 | Anthropic | Economy | $0.60 | $2.40 | $0.06 | B · 1 来源 |
| anthropic/claude-haiku-4-5-20251001 | Anthropic | Economy | $0.60 | $2.40 | $0.06 | B · 1 来源 |
| anthropic/claude-sonnet-4 | Anthropic | Premium | $3.00 | $15.00 | $0.30 | B · 1 来源 |
| anthropic/claude-sonnet-4-20250514 | Anthropic | Premium | $3.00 | $15.00 | $0.30 | B · 1 来源 |
| anthropic/claude-sonnet-4-5 | Anthropic | Premium | $3.00 | $15.00 | $0.30 | B · 1 来源 |
| anthropic/claude-sonnet-4-5-20250929 | Anthropic | Premium | $3.00 | $15.00 | $0.30 | B · 1 来源 |
| anthropic/claude-sonnet-4-6 | Anthropic | Premium | $3.00 | $15.00 | $0.30 | A · 2 来源 |
| openai/gpt-5.4 | OpenAI | Premium | $5.50 | $16.50 | $0.55 | A · 2 来源 |
| openai/gpt-5.5 | OpenAI | Premium | $5.50 | $16.50 | $0.55 | A · 2 来源 |
| openai/gpt-5.2 | OpenAI | Standard | $1.20 | $4.80 | $0.12 | A · 2 来源 |
| openai/gpt-5.3 | OpenAI | Standard | $1.20 | $4.80 | $0.12 | B · 1 来源 |
| openai/gpt-5.3-codex | OpenAI | Standard | $1.20 | $4.80 | $0.12 | A · 2 来源 |
| openai/gpt-5.4-mini | OpenAI | Standard | $0.60 | $2.40 | $0.06 | A · 2 来源 |
| Partner | Type | Provider | Price | Lock | Penalty | Capacity | Rating |
|---|---|---|---|---|---|---|---|
| 官方储备 | platform-owned | Mixed | 协议价或平台自有成本 | 短期固定,供应方变更后自动调价 | 平台承担短期兜底责任 | reserved | A |
| 合作商家托管 | partner-managed | Mixed | 商家报价 + 质量等级折算 | 7d / 14d 软锁,按合同配置 | 不达标降权、暂停、扣减待结算 credits | 受 RPM/TPM/余额刷新窗口约束 | A/B/C |
| 用户授权库存 | seller-submitted | Mixed | 按探针等级 payout 表结算 | 无强锁,按余额和过期时间自动暂停 | 低于阈值自动下架,不进入客户 SLA 池 | 余额 - 保留线 | A/B/C/D |
| Tier | Fallback | Cost cap window | Customer SLA | Platform action |
|---|---|---|---|---|
| Premium | 多来源热备 + 必要时官方储备兜底 | 个人用户按 24h 断线时长表评估,企业另行签 SLA | 99.9% target | 优先保证不断供,短期成本波动由平台策略吸收并后续调价 |
| Standard | A/B 级来源加权轮询 + 自动熔断 | 个人用户按月均消耗和断线时长计算上限 | 99.5% target | 来源大面积失效时自动切换 Premium 储备或提示降级 |
| Economy | 低成本库存优先,适合异步和批处理 | 不承诺实时兜底 | best-effort batch lane | 必要时延迟、排队或转 Standard 报价 |