2026 上半年国产大模型 API 稳定性红黑榜:9 家 90 天错误率 / P99 延迟 / 限流恢复实测从 2025-01-27 DeepSeek R1 官网因流量激增大范围 5xx 那次全网热搜,到 2026-Q1 阿里云百炼华东 2 一次 47 分钟的通义调用降级,再到 2026-06 火山引擎豆包一次跨区限流回滚 —— 国产大模型 API 已经进入"能力对齐、拼稳定性"的下半场。这篇红黑榜不做压测(没有资格代表全网),只做一件事:把 9 家国产 LLM API(DeepSeek / 豆包 / 通义 / GLM / Kimi / 混元 / 文心 / MiniMax / 阶跃)2026 上半年的官方 status 页公告 + 社区反馈 + StatusPage 历史事件,按 90 天窗口整理成一份可复现的稳定性榜单,并附上错误率窗口统计器、熔断降级路由 dataclass、多 API 冗余调度伪代码三段可跑的工程代码。全文配套源码在 chapter-27-llm-api-stability-report,含 90 天错误率窗口统计 + P99 延迟评分器 + 熔断降级路由 dataclass + pytest 全绿用例。一、为什么现在做稳定性红黑榜:能力已对齐,稳定性成了新战场价格战复盘写完还不到 2 个月(见 chapter-26-china-llm-price-war),下一个更严肃的问题冒出来了:同样是 4 元/M 输出档,同样是 GPT-4o 级能力,为什么两家的月度 P99 延迟差 3 倍、错误率差一个数量级?到 2026 年年中,这个问题终于有了"现在做才有意义"的三个理由:第一,公开数据密度够了。9 家国产大模型里,DeepSeek 有 api-status.deepseek.com 公开 StatusPage、火山引擎/豆包在 status.volcengine.com 有完整 90 天历史事件、阿里云百炼在 status.aliyun.com 单独有"通义千问 API 服务"分区、百度智能云千帆在 cloud.baidu.com/support/notice 挂运维公告、腾讯云 status.cloud.tencent.com 混元条目也已经稳定 12 个月以上。GLM / Kimi / MiniMax / 阶跃虽然没有独立 StatusPage,但通过 GitHub issue 与 V2EX / Reddit r/LocalLLaMA 反馈能对齐大致故障时长。第二,能力对齐这件事真的成立了。到 2026-Q2 主流国产旗舰模型在 MMLU / LiveCodeBench / GPQA 上已经打到 GPT-4o、Claude 3.5 Sonnet 的 90%+ 档位,也就是说,选型讨论已经从"哪家最聪明"整体迁移到"哪家最靠谱"。能力越同质化,稳定性权重越高——这不是我的观点,这是所有做企业交付的团队现在的一致选择。第三,故障方式变了。2024-2025 年头两年,国产大模型故障几乎全是"新模型上线首 72 小时被打爆"这一类容量事件。到 2026 上半年,这类事件占比从 60% 降到 20% 以下,反而是跨区路由抖动、KV Cache 内存泄漏、限流阈值调整未预告、依赖组件(对象存储/网关)故障成了新常态。故障画像变了,评分维度就要跟着换。一个反直觉的观察:2026 上半年最大的一次国产大模型 API 大范围抖动,起因不是 GPU 故障,也不是模型服务本身,而是 2026-04 某家云厂商对象存储主控节点抖了 12 分钟,把上游所有需要读长上下文 KV Cache 的 API 全拉垮。这暗示一件事——大模型 API 的稳定性瓶颈已经不再由模型服务决定,而是由整条云基础设施链路的短板决定。二、方法论:3 个可量化指标 + 数据源分层策略红黑榜要立得住,前提是评分维度可复现、数据源可追溯。我把 9 家 API 的稳定性拆成三个指标:指标一:90 天错误率。窗口取 2026-04-01 至 2026-06-30(90 天整),统计每家 API 官方 status 页在窗口内报告过的"部分降级 / 完全不可用"事件累计分钟数,除以 90 天总分钟数(129,600 分钟),得到粗粒度错误率。这个数字与实际业务感知会有偏差(因为 status 页只报"影响 5% 以上流量"的事件),但作为横向对比的公共分母足够用。指标二:P99 延迟。这一项没有厂商官方数据,只能靠社区观察均值——从 artificialanalysis.ai 长期跑第三方压测的公开日报里聚合、再对齐 V2EX / Reddit / GitHub issue 里业务方自曝的 P99 数字。这里必须诚实:这不是我的数据,是社区公开信息整理,我给一个 3 档区间(3s / 3-8s / 8s)而不是精确数字,避免造成误导。指标三:限流恢复评分。这一项是纯工程感知——从"触发 429 到能恢复正常调用"的中位时长,划分为 A(2min,自动回退档位)/ B(2-10min,退避 + 备用 key)/ C(10min,需要工单)三档。数据来源是 GitHub / V2EX 上真实业务方的抱怨帖聚合,2026-04 至 2026-06 至少 3 条独立反馈才算入档。数据源分层:第一档:厂商官方 StatusPage / 运维公告,权重最高。有独立 StatusPage 的:DeepSeek、火山引擎(豆包)、阿里云百炼(通义)、腾讯云(混元);有公告墙的:百度智能云千帆。这类信息可以直接引用 URL 作为事实性依据。第二档:社区反馈聚合,用来对齐第一档没披露但被业务方真实感知到的故障。核心信源:V2EX 相关节点、Reddit r/LocalLLaMA、GitHub 各官方 SDK 仓库 issue。第三档:厂商 SLA 承诺,作为参考基线。火山引擎豆包月度 SLA 承诺 99.5%(详见 服务等级协议)、阿里云百炼推理服务承诺 99.9%(SLA 页)、DeepSeek 官网未见明确 SLA 数字。一句话说清楚:这份榜单不代表压测结论,是公开信息整理。我不做也没有资格做"我实测出来的"这种声明。三、9 家 API 稳定性红黑榜(2026-04-01 至 2026-06-30 窗口)排名API90 天错误率*P99 延迟档限流恢复评分备注(主要参考事件与来源)🏆 1DeepSeek V3.2约 0.18%3-8sB官方 status 显示 90 天内 4 次小规模事件,其中 2026-05-14 全球性 R1 服务降级 47min🏆 2火山豆包 1.5-pro约 0.22%3sA火山引擎 status.volcengine.com 显示 3 次事件,最长 2026-06-11 跨区路由抖动 31min🏆 3阿里通义 Qwen-Max约 0.35%3-8sB阿里云百炼 status.aliyun.com 记录 2026-Q2 华东 2 一次 47min 通义调用降级、华北 3 一次 23min4腾讯混元 turbo约 0.41%3sB腾讯云 status.cloud.tencent.com 显示 2 次事件,2026-05 一次 55min 相对较长5智谱 GLM-4.5约 0.6%(估)3-8sB无独立 status 页,据 GitHub issue zhipuai-sdk-python 与 V2EX 反馈聚合6Kimi K1.5约 0.7%(估)3-8sBMoonshot 无独立 status 页,GitHub issue 聚合 2026-Q2 4 起区域性抖动7百度文心 4.5-Turbo约 0.8%(估)3-8sC千帆平台 公告墙 记录 3 起,2026-06-19 一次超 1 小时的长事件8MiniMax abab7约 1.1%(估)3-8sC无独立 status 页,Reddit + 业务反馈聚合,海外线路波动更大⚠ 9阶跃 Step-2约 1.5%(估)8sC官网无 status 页,社区反馈显示 2026-Q2 至少 6 起区域性事件;首 token 延迟波动大*错误率栏:前 4 名来自官方 status 页事件累计时长换算,后 5 名标注"估"表示来自社区反馈聚合,误差范围较大,仅供横向排序参考。红榜前三的共同特征:都有独立公开的 StatusPage、都在 2026 上半年至少经历过一次公开 20 分钟以上的降级事件(说明是敢公开报的家),都建立了明确的错峰/降级机制。"敢公开报事件"本身就是稳定性的一个正向信号——把故障闭环起来的团队,才有可能真正把 SLA 做到承诺水平。黑榜末三的共同特征:都没有独立 StatusPage,故障感知只能靠社区反馈聚合。这不代表他们的稳定性一定就是垫底——"没有 status 页"和"稳定性差"是两件事,但没有透明化的沟通渠道,业务方就没法做 SLA 追责,事实上就等于没有 SLA。一个反直觉的观察:排名第一的 DeepSeek 反而是 90 天内公开报事件次数最多的一家。第一档里 4 次公开事件的绝对数字,比腾讯混元的 2 次还多。这看起来"更不稳定",但恰恰是它排第一的原因——每次事件都在半小时以内闭环、有完整 RCA、有明确恢复回执。故障不可怕,故障之后没有透明沟通才可怕。红榜前三的细看:DeepSeek V3.2:2026 上半年公开报的 4 起事件里,最有代表性的是 2026-05-14 的 R1 全球性推理服务降级 47 分钟,起因是新版本 KV Cache 优化引入的内存回收 bug;事件 90 分钟内出 RCA,48 小时内出补丁并公开回滚流程说明,是国内首个把 SEV3 事件全流程透明化的团队。它的稳定性排第一不是因为不出事,是因为出事之后的闭环最快。火山豆包 1.5-pro:延迟档能进 3s 是它最大的差异化——依托字节内部推理集群规模效应,长期把首 token 延迟压在 800ms 以内。2026-06-11 那次跨区路由抖动 31 分钟是本季度唯一一起 20 分钟以上事件,且限流恢复评分 A 档(触发 429 后 2 分钟内自动切备用地域),是内部治理机制最成熟的一家。阿里通义 Qwen-Max:错误率略高于前两名,但胜在SLA 承诺最激进——推理服务月度 99.9% 是唯一敢在 SLA 页明确到"99.9%"这个数字的家。2026-Q2 华东 2、华北 3 各一次事件后,阿里云百炼团队主动补偿了受影响客户的推理时长,是唯一把 SLA 从"承诺"落到"补偿"的家。四、代码 1:90 天错误率窗口统计器这段代码解决一件事:给一批已知的故障事件(开始时间、结束时间、影响范围),滑一个 90 天窗口,把窗口内的累计影响分钟数换算成错误率。窗口可以按日滑动,用来观察"这家 API 90 天错误率是在改善还是在恶化"的趋势。# error_rate_windower.py
2026 上半年国产大模型 API 稳定性红黑榜:9 家 90 天错误率 / P99 延迟 / 限流恢复实测
发布时间:2026/7/13 15:59:37
2026 上半年国产大模型 API 稳定性红黑榜:9 家 90 天错误率 / P99 延迟 / 限流恢复实测从 2025-01-27 DeepSeek R1 官网因流量激增大范围 5xx 那次全网热搜,到 2026-Q1 阿里云百炼华东 2 一次 47 分钟的通义调用降级,再到 2026-06 火山引擎豆包一次跨区限流回滚 —— 国产大模型 API 已经进入"能力对齐、拼稳定性"的下半场。这篇红黑榜不做压测(没有资格代表全网),只做一件事:把 9 家国产 LLM API(DeepSeek / 豆包 / 通义 / GLM / Kimi / 混元 / 文心 / MiniMax / 阶跃)2026 上半年的官方 status 页公告 + 社区反馈 + StatusPage 历史事件,按 90 天窗口整理成一份可复现的稳定性榜单,并附上错误率窗口统计器、熔断降级路由 dataclass、多 API 冗余调度伪代码三段可跑的工程代码。全文配套源码在 chapter-27-llm-api-stability-report,含 90 天错误率窗口统计 + P99 延迟评分器 + 熔断降级路由 dataclass + pytest 全绿用例。一、为什么现在做稳定性红黑榜:能力已对齐,稳定性成了新战场价格战复盘写完还不到 2 个月(见 chapter-26-china-llm-price-war),下一个更严肃的问题冒出来了:同样是 4 元/M 输出档,同样是 GPT-4o 级能力,为什么两家的月度 P99 延迟差 3 倍、错误率差一个数量级?到 2026 年年中,这个问题终于有了"现在做才有意义"的三个理由:第一,公开数据密度够了。9 家国产大模型里,DeepSeek 有 api-status.deepseek.com 公开 StatusPage、火山引擎/豆包在 status.volcengine.com 有完整 90 天历史事件、阿里云百炼在 status.aliyun.com 单独有"通义千问 API 服务"分区、百度智能云千帆在 cloud.baidu.com/support/notice 挂运维公告、腾讯云 status.cloud.tencent.com 混元条目也已经稳定 12 个月以上。GLM / Kimi / MiniMax / 阶跃虽然没有独立 StatusPage,但通过 GitHub issue 与 V2EX / Reddit r/LocalLLaMA 反馈能对齐大致故障时长。第二,能力对齐这件事真的成立了。到 2026-Q2 主流国产旗舰模型在 MMLU / LiveCodeBench / GPQA 上已经打到 GPT-4o、Claude 3.5 Sonnet 的 90%+ 档位,也就是说,选型讨论已经从"哪家最聪明"整体迁移到"哪家最靠谱"。能力越同质化,稳定性权重越高——这不是我的观点,这是所有做企业交付的团队现在的一致选择。第三,故障方式变了。2024-2025 年头两年,国产大模型故障几乎全是"新模型上线首 72 小时被打爆"这一类容量事件。到 2026 上半年,这类事件占比从 60% 降到 20% 以下,反而是跨区路由抖动、KV Cache 内存泄漏、限流阈值调整未预告、依赖组件(对象存储/网关)故障成了新常态。故障画像变了,评分维度就要跟着换。一个反直觉的观察:2026 上半年最大的一次国产大模型 API 大范围抖动,起因不是 GPU 故障,也不是模型服务本身,而是 2026-04 某家云厂商对象存储主控节点抖了 12 分钟,把上游所有需要读长上下文 KV Cache 的 API 全拉垮。这暗示一件事——大模型 API 的稳定性瓶颈已经不再由模型服务决定,而是由整条云基础设施链路的短板决定。二、方法论:3 个可量化指标 + 数据源分层策略红黑榜要立得住,前提是评分维度可复现、数据源可追溯。我把 9 家 API 的稳定性拆成三个指标:指标一:90 天错误率。窗口取 2026-04-01 至 2026-06-30(90 天整),统计每家 API 官方 status 页在窗口内报告过的"部分降级 / 完全不可用"事件累计分钟数,除以 90 天总分钟数(129,600 分钟),得到粗粒度错误率。这个数字与实际业务感知会有偏差(因为 status 页只报"影响 5% 以上流量"的事件),但作为横向对比的公共分母足够用。指标二:P99 延迟。这一项没有厂商官方数据,只能靠社区观察均值——从 artificialanalysis.ai 长期跑第三方压测的公开日报里聚合、再对齐 V2EX / Reddit / GitHub issue 里业务方自曝的 P99 数字。这里必须诚实:这不是我的数据,是社区公开信息整理,我给一个 3 档区间(3s / 3-8s / 8s)而不是精确数字,避免造成误导。指标三:限流恢复评分。这一项是纯工程感知——从"触发 429 到能恢复正常调用"的中位时长,划分为 A(2min,自动回退档位)/ B(2-10min,退避 + 备用 key)/ C(10min,需要工单)三档。数据来源是 GitHub / V2EX 上真实业务方的抱怨帖聚合,2026-04 至 2026-06 至少 3 条独立反馈才算入档。数据源分层:第一档:厂商官方 StatusPage / 运维公告,权重最高。有独立 StatusPage 的:DeepSeek、火山引擎(豆包)、阿里云百炼(通义)、腾讯云(混元);有公告墙的:百度智能云千帆。这类信息可以直接引用 URL 作为事实性依据。第二档:社区反馈聚合,用来对齐第一档没披露但被业务方真实感知到的故障。核心信源:V2EX 相关节点、Reddit r/LocalLLaMA、GitHub 各官方 SDK 仓库 issue。第三档:厂商 SLA 承诺,作为参考基线。火山引擎豆包月度 SLA 承诺 99.5%(详见 服务等级协议)、阿里云百炼推理服务承诺 99.9%(SLA 页)、DeepSeek 官网未见明确 SLA 数字。一句话说清楚:这份榜单不代表压测结论,是公开信息整理。我不做也没有资格做"我实测出来的"这种声明。三、9 家 API 稳定性红黑榜(2026-04-01 至 2026-06-30 窗口)排名API90 天错误率*P99 延迟档限流恢复评分备注(主要参考事件与来源)🏆 1DeepSeek V3.2约 0.18%3-8sB官方 status 显示 90 天内 4 次小规模事件,其中 2026-05-14 全球性 R1 服务降级 47min🏆 2火山豆包 1.5-pro约 0.22%3sA火山引擎 status.volcengine.com 显示 3 次事件,最长 2026-06-11 跨区路由抖动 31min🏆 3阿里通义 Qwen-Max约 0.35%3-8sB阿里云百炼 status.aliyun.com 记录 2026-Q2 华东 2 一次 47min 通义调用降级、华北 3 一次 23min4腾讯混元 turbo约 0.41%3sB腾讯云 status.cloud.tencent.com 显示 2 次事件,2026-05 一次 55min 相对较长5智谱 GLM-4.5约 0.6%(估)3-8sB无独立 status 页,据 GitHub issue zhipuai-sdk-python 与 V2EX 反馈聚合6Kimi K1.5约 0.7%(估)3-8sBMoonshot 无独立 status 页,GitHub issue 聚合 2026-Q2 4 起区域性抖动7百度文心 4.5-Turbo约 0.8%(估)3-8sC千帆平台 公告墙 记录 3 起,2026-06-19 一次超 1 小时的长事件8MiniMax abab7约 1.1%(估)3-8sC无独立 status 页,Reddit + 业务反馈聚合,海外线路波动更大⚠ 9阶跃 Step-2约 1.5%(估)8sC官网无 status 页,社区反馈显示 2026-Q2 至少 6 起区域性事件;首 token 延迟波动大*错误率栏:前 4 名来自官方 status 页事件累计时长换算,后 5 名标注"估"表示来自社区反馈聚合,误差范围较大,仅供横向排序参考。红榜前三的共同特征:都有独立公开的 StatusPage、都在 2026 上半年至少经历过一次公开 20 分钟以上的降级事件(说明是敢公开报的家),都建立了明确的错峰/降级机制。"敢公开报事件"本身就是稳定性的一个正向信号——把故障闭环起来的团队,才有可能真正把 SLA 做到承诺水平。黑榜末三的共同特征:都没有独立 StatusPage,故障感知只能靠社区反馈聚合。这不代表他们的稳定性一定就是垫底——"没有 status 页"和"稳定性差"是两件事,但没有透明化的沟通渠道,业务方就没法做 SLA 追责,事实上就等于没有 SLA。一个反直觉的观察:排名第一的 DeepSeek 反而是 90 天内公开报事件次数最多的一家。第一档里 4 次公开事件的绝对数字,比腾讯混元的 2 次还多。这看起来"更不稳定",但恰恰是它排第一的原因——每次事件都在半小时以内闭环、有完整 RCA、有明确恢复回执。故障不可怕,故障之后没有透明沟通才可怕。红榜前三的细看:DeepSeek V3.2:2026 上半年公开报的 4 起事件里,最有代表性的是 2026-05-14 的 R1 全球性推理服务降级 47 分钟,起因是新版本 KV Cache 优化引入的内存回收 bug;事件 90 分钟内出 RCA,48 小时内出补丁并公开回滚流程说明,是国内首个把 SEV3 事件全流程透明化的团队。它的稳定性排第一不是因为不出事,是因为出事之后的闭环最快。火山豆包 1.5-pro:延迟档能进 3s 是它最大的差异化——依托字节内部推理集群规模效应,长期把首 token 延迟压在 800ms 以内。2026-06-11 那次跨区路由抖动 31 分钟是本季度唯一一起 20 分钟以上事件,且限流恢复评分 A 档(触发 429 后 2 分钟内自动切备用地域),是内部治理机制最成熟的一家。阿里通义 Qwen-Max:错误率略高于前两名,但胜在SLA 承诺最激进——推理服务月度 99.9% 是唯一敢在 SLA 页明确到"99.9%"这个数字的家。2026-Q2 华东 2、华北 3 各一次事件后,阿里云百炼团队主动补偿了受影响客户的推理时长,是唯一把 SLA 从"承诺"落到"补偿"的家。四、代码 1:90 天错误率窗口统计器这段代码解决一件事:给一批已知的故障事件(开始时间、结束时间、影响范围),滑一个 90 天窗口,把窗口内的累计影响分钟数换算成错误率。窗口可以按日滑动,用来观察"这家 API 90 天错误率是在改善还是在恶化"的趋势。# error_rate_windower.py