AI烧钱现状与算力衡量关于AI烧钱业内流传着各种令人瞠目结舌的数字。xAI花了超过10亿美元建起Colossus超算集群OpenAI的月度算力账单据称高达数亿美元Anthropic最近几轮融资拿到的钱在公众眼里几乎已经和「GPU时数」直接画上了等号。大家谈的几乎都是算力。GPU成了衡量一家AI公司实力的通用货币也是每一篇融资报道里最显眼的那个数字。视频模型训练成本新发现最近听了一期Latent Space播客采访对象是xAI前研究员Ethan He。Ethan在2025年中加入xAI时面对的是一个没有基础设施、没有数据、没有现成模型的白纸状态然后用三个月时间和一支小团队从零搭建出了Grok Imagine视频生成系统做到了当时业内的一流水准。在聊到大规模视频模型的训练成本时他说了一组数字让人意识到这个行业可能一直在算错账。「光是存储这些视频和特征数据每个月就要几百万美元——这还没算算力成本 。」从零训练视频大模型的成本从零到一开始训练一个视频大模型需要花多少钱先假设团队有矿GPU算力随便用。即便如此可能依然低估了这件事的巨量成本。假设要训练一个世界级的视频生成模型去网上爬取了10亿条视频每条平均5MB——这已经是相当保守的估计了。光这一项就需要5PB拍字节的存储空间。按照AWS S3的定价5PB标准存储每个月大约10万美元。但这还只是原始视频。在训练视频模型之前业界通行的做法是先用VAE变分自编码器把视频压缩成「潜在空间」的特征向量——因为一段视频展开成像素可能有几十亿个token任何Transformer都处理不了必须先压缩成模型能理解的连续向量。问题是这份压缩后的特征数据体积和原始视频相当同样需要长期存储随时备用。两项叠加数十PB 每月存储费就超过20万美元 。然后是最出乎意料的那一项数据进出费egress/ingress。Ethan说 从互联网下载10亿条视频的带宽费用在AWS上比存储这些视频还贵。每次训练数据都要从存储层拉到计算层跑一遍。视频模型的训练不像语言模型那样训完就完了——要迭代要调参要测试不同的数据配比每一次实验都意味着把全量数据再过一遍。实验跑得越多这笔钱就乘以相应的倍数。综合算下来Ethan的估算是 光是数据这一块每个月就要几百万美元 。GPU的费用还没开始计入。这笔账从来没见哪篇AI行业报道细算过。自建数据中心与带宽成本那像xAI这样自建Colossus数据中心的公司是不是在存储和带宽上省了一大笔钱Ethan的回答很直接「当然省了很多。」这句话背后藏着视频AI行业一个不太被讨论的结构性秘密。大语言模型的训练数据是文本体积相对轻量而且训练完成之后原始数据基本就完成了使命——不需要反复拉取全量语料来做推理或微调。但视频数据完全不同体积是文本的几个数量级而且每一次训练实验都要把全量数据完整过一遍 。 迭代速度越快数据搬运的成本就越高而Ethan反复强调迭代速度恰恰是视频模型研发中最关键的变量 。这就形成了一个相互咬合的困局需要快速迭代来提升模型质量但快速迭代意味着频繁搬运数据而频繁搬运数据在公有云上的账单会把人压垮。Ethan本人的轨迹就是一个注脚。他在NVIDIA参与构建了Cosmos世界模型做着做着意识到视频模型存在和语言模型类似的「规模定律」还有很大的提升空间。他当时面临的选择表面看是「我需要更多GPU」但同样关键的一句话他没明说—— 他需要一个不用按AWS账单算钱的地方来存放和搬运数据 。这也是他去xAI的根本原因之一而Colossus给了他那个环境。对于没有自建基础设施的团队来说这笔账是怎么算的每个月几百万美元的数据成本叠加在GPU算力之上意味着哪怕有一流的算法团队哪怕募到了足够的资金只要还在用公有云就是在用一个无底洞的账单跟对手的自建机房赛跑。这道门槛不是一家有优秀算法的创业公司能靠「技术取胜」跨过去的。视频模型的竞争格局与护城河这让我想起一个有趣的对比。在大语言模型领域「开源 vs闭源」的竞争打得相当激烈Llama系列的出现让很多小团队也能在语言模型上打出有竞争力的产品甚至逼着OpenAI和Anthropic不断压低API价格。但在视频生成领域看到的格局截然不同能持续做出顶尖视频模型的基本只有Sora、Veo、可灵这些背靠巨量资源的团队没有一家是靠开源社区在车库里跑出来的。很多人把这归结为「数据和算力的差距」。这当然没错但Ethan揭示的这组数字告诉我们问题比这更深 视频AI的基础设施成本从一开始就把竞争的门槛锁死在了极少数玩家的高度上。这和半导体行业的逻辑有几分相似。台积电之所以难以撼动不只因为它们有更好的设计更因为一座新晶圆厂需要几百亿美元的前期投入这道门槛本身就是最好的护城河。视频AI的护城河就是那数十PB的数据基础设施和每月滚动产生的带宽账单。Ethan在播客里还补充了一个更深的推论视频模型的「智能」大部分其实来自背后的语言模型而不是视频扩散模型本身 。视频扩散模型相对「愚钝」它只会按照文字描述照单全收地生成画面描述写「一只猫」它就生成一只猫站在纯白背景前纹丝不动——因为没有告诉它背景是什么、猫在做什么。真正理解用户意图、把「一只猫」扩写成一段精细的镜头语言描述的是背后那个做「提示词重写」的大型语言模型。Ethan说在Cosmos时期他曾经用一个「快乐的羊」做测试不经过提示词重写生成出来的画面极其CGI、毫无质感加上重写之后效果判若云泥——而整个视频扩散模型本身并没有发生任何改变。 这意味着决定一家公司在视频AI领域能走多远的不只是视频模型的参数规模而是能否同时撑起语言模型和视频模型这两套基础设施并让它们有效协同。 这是一场拼综合体力的竞赛。行业探索与未来趋势当然行业也在摸索出路。 提示词重写的Agent化、让语言模型像「指挥官」一样调度多个视频生成工具、用FFmpeg这类传统软件处理中间环节——这些方向的共同逻辑是把「语言模型的推理成本」和「视频扩散模型的生成成本」分层计算让每一次视频生成的调用更加精准减少无效的计算和数据搬运。Ethan对「视频Agent」的走向相当笃定。他预测今年年底将出现一个拐点——当Agent生成的视频质量能够稳定达到「可投放商业广告」的水准企业才会真正愿意为之买单整体的成本结构也会随之演变。 但有一点不会变谁掌握了数据的存储和流转谁就掌握了这场游戏的起点。 在AI这个赛道上「真正的壁垒」每隔一段时间就会轮换一次。先是参数量然后是训练数据规模然后是对齐技术然后是推理效率。现在视频AI正在揭示下一道壁垒——不是某种神秘的算法突破而是一份冷冰冰的基础设施账单。 这笔账从一开始就没打算让所有人都算得起。
视频AI成本大揭秘:数据存储带宽费惊人,基础设施成竞争壁垒
发布时间:2026/6/7 17:51:40
AI烧钱现状与算力衡量关于AI烧钱业内流传着各种令人瞠目结舌的数字。xAI花了超过10亿美元建起Colossus超算集群OpenAI的月度算力账单据称高达数亿美元Anthropic最近几轮融资拿到的钱在公众眼里几乎已经和「GPU时数」直接画上了等号。大家谈的几乎都是算力。GPU成了衡量一家AI公司实力的通用货币也是每一篇融资报道里最显眼的那个数字。视频模型训练成本新发现最近听了一期Latent Space播客采访对象是xAI前研究员Ethan He。Ethan在2025年中加入xAI时面对的是一个没有基础设施、没有数据、没有现成模型的白纸状态然后用三个月时间和一支小团队从零搭建出了Grok Imagine视频生成系统做到了当时业内的一流水准。在聊到大规模视频模型的训练成本时他说了一组数字让人意识到这个行业可能一直在算错账。「光是存储这些视频和特征数据每个月就要几百万美元——这还没算算力成本 。」从零训练视频大模型的成本从零到一开始训练一个视频大模型需要花多少钱先假设团队有矿GPU算力随便用。即便如此可能依然低估了这件事的巨量成本。假设要训练一个世界级的视频生成模型去网上爬取了10亿条视频每条平均5MB——这已经是相当保守的估计了。光这一项就需要5PB拍字节的存储空间。按照AWS S3的定价5PB标准存储每个月大约10万美元。但这还只是原始视频。在训练视频模型之前业界通行的做法是先用VAE变分自编码器把视频压缩成「潜在空间」的特征向量——因为一段视频展开成像素可能有几十亿个token任何Transformer都处理不了必须先压缩成模型能理解的连续向量。问题是这份压缩后的特征数据体积和原始视频相当同样需要长期存储随时备用。两项叠加数十PB 每月存储费就超过20万美元 。然后是最出乎意料的那一项数据进出费egress/ingress。Ethan说 从互联网下载10亿条视频的带宽费用在AWS上比存储这些视频还贵。每次训练数据都要从存储层拉到计算层跑一遍。视频模型的训练不像语言模型那样训完就完了——要迭代要调参要测试不同的数据配比每一次实验都意味着把全量数据再过一遍。实验跑得越多这笔钱就乘以相应的倍数。综合算下来Ethan的估算是 光是数据这一块每个月就要几百万美元 。GPU的费用还没开始计入。这笔账从来没见哪篇AI行业报道细算过。自建数据中心与带宽成本那像xAI这样自建Colossus数据中心的公司是不是在存储和带宽上省了一大笔钱Ethan的回答很直接「当然省了很多。」这句话背后藏着视频AI行业一个不太被讨论的结构性秘密。大语言模型的训练数据是文本体积相对轻量而且训练完成之后原始数据基本就完成了使命——不需要反复拉取全量语料来做推理或微调。但视频数据完全不同体积是文本的几个数量级而且每一次训练实验都要把全量数据完整过一遍 。 迭代速度越快数据搬运的成本就越高而Ethan反复强调迭代速度恰恰是视频模型研发中最关键的变量 。这就形成了一个相互咬合的困局需要快速迭代来提升模型质量但快速迭代意味着频繁搬运数据而频繁搬运数据在公有云上的账单会把人压垮。Ethan本人的轨迹就是一个注脚。他在NVIDIA参与构建了Cosmos世界模型做着做着意识到视频模型存在和语言模型类似的「规模定律」还有很大的提升空间。他当时面临的选择表面看是「我需要更多GPU」但同样关键的一句话他没明说—— 他需要一个不用按AWS账单算钱的地方来存放和搬运数据 。这也是他去xAI的根本原因之一而Colossus给了他那个环境。对于没有自建基础设施的团队来说这笔账是怎么算的每个月几百万美元的数据成本叠加在GPU算力之上意味着哪怕有一流的算法团队哪怕募到了足够的资金只要还在用公有云就是在用一个无底洞的账单跟对手的自建机房赛跑。这道门槛不是一家有优秀算法的创业公司能靠「技术取胜」跨过去的。视频模型的竞争格局与护城河这让我想起一个有趣的对比。在大语言模型领域「开源 vs闭源」的竞争打得相当激烈Llama系列的出现让很多小团队也能在语言模型上打出有竞争力的产品甚至逼着OpenAI和Anthropic不断压低API价格。但在视频生成领域看到的格局截然不同能持续做出顶尖视频模型的基本只有Sora、Veo、可灵这些背靠巨量资源的团队没有一家是靠开源社区在车库里跑出来的。很多人把这归结为「数据和算力的差距」。这当然没错但Ethan揭示的这组数字告诉我们问题比这更深 视频AI的基础设施成本从一开始就把竞争的门槛锁死在了极少数玩家的高度上。这和半导体行业的逻辑有几分相似。台积电之所以难以撼动不只因为它们有更好的设计更因为一座新晶圆厂需要几百亿美元的前期投入这道门槛本身就是最好的护城河。视频AI的护城河就是那数十PB的数据基础设施和每月滚动产生的带宽账单。Ethan在播客里还补充了一个更深的推论视频模型的「智能」大部分其实来自背后的语言模型而不是视频扩散模型本身 。视频扩散模型相对「愚钝」它只会按照文字描述照单全收地生成画面描述写「一只猫」它就生成一只猫站在纯白背景前纹丝不动——因为没有告诉它背景是什么、猫在做什么。真正理解用户意图、把「一只猫」扩写成一段精细的镜头语言描述的是背后那个做「提示词重写」的大型语言模型。Ethan说在Cosmos时期他曾经用一个「快乐的羊」做测试不经过提示词重写生成出来的画面极其CGI、毫无质感加上重写之后效果判若云泥——而整个视频扩散模型本身并没有发生任何改变。 这意味着决定一家公司在视频AI领域能走多远的不只是视频模型的参数规模而是能否同时撑起语言模型和视频模型这两套基础设施并让它们有效协同。 这是一场拼综合体力的竞赛。行业探索与未来趋势当然行业也在摸索出路。 提示词重写的Agent化、让语言模型像「指挥官」一样调度多个视频生成工具、用FFmpeg这类传统软件处理中间环节——这些方向的共同逻辑是把「语言模型的推理成本」和「视频扩散模型的生成成本」分层计算让每一次视频生成的调用更加精准减少无效的计算和数据搬运。Ethan对「视频Agent」的走向相当笃定。他预测今年年底将出现一个拐点——当Agent生成的视频质量能够稳定达到「可投放商业广告」的水准企业才会真正愿意为之买单整体的成本结构也会随之演变。 但有一点不会变谁掌握了数据的存储和流转谁就掌握了这场游戏的起点。 在AI这个赛道上「真正的壁垒」每隔一段时间就会轮换一次。先是参数量然后是训练数据规模然后是对齐技术然后是推理效率。现在视频AI正在揭示下一道壁垒——不是某种神秘的算法突破而是一份冷冰冰的基础设施账单。 这笔账从一开始就没打算让所有人都算得起。