AI推理初创企业悄然自研采购芯片
有一批快速崛起的初创公司,商业模式是向云厂商租赁算力、再转售给客户,此前一分钱都没有投入自有 AI 芯片。如今它们走到了十字路口:越来越难拿到足够算力服务客户,一部分企业开始自行采购芯片,这很可能彻底改写它们的商业成本结构。
算力供给紧张,也迫使这类初创企业转向数十家规模更小的新云厂商(neocloud) 寻找资源。相比微软 Azure、AWS、谷歌云这类超大规模云厂商,新云厂商通常还有更多富余算力。知名推理服务商 Fireworks 遭遇黑客攻击一事,也凸显了这条路线暗藏的风险。{#quote_GOOG}
知情人士称,这次黑客攻击,根源是 Fireworks 所使用的一家小型云厂商安全防护薄弱。攻击事件发生后,Fireworks 的部分客户开始考虑更换服务商。
Fireworks 这类公司被称为推理服务商:它们面向需要芯片运行 AI 模型的客户提供服务,这个运行过程就叫推理。它们原本不持有芯片、不运营数据中心,重心放在开发软件,帮助客户优化 AI 模型的运行效率。
这类企业增长极快。Fireworks 称,公司 7 月年化营收突破 10 亿美元,同比一年前增长 5 倍。The Information 在 9 月报道,Fal 等同行的营收增速短短几个月就实现翻倍。Fireworks 最新估值 175 亿美元,在这批推理服务商中估值最高。
但算力越来越难获取,可能拖累整个赛道的高速增长。
部分云厂商已经不太愿意把算力租给竞争对手。知情人士透露,CoreWeave 今年早些时候决定停止向 Baseten 出售算力。消息称,CoreWeave 在今年 3 月推出了自家推理服务,不愿把算力资源供给竞品。但一名接近 Baseten 的人士否认 CoreWeave 削减了对 Baseten 的算力供给。
CoreWeave 发言人表示:"我们和各家推理服务商保持良好合作,不少都是我们的合作伙伴。只要适配它们的商业模式,就会采购 CoreWeave 的服务,我们也乐于支持。"
云厂商 digtalOcean 的 CEO Paddy Srinivasan 说,他会优先服务有真实终端需求的客户,而不是转手倒卖算力的公司:"老实说,有大量客户基于我们的平台开发软件,需求旺盛。"digtalOcean 运营自有数据中心。
一些推理服务商的应对方案是广泛对接大量小型云厂商。Modal 的 CEO Erik Bernhardsson 在采访中介绍,公司成立前四年,合作方主要是各大超大规模云厂商和少数新云;后来无法从大厂拿到想要数量、价格的英伟达 Blackwell 芯片,于是过去一年新增了 30 家新云合作伙伴。Modal 依然和超大规模云厂商合作,但通常从它们那里采购其他型号芯片。
部分云计算行业高管认为,如果算力需求回落、或是大厂切断供给,没有自有硬件的推理服务商就会陷入被动。
Iren 公司首席商务官 Kent Draper(Iren 自建数据中心)评价:"推理服务商就像是 GPU 世界里的 WeWork。WeWork 签下长期办公场地租约,再短期转租。行情好的时候一切顺畅,一旦需求枯竭或者融资断流,模式就难以为继。大家现在看到了垂直整合的价值。"{#quote_WEWKQ}
别无选择
部分推理服务商认为,只能投入资金自建硬件。Fal 主打视频、图像 AI 模型托管,今年 7 月入职、负责搭建数据中心战略的 Raghu Rao 表示,Fal 近期已经开始采购英伟达芯片,部署在租赁的数据中心内。Fal 本月早些时候完成 16.5 亿美元融资,这笔资金将用来扩充算力,包括采购 GPU、向 AWS 租用机房资源。Rao 称 Fal 还在扩招数据中心相关团队。Fal 采购硬件的计划此前未曾对外报道。
"随着业务规模暴涨,我们既需要租赁算力,也必须持有自有硬件。"Rao 说。
知情人士透露,Fal 还向投资人表示,有意通过举债来支撑硬件采购。Rao 拒绝对债务融资的可能性置评。
近几个月,多家推理服务商已经和贷款机构、中介洽谈借款,用来和新云厂商签订算力采购合同。知情人士称,这些企业希望使用债权资金,而不是消耗风投股权融资款,来锁定算力资源。
另一边,Together 从去年就开始采购自有硬件,The Information 在 3 月报道,计划 2026 年底拥有 250 兆瓦自有数据中心容量。知情人士称,Baseten 也计划采购英伟达 GPU,部署在由自己运营管理的数据中心。
CoreWeave 自身也经历了类似转型:此前大多运营别人名下的数据中心,去年官宣自建园区,认为这是掌控硬件资源最好的方式。
不过,并非所有推理服务商都认为必须持有硬件。知情人士称,Fireworks 管理层向投资人表示,采购实体芯片、建设运营数据中心属于同质化大宗商品业务;Fireworks 的护城河是开发可以高速运行模型的软件,这一点更难复制。另一位知情人士称,Fireworks 目前没有采购硬件的计划。
知情人士表示,Modal 也向投资人表达意向,计划采购更多自有硬件投入数据中心。Bernhardsson 在采访中说,公司会想尽一切办法拿到所需算力,但他并不认为差异化来自持有硬件 ------ 这一点和 Iren 等硬件自建方对 Modal 这类推理服务商的批评一致。
"硬件层并不是创造大量价值的地方。说到底,你只是买芯片再转手提供算力。"Bernhardsson 说,"所以我们聚焦软件层,这才是我们持续创造最大价值的地方。"
-- 价格
本内容仅供参考,不构成任何金融、投资、法律或税务建议。文中提及的任何活动、奖励、线上活动或相关信息,不应被视为对购买、出售或交易任何加密资产的推荐、招揽或邀请。加密资产具有高波动性,存在价值损失风险。WEEX服务、产品及相关活动的可用性可能因地区而异。用户在参与前有责任确保符合当地适用法律法规。
猜你喜欢

能源转移与恩布里奇:哪种高收益管道股票在未来10年能让你更富有?

捷克国家银行测试首批以克朗计的代币化债券

科技巨头应当分散布局数据中心投资

Lighter 暂停提现,因涉嫌 1550 万美元的安全漏洞

赵长鹏列出比特币六项可能下跌原因:Anthropic IPO与ETF赎回、安全事件、监管不确定性等

J.P.摩根对2027年的预测:通胀约为2%,美元面临更大压力

欧洲央行总裁三位热门接任人选对比特币都没好话 但对稳定币与数中欧元各有侧重

黄仁勋离职后首份财报,科莱特・克雷斯直面核心拷问

全文|巴菲特宣布:将向四家家族基金会捐赠B类股

诺基亚入局欧洲AI算力竞赛 竞标欧盟AI超级工厂项目

Revolut的意大利分公司因4190万欧元被置于法院监管之下

OpenAI推出ChatGPT钱包以允许其AI代理通过卡片支付

Solana Breakpoint 参会者因钱包被盗而收到抢劫警告

Trezor在转售商钱包中发现植入物。买家如何保护自己?

规模庞大的二手车市场:CarMax与Carvana围绕美国人购车方式展开交锋

目前欧洲大陆唯一的现货比特币ETF,为什么由一家亚洲集团BIT拿下?

在 WEEX 赢取 iPhone 18 Pro Max?201 次幸运彩蛋开启活动解析

新加坡与德国测试跨境CBDC结算,采用零知识证明

造成美国全国航班停飞事件的国防承包商

IMF总裁警告全球经济“单腿站立”:AI循环融资规模已达1万亿美元

美联储主席沃什今晚出席工作组会议:AI 生产力革命能否缓解通胀,成为货币政策新焦点

马斯克旗下AI团队大规模裁撤Grok视频生成项目

特斯拉自动驾驶团队三位老将创办仿真初创公司,估值达10亿美元

百度Q3净利润超预期,AI云收入暴涨94%,Token调用收入增长1159%

Upbit运营商Dunamu第三季度亏损186亿韩元,收入下降60.7%

英国宣判两名伊朗人因间谍活动罪名成立,目标为批评德黑兰的记者
VICE 6 加密货币:VICE 6(VTC)与 GTA 6 有关联吗?如何验证代币
VICE 6 加密货币是否与 GTA 6 有关联?比较两个使用 VTC 的 Solana 代币,核验其 mint 和流动性池地址,并了解 Rockstar 已确认的信息。

大摩Q3持仓:英伟达苹果继续“压舱”,加码布局AI供应链,建仓SK海力士

Cardano持有者拒绝2200万ADA国库提案以购买实物铜



