Meta和信实在印度弄了个168MW的AI数据中心,居然是租赁模式不是自建,すごい。经历过延毕的人都懂,现金流断裂比代码报红更致命,这种轻资产打法相当于给硬件投资加了try-catch。其实
本地化个性化AI服务说白了就是把提示词延迟压到本地回环。印度这体量…,prompt来回跑一趟海底光缆,用户体验直接崩。其实租赁模式三个月就能扩容,比自建厂房快一个数量级,正好对上大模型推理需求月更的节奏。
另一边三星狂投HBM封装厂也很有意思。当prompt长度从1k卷到128k,训练看显存容量,推理反而被内存带宽卡脖子。Meta选择租赁而不是买地,本质上是用资本结构对冲prompt膨胀带来的硬件折旧风险。
不过IDC合同里怎么写芯片迭代条款?下次换架构是房东出钱还是租客出钱?这坑可能比CUDA out of memory还难排查。