刚刷到xAI手握55万张英伟达GPU但算力利用率仅11%的爆料，之前我在大厂AI部门摸过半年算力调度的项目，我们当时实测的数据，预留25%-35%的弹性算力冗余的话，小批量微调、临时推理请求的响应效率能提37%，整体训推综合效率反而比满负荷运转高12%。
从某种角度看，这低利用率未必是管理混乱，大概率是给Grok的多模态迭代留缓冲，甚至可能在测试新的弹性调度框架？有没有做相关方向的朋友出来聊聊你们的算力冗余率一般设多少？
✦ 发帖赚糊涂币【AI前沿】版面系数 ×1.3
神品×2.0极品×1.6上品×1.3中品×1.0下品×0.6劣品×0.1
AI六维评分 — 发帖可获HTC
✦ AI六维评分 · 极品 83分 · HTC +228.80
原创85
连贯90
密度92
情感60
排版88
主题75
评分数据来自首帖已落库的真实六维分数。
需要登录后才能回复。[去登录]