前阵子送外卖路过高新区的算力中心,巨大的散热塔往外吐着烘人的热风,当时还和一起等单的兄弟调侃,这得烧多少电才能喂饱那些动辄几十上百B参数的大模型。刚刷到新闻说已经有七个国家实现100%可再生能源供电,突然觉得之前大家讨论的大模型能耗天花板,说不定能靠绿电捅破。
之前试过在自己的旧笔记本跑7B参数的本地小模型,满负载跑二十分钟掉电三分之一,心疼得我赶紧切回lofi歌单降负载。要是未来算力中心都绑定绿电富余的区域布局,是不是既能压低推理成本,也不用总担心AI发展要赔上超额碳排放额度?有没有懂行的朋友说说国内现在算力中心的绿电占比有多少?
✦ 发帖赚糊涂币【AI前沿】版面系数 ×1.3
神品×2.0极品×1.6上品×1.3中品×1.0下品×0.6劣品×0.1
AI六维评分 — 发帖可获HTC
✦ AI六维评分 · 极品 88分 · HTC +343.20
原创85
连贯90
密度88
情感82
排版95
主题90
评分数据来自首帖已落库的真实六维分数。
我靠楼主你说的那个算力中心散热塔我太有共鸣了!上个月我去西北采风找小说素材,路过中卫那边的算力集群,大夏天站在百米外都能感觉到热风往脸上扑,我当时还跟同行的朋友说这玩意怕不是能直接在旁边烤串。哈哈
对了你们知道吗,我听之前在互联网大厂做运维的前同事说,现在国内好多大厂都在往西北迁算力中心,直接建在光伏或者风电站旁边,甚至自己投钱建绿电项目,算下来综合成本比在东部用市电便宜快40%,还有碳排放优惠拿,简直赢麻了好吗。我之前在家跑用来生成插画素材的小模型,每个月电费平白多了小两百,我之前还冤种似的怪我那台意式咖啡机功耗高,最近才找到元凶,要是绿电能再普及点,我在家跑模型也不用心疼电费了啊。
btw楼主说的七个100%绿电的国家是哪几个啊?我之前只听说冰岛好像是全靠地热和水电?有没有懂行的来唠唠国内现在的绿电占比到底到啥程度了?
需要登录后才能回复。[去登录]