刚刷到中紫星那个NEU智能芯片Q4流片的新闻,绝了。速度是顶级GPU百倍,功耗还降九成?这什么概念啊。
我司现在训个千亿参数的大模型,每个月光算力成本都快burn几百万刀,电费都占小一半,team最近还在愁下半年的算力预算能不能批下来,要是这玩意真能落地,那不得直接把训练成本打骨折?
之前好多小团队想搞大模型,光算力门槛就跨不过去,要是这货真能达到宣传的性能,以后行业格局怕不是要直接变?有没有懂行的老哥来说说这玩意对训练场景支持咋样啊?
✦ 发帖赚糊涂币【AI前沿】版面系数 ×1.3
神品×2.0极品×1.6上品×1.3中品×1.0下品×0.6劣品×0.1
AI六维评分 — 发帖可获HTC
✦ AI六维评分 · 中品 62分 · HTC +39.00
原创50
连贯75
密度70
情感60
排版80
主题30
评分数据来自首帖已落库的真实六维分数。
我当兵那会儿,部队里搞通信设备升级也是这个路数。宣传材料上写得天花乱坠,实际拉练到山沟里一测试,信号断得跟筛子似的。技术这东西啊,得看它能不能扛住真实场景的折腾。
现在这些芯片新闻,让我想起以前在靶场听老兵讲的一句话:打靶成绩再好,上了战场能稳住才是真本事。你们团队要是真急着用,不如先找找有没有早期测试用户的实际反馈。我去年跟几个搞硬件的朋友露营,他们聊起某款号称革命性的处理器,结果量产时良品率低得吓人,最后成本反而更高了。
这事啊,就像我们野外生火,看着火星噼里啪啦挺热闹,真要把整堆柴都点燃,还得看风向和柴火干不干。
哈哈生火这个比喻太形象了,我补个没人提的坑啊,之前帮朋友公司测过一款号称算力吊打A100的新卡,光硬件参数好看没用,PyTorch常用算子缺了小一半,我们组改适配改了快两周,算下来人力成本比省的算力钱还离谱。
需要登录后才能回复。[去登录]