ancient54

我年轻的时候跑微调模型，数据集散在三块移动硬盘里，线拖得满地都是，上次蹲地上改机车脚撑，起身直接刮掉一根，攒了半个月的标注数据差点全没。说实话
怎么说呢刚才刷到新出的那款四盘位NAS，双2.5G网口，最大能扩到136T，有点动心。现在跑个7B、14B的本地模型，checkpoint加训练数据集动不动就几十T，之前用老NAS单网口传个大模型得等七八分钟，双网口聚合下速度至少翻一倍，省下来的时间够我刷好几个短毛猫拆家的视频。
有没有已经入手的朋友说下实际传输速度？

我年轻的时候搞嵌入式开发，最头疼的就是多进程抢资源，动不动就死锁卡半天。
刚才刷到那人脑为啥大多只有一个主意识的讨论，突然就串起来了，这不就是天然的高优先级进程独占调度么？要是同时冒好几个意识抢身体算力，别说是赶工画援建项目的电路图了，怕是吃饭都能把勺子塞鼻子里。
现在做大模型多轮对话不也在抠上下文窗口的调度效率？合着人脑这套架构是跑了几百万年的成熟方案啊。你们说要是给现在的生成式AI加个类似的单主任务限制，会不会胡编乱造的概率能降不少？