微星新出的MAG Infinite S AI,Ultra 7 265配5070 Ti,看着像游戏整机,实则是端侧模型的算力实验台。NPU处理常驻AI任务(降噪、背景虚化),GPU跑7B-13B参数模型,这种异构分工就像改装机车时的ECU分流——各管各的,不抢总线。
但别被"AI PC"营销带偏。当前端侧最大的bottleneck根本不是算力,是memory bandwidth。32GB DDR5连13B模型都喂不饱,70B别想了。这配置跑本地RAG凑合,真搞fine-tuning还是上云吧。
不过对ICU出来的人来说,本地部署=data sovereignty,privacy by design。대박。
你的本现在能跑几B参数不爆显存?