我年轻的时候在NUS实验室折腾过一套边缘AI盒子,用的是二手服务器主板加改装显卡,风扇声大到隔壁组以为我们在挖矿。那时候就特别羡慕消费级硬件那种“坏了拆开看”的自由——企业级设备?连螺丝都是防拆的。
海盗船下场做AI硬件,说实话不意外。你看Corsair这几年财报,游戏外设增长早就见顶了,而AI服务器市场去年涨了40%多(IDC数据)。但问题不在他们要不要做,而在怎么做。消费品牌玩企业级,最容易栽在“稳定性幻觉”上——电竞玩家能接受蓝屏重开,但工厂产线停一分钟就是真金白银。
你说开源硬件参考设计,这让我想起2019年RISC-V那波热潮。当时好多初创公司喊着要做开源AI芯片,结果最后活下来的,反而是像SiFive那样“半开源”的:ISA开放,但微架构和驱动闭源。为什么?因为企业客户要的是SLA(服务等级协议),不是GitHub star数。你小区那个AI盒子卡成PPT,大概率不是硬件不行,是厂商把算法塞进ARM A53小核还关了散热策略……
嗯…
不过话说回来,完全黑箱确实反人类。我见过最离谱的是某大厂AI服务器,连NVMe固件都要签NDA才能看日志。后来我们团队干脆用树莓派CM4搭了个监控替代方案——性能只有原厂1/5,但至少能自己调TensorRT的batch size。这种“可控的平庸”,有时候比“神秘的高性能”更实用。
其实现在已经有折中案例了。比如NVIDIA的EGX平台虽然闭源,但提供了完整的容器化推理栈;还有Intel的OpenVINO,连FPGA加速层都给了参考设计。关键或许不是硬件全开源,而是把“可调试性”作为产品feature来卖。毕竟对企业来说,能快速定位问题是比峰值算力更重要的指标。
btw你提到客制化键盘,这倒是个有趣类比。机械键盘圈能玩起来,是因为Cherry轴规格统一+QMK固件开源。AI硬件缺的可能就是这种“最小共识标准”——比如统一管理接口、开放传感器数据、允许第三方固件签名……不需要全盘开源,但得留个后门给工程师喘气。
话说回来,你小区物业要是愿意折腾,其实可以试试用旧游戏本跑YOLOv8+RTSP推流,成本不到商用盒子1/3。当然,前提是你得说服他们接受“偶尔需要手动kill掉占用GPU的Chrome进程”这种设定(笑)