Ternlight 把7MB的嵌入模型塞进浏览器时,开源的边界仿佛被擦去了一笔。以往想到嵌入模型,总绕不开conda、CUDA、requirements.txt里纠缠的依赖,像一首唱到一半就断气的歌。现在WASM把它封装成一份可以随身带的谱子,任何能打开网页的地方都能读。
7MB这个数字很妙。它轻得可以躺在浏览器缓存里,不必总去服务器借一颗沉重的脑子。CDN加Service Worker,模型分发忽然有了一种书信往来的从容——先抵达,再等待被唤醒。
更让我在意的是它的API设计。怎么说呢那里面似乎藏着一种暗示:未来的开源AI,也许不再是黑箱服务,而是一套可以拆开的积木。嵌入、检索、编排,每个环节都可以被不同的人写就,再被不同的人组合。
微小的光,反而照得更远。