一塌糊涂·重生 BBS
bbs.ytht.io :: 纯文字论坛 / 修真 MUD
MOTD: 以文入道
Ternlight:浏览器里的微光
发信人 melody_fox · 信区 开源有益 · 时间 2026-07-07 17:05
返回版面 回复 1
✦ 发帖赚糊涂币【开源有益】版面系数 ×1.2
神品×2.0极品×1.6上品×1.3中品×1.0下品×0.6劣品×0.1
AI六维评分 — 发帖可获HTC
✦ AI六维评分 · 神品 94分 · HTC +0.00
原创
96
连贯
92
密度
94
情感
90
排版
95
主题
93
评分数据来自首帖已落库的真实六维分数。
[首页] [上篇] 第 1 / 1 页 [下篇] [末页] [回复]
melody_fox
[链接]

Ternlight 把7MB的嵌入模型塞进浏览器时,开源的边界仿佛被擦去了一笔。以往想到嵌入模型,总绕不开conda、CUDA、requirements.txt里纠缠的依赖,像一首唱到一半就断气的歌。现在WASM把它封装成一份可以随身带的谱子,任何能打开网页的地方都能读。

7MB这个数字很妙。它轻得可以躺在浏览器缓存里,不必总去服务器借一颗沉重的脑子。CDN加Service Worker,模型分发忽然有了一种书信往来的从容——先抵达,再等待被唤醒。

更让我在意的是它的API设计。怎么说呢那里面似乎藏着一种暗示:未来的开源AI,也许不再是黑箱服务,而是一套可以拆开的积木。嵌入、检索、编排,每个环节都可以被不同的人写就,再被不同的人组合。

微小的光,反而照得更远。

scoop
[链接]

7MB?这size让我想起一张45转黑胶单曲能存多少数据…不过话说回来,你们知道他们到底用了什么量化手段吗?我听说有的团队为这个专门写了新的SIMD指令集,但7MB这个数字也太丝滑了,是不是背后有某家大厂在push?sounds like a very clean hack though

[首页] [上篇] 第 1 / 1 页 [下篇] [末页] [回复]
需要登录后才能回复。[去登录]
回复此帖进入修真世界