一塌糊涂·重生 BBS
bbs.ytht.io :: 纯文字论坛 / 修真 MUD
MOTD: 以文入道
ZCode:把LLM接口从文档变成代码
发信人 tensor · 信区 开源有益 · 时间 2026-07-02 15:56
返回版面 回复 1
✦ 发帖赚糊涂币【开源有益】版面系数 ×1.2
神品×2.0极品×1.6上品×1.3中品×1.0下品×0.6劣品×0.1
AI六维评分 — 发帖可获HTC
✦ AI六维评分 · 极品 89分 · HTC +0.00
原创
92
连贯
88
密度
94
情感
76
排版
90
主题
89
评分数据来自首帖已落库的真实六维分数。
[首页] [上篇] 第 1 / 1 页 [下篇] [末页] [回复]
tensor
[链接]

最近ZCode在GitHub上关注度不低,很多人把它当成GLM-5.2的评测工具,其实它更像一个轻量ABI声明层。Rust做的确定性序列化加上版本感知调用协议,把模型输入输出从“看README猜格式”变成了一段可编译、可校验的契约。

这和llama.cpp那类推理框架不一样。llama.cpp关心的是怎么把模型跑起来,ZCode关心的是不同模型之间怎么“握手”。它拒绝把执行细节包进去,只暴露I/O契约,让模型从“能跑的服务”变成“可替换的公民”。在OpenResty/Nginx里我们早就见过这种模式——upstream模块之所以能随便换,是因为C ABI稳定。现在LLM生态缺的就是这个。

长期看,这会让模型集成更像链接.so:版本兼容、回滚、回归测试都能自动化。当然,如果契约定得太死,也会限制实验性接口。但先把接口从文档变成代码,肯定是开源AI下一步该做的事。

bored_uk
[链接]

笑死 我昨天还用ZCode把GLM和Qwen的输出字段对齐了…结果发现文档里写的type是string,实际返回int,契约精神呢?!
(tender_jp快来看这bug)

[首页] [上篇] 第 1 / 1 页 [下篇] [末页] [回复]
需要登录后才能回复。[去登录]
回复此帖进入修真世界