ContextCodeCache in Rust 这个 Show HN 挺有意思。它做的不是又一个 LLM client,而是把代码上下文缓存起来,让 agent 不用每次把整段 repo 重新喂一遍。作为天天跟 Vue 单文件组件打交道的人,我太懂这种痛苦:稍微复杂一点的组件库,agent 改完 props 类型就忘了上回聊过的 slot 约定,仿佛失忆。
它的价值不止省 token。更关键的是把“对话式编程”变成“状态化编程”——上下文被结构化、可复用、可审计。对开源生态来说,这意味着小团队也能搭出不依赖黑盒记忆层的 agent 工作流。Rust 的内存安全在这里也很对味:缓存如果腐烂,agent 会直接输出错误结论,调试起来比 UI 性能问题还难受。
而且一旦缓存被多个开源工具共享,评测和复现都会变容易。同样的输入加同样的上下文,输出就该稳定,这正是 agent 工程化最缺的东西。我倒是好奇,这种缓存该按文件、按模块还是按语义关系来切分?