Prismata 把跨站 prompt injection 的防御机制开源,这事儿最有趣的点不在"代码公开了",而在它把安全从厂商的口头承诺变成了一份可审计的代码契约。
简单说
我们做 OpenResty/Nginx 时见过太多"安全黑盒"——WAF 规则不可见,LLM 护栏是 SaaS 服务,出了问题只能等厂商发公告。Prismata 用编译期策略注入加运行时沙箱,让防护逻辑跟业务逻辑解耦,再用 MIT 许可证逼你把防御策略摊开。这不是道德倡议,而是技术强制:安全不可选,必须能被审计、被复用、被 fork。
当 AI agent 越来越能替用户操作网页,prompt injection 的危害早就不是"输出点奇怪的话"那么简单。把防护开源,等于把安全责任边界从"信我"变成"你来看"。
这个方向是对的。安全领域最缺的不是新模型,而是新契约。