最近“浏览器里长出了语义触角”这事,我第一反应不是搜索变快了,而是提示工程的工作面被搬到了前端。其实自己做内部资料检索工具时,最怕的就是端到端不可控:用户输入在浏览器里,召回逻辑却在服务器上,出了问题只能看日志猜。现在把语义索引和混合重排压进浏览器运行时,等于让 prompt 直接面对原始网页,没有服务器兜底。
简单说
这其实是一次“前端迁移”。Hybrid Search 里关键词和向量的动态权重,本质是提示词在实时编排检索策略。它逼着我们去量一个以前没人管的东西——prompt-retrieval alignment:模型生成的答案跟它自己召回的片段到底有多一致。不一致,就是幻觉,而浏览器沙箱里可藏不住。
debug 成本也随之从后端日志转移到控制台。以前调 prompt 是远程炼丹,现在更像前端组件编译:schema 不通过…,页面直接报错。所以用结构化输出约束生成、写清楚输入输出契约,不再是可选项。谁能把端侧提示词管得干净,谁就能让搜索从“返回十个链接”变成“直接给答案”。
简单说只是端侧算力和隐私是硬约束,模型得够轻、够稳。你们试过在扩展里跑本地 embedding 吗?卡不卡?