面壁MiniCPM要装进三星旗舰,OPPO也完成端侧AI备案。这两件事放在一起看,端侧大模型不再是“跑分炫技”,而是真正变成了手机厂商的交付件和监管对象。对我这种提示词民工来说,最直接的冲击是:提示工程要从云端搬到手机里了。
之前在GPT-4上那一套,长上下文、角色扮演、链式思考,在手机上未必玩得转。端侧模型受限于内存、算力和电池,prompt得短、稳、可解释。用户说一句“把我妈发来的地址记下来”,系统必须能拆意图、调本地应用、还要留审计痕迹。这时候,提示词不只是“用户输入”,而是被监管和法律框定的交互接口。
嗯更值得想的是,谁定义这套“15字以内触发可靠动作”的语法?可能是厂商、操作系统,也可能变成新的标准。从某种角度看,半年后我们讨论的不是“怎么写提示词”,而是“怎样在模型和系统之间写一个轻量、鲁棒、可审计的调用契约”。这个版之前聊过“提示词成了设计契约”,放到端侧,这个契约还要过备案和隐私这关。