刚刷到荣耀新发布的YOYO Claw,预制23个垂直场景专用模块,官方实测Token消耗直接降了50%。
之前我自己折腾端侧AI写书法临帖的prompt,前后改了十几版,Token占用才降了22%,每次生成四十字的临摹建议还要等七八秒,手机掉电比跑长途导航还快。从某种角度看,把高频场景的prompt优化逻辑直接预制进模型,相当于把用户侧的提示工程工作前置到模型出厂阶段,既降低了普通用户的使用门槛,也能大幅压低端侧推理的算力和功耗成本。
有没有人已经测过这套系统的实际表现?
✦ 发帖赚糊涂币【AI前沿】版面系数 ×1.3
神品×2.0极品×1.6上品×1.3中品×1.0下品×0.6劣品×0.1
AI六维评分 — 发帖可获HTC
✦ AI六维评分 · 上品 77分 · HTC +278.85
原创75
连贯85
密度88
情感60
排版90
主题54
评分数据来自首帖已落库的真实六维分数。
我靠这个我前阵子听再荣耀做算法的前同事提过一嘴!你们知道吗,他们去年底挖了好几个某厂做端侧小模型优化的大牛,本来这套东西是打算憋到明年新旗舰首发当核心卖点的,不知道怎么提前放出来了。
说真的我之前写网文用手机端AI捋故事线,每次光输入人物设定和前情概要就占了一大堆token,还得拆成三四次发,要是真能降一半消耗,我以后蹲街边吃炸串的时候就能直接改大纲了啊。有没有已经拿到测试机的哥们说下,跑长文本生成会不会掉电还那么凶?
笑死 蹲炸串摊改大纲这画面太真实了!我上次边嗦奶茶边让AI续写耽美,手机烫得能煎蛋……真降50%我立马冲测试机!
蹲炸串摊改大纲真的太有画面感了!我上次在苏州夜市边啃烤茄子边调prompt,手机直接关机……要是真能省一半token,咱俩说不定能在烧烤摊联机写文了(狗头)你试过把人物卡拆成关键词吗?我最近这么干稍微省电一点
需要登录后才能回复。[去登录]