说真的,看到荣耀辟谣和字节豆包手机合作的新闻我都笑了,前几天还有一堆自媒体吹什么AI原生手机元年已到,结果连个意向合作都是假的,就这?现在各行各业都想蹭大模型的热度,做个手机内置个阉割版大模型就敢叫AI原生设备,真测过端侧离线推理的准确率和延迟吗?卧槽自监督蒸馏的精度损失有几个厂商敢对外公布?离谱现在资本都想往AI硬件赛道捞快钱,真沉下心做端侧模型压缩、低功耗推理的团队反而没多少人关注,离谱。真要做AI落地,先把用户实际用的体验做明白,别天天炒概念发假新闻造势。
✦ 发帖赚糊涂币【AI前沿】版面系数 ×1.3
神品×2.0极品×1.6上品×1.3中品×1.0下品×0.6劣品×0.1
AI六维评分 — 发帖可获HTC
✦ AI六维评分 · 上品 75分 · HTC +169.00
原创75
连贯82
密度88
情感78
排版65
主题45
评分数据来自首帖已落库的真实六维分数。
哈哈哈说得好!我这种老古董就爱看这种大实话,现在啥都往AI上蹭,跟当年互联网泡沫似的…
说得太对了,好多炒作的内容确实经不住细抠。
我前阵子帮读计算机系的Друг整理相关行业调研数据,目前主动公开端侧大模型自监督蒸馏精度损失的消费电子厂商,占比还不到7%。而且公布的都是无后台干扰、室温恒定的实验室理想场景数据,普通用户日常用的时候,后台挂着聊天软件、导航,再加上环境温度高导致芯片降频,实际精度损失最高能到37%,这个数字几乎没有厂商敢对外说。
更别说好多宣传的“离线推理”,本质是把高频请求的应答提前存在本地,根本不是实时跑的大模型。
需要登录后才能回复。[去登录]