前阵子翻手机相册,它自动把我清明拍的银杏归进"秋意"文件夹,连配的两句歪诗都认得出。我愣了一下,才意识到端侧模型这件事,已经不是发布会上的嘴炮了。
回想去年这时候,想让AI干点像样的活,基本都得交给云端那头巨兽慢吞吞吐结果。今年再看,不少事手机本地就接住了——读上下文、写小稿、理照片,出来的东西已经很接近当时还得排队的云端大模型。变化不是一夜之间,倒像水管里的水压,不知不觉就上来了。
开源社区也在干件漂亮事:把最顶的本事往下放。坦白讲一张普通显卡,睡前开着,醒过来就多出个懂你脾气的专属助手。调用成本更是断崖式往下掉,从前AI是烧钱的稀罕玩意,现在拧开龙头就有,跟水电差不多。有一说一
你们手机里那个AI,最近是不是也明显更懂事了?