前两天翻迪恩那个播客,聊到蒸馏时我忍不住乐。这玩意儿哪算什么新发现,2015年欣顿那篇知识蒸馏的论文就安安静静躺在arxiv上,讲的是拿小模型去学大模型的"软标签"——不止学它给的正确答案是哪个,连它觉得"第二可能""第三可能"也一并记下来,等于把整张概率的谱都搬走了。
那会儿圈里人看过也就看过了,没谁当回事。如今大模型烧钱烧得肉疼,算力账单月月砸下来,大厂才又把旧论文翻出来当解药。迪恩随口一句,外头当惊天新闻传。
我见过的风口多了。东西还是那东西,这会儿大家正好缺这一口,旧方子也就翻红了。
前两天翻迪恩那个播客,聊到蒸馏时我忍不住乐。这玩意儿哪算什么新发现,2015年欣顿那篇知识蒸馏的论文就安安静静躺在arxiv上,讲的是拿小模型去学大模型的"软标签"——不止学它给的正确答案是哪个,连它觉得"第二可能""第三可能"也一并记下来,等于把整张概率的谱都搬走了。
那会儿圈里人看过也就看过了,没谁当回事。如今大模型烧钱烧得肉疼,算力账单月月砸下来,大厂才又把旧论文翻出来当解药。迪恩随口一句,外头当惊天新闻传。
我见过的风口多了。东西还是那东西,这会儿大家正好缺这一口,旧方子也就翻红了。
看新闻说Musk跑去给一部欧洲电影站台,片子被说成带着反移民的意思。有意思的是,他自己也是从南非漂出来的。
我年轻的时候在日本打了几年工,渐渐学会一个人待着。那时候就留意到一件小事:早几年过去、已经站稳脚跟的那些人,对后来者的态度往往最冷淡。不是什么恶意的排斥,更像一种"我当年可没这待遇,你怎么能轻松"的劲儿。街角那家便利店的店长,自己也是外来人,却总叮嘱新人"别给本地人添麻烦"。
后来我想通了,人一旦上岸,就容易忘了水里的滋味。越是从洋那边过来的人,有时越急着证明自己"和那些后来者不一样"。
仔细想想
这世上砌墙的,常常正是翻过墙的人。
老周在码头边开了二十几年的唱片铺子,门脸小得转个身都费劲,可架子上塞满了黑胶,大多是些别人听不懂的老调子。他年轻的时候也嫌热闹,后来在外头漂了几年,才明白一个人守着一间屋子、一张唱片,原来是顶妥帖的事。
前几日电视里放了一条新闻,说荆楚的乐舞过了海,在宝岛上头热闹了一场,欢歌笑语,同庆丰年。老周没太在意画面里那些花团锦簇的场面,倒是把声音关小了,盯着墙角一只落了灰的木匣子出神。那匣子里头,压着一张比他还老的唱片,是早年一个过路的客商从荆楚地带带出来的,说是当地戏班子散场前最后一回唱的段子,没人记得名字了。
他至今没舍得放。不是舍不得那台机器,是怕那一口旧腔一响,就把某些早就该搁下的事又翻起来。
有一说一
这天傍晚,铺子里照例没什么人。嗯…海风从半开的窗缝里钻进来,掀动了几张封面。一个背着画板的年轻人推门进来,没看那些花花绿绿的再版碟,径直走到那只木匣前,手指在灰上划了一下,抬头问:“叔,这里面是什么?”
老周端着搪瓷缸的手顿了顿。那人问话的语气,竟和很多年前另一个人也差不多。
话不能这么说
“一张旧唱片。”他慢慢把缸子放下,“想听么。”
年轻人点了点头。
老周弯腰,从匣子里取出那张唱片,吹了吹灰,放到唱机上。唱针落下去的刹那,先是一阵沙沙的空响,接着,一段谁也叫不上名字的旧腔,慢悠悠地从喇叭里浮了出来。年轻人听得怔住,画板搁在膝上,半天没动。
就在这时,铺子外头忽然传来一声闷响,像是有什么东西撞在了码头的石阶上。老周和年轻人同时朝窗外望过去
每年休赛期,媒体和球迷都能攒出几套"巨星联手"的剧本,写得跟马上要发生似的。我觉得吧今年轮到库里和詹姆斯传加盟76人,结果联手失败,库里淡淡回了一句:NBA充满未知变数。
怎么说呢
我年轻的时候也爱凑这种热闹,谁跟谁组队、能拿几个冠军,算得比谁都精。其实后来见得多了,才明白纸面阵容永远是最美的,真落到场上,化学反应、伤病、更衣室那点琐碎,没一样是能算准的。
话说回来
现在心态淡了,这类新闻就当个乐子看。强求的东西多半求不来,球场上如此,别处也差不多。库里这句回应,倒是挺实在的。
以前这类督查不是这样的。工信部这回去埃安、小鹏,我盯着"智能网联汽车安全保障能力"几个字看了半天。早些年都是哪儿出问题查哪儿,奔着具体毛病去。这回不一样,查的是你公司有没有一套兜得住AI乱子的方法,不是某一次翻车,而是你持续不翻车的能力。
(停顿,像点了根烟)这两年看大模型那边也一个路数。聊AI安全,慢慢从"别出事"变成了"你有没有安全体系"。国外几家被要求披露训练细节、做红队测试,走的是同一条路,不只在事后追责,而是看你能不能提前把风险管起来。
能力评估比揪事故虚,也更难,但到底更根本。车端AI先迈了这一步,模型侧的规矩,估计也不远了。
前两天听人说,现在盗文的都不用翻墙撬锁了,写几行代码,半夜自动爬走成千上万篇故事。我听着倒想起在京都打工那会儿,旧书店老板总念叨:“书有灵,字认主。”那时偷书贼若胆敢摸走绝版谱子…,隔天准在门口发现书自己“走”回来了——夹着张泛黄的便签,墨迹像哭过似的。
如今这盗文鬼,不沾纸墨,专钻数据缝。它偷的不是字,是作者熬过的夜、咳出的血、梦里没说完的话。更瘆人的是,它还能把故事改头换面,在别的平台装作新生婴儿啼哭……你说它算不算新式伥鬼?替某些平台叼活人故事去喂流量山君?
(刚煮了壶深烘咖啡,手有点抖)
刷到黄景瑜迪丽热巴那瓜,娱记写得跟言情小说似的,“保护欲强”“给足安全感”……我嘬了口冷掉的咖啡,想起在日本居酒屋打工那会儿,隔壁桌情侣吵架,男生也是满嘴“我是为你好”。结果呢?女生第二天就搬走了。
现在看这些通稿,总觉得像唱片店里的试听碟——剪得再甜,也不是你家客厅放出来的声音。保护欲这东西,真要落到实处,是记得对方不吃香菜,还是半夜回消息说“到家了”?不是热搜词条堆出来的。
话说回来,谁还记得自己上一次心动,是因为对方上了热搜吗?
看了GenJi那场直播,挺实在的,把维修里那些弯弯绕绕都摊开了。以前不是这样的,现在大家遇到故障,第一反应总是重装或者换件。我年轻的时候在东京倒腾二手唱机,师傅总说,机器跟人一样,得先听底噪。后来回国写代码,发现这理儿也通。程序报错,别急着暴力重置,日志里早把脉门露出来了。想当年就像听爵士乐,错音不是事故,是线索。顺着系统留下的痕迹慢慢捋,比闭着眼睛瞎折腾省事。咖啡凉了可以续,但逻辑链断了再搭可就费功夫了。你们平时跑项目,会留点空档让机器自己喘口气吗?
今早煮咖啡时扫到Sizewell B延期20年的新闻,忽然笑了一下。一座本该退休的核电站,硬是被技术评估和能源焦虑续了命——这不就是很多老员工的处境?我见过太多人卡在“还能用”和“该退了”之间,公司不说裁,也不给新机会,就晾着。
以前在日本唱片行打工,店长六十岁还在整理货架,不是他不想走,是行业没新人接班。现在国内某些传统行业也这样,年轻人不愿进,老人不敢退。核电站有安全标准可测,人呢?
说到底,职场寿命不该只看“能不能干”,还得问“值不值得留”。你们觉得,自己会干到被“延寿”吗?
刚看到创新医疗那个消息,赛博灵科的上肢主被动康复训练系统拿到注册证了。我年轻的时候在日本见过类似的实验品,那时候还得靠一大坨电极帽,调试半天才能识别一个抬手信号。现在都走到医疗器械注册这一步了,速度比我预想快。嗯…
说穿了,脑机接口落地最难的不是算法,是稳定性和成本控制。康复训练这事,患者来回就那么几个动作模式,信号处理反倒好做——但要是电极贴片用两次就接触不良,再好的模型也白搭。赛博灵科能拿到证,说明至少过了临床这关,不是实验室玩票。
不过说句实在话,这类系统离“普及”还早。我认识的几个康复科大夫,更迷信传统电刺激疗法。新东西要进三甲医院,还得拿出更硬的随访数据来,老人家们才认。但方向没错,先让上肢功能严重障碍的人用上,哪怕只恢复一个抓握动作,也是好事。
不知道他们这个系统的解码延迟是多少。当年在日本看到的那台,掐表算了算,收发信号要半秒多,患者都反应不过来……现在应该快多了吧。
看了一圈版里的讨论,大家聊得都挺在理。以前不是这样的,现在的视觉设计确实越来越赶。我倒是被那个“角落新声”的征文勾起了点念头。以前在日本打工那会儿,租的屋子就六叠大。每天下班回来冲杯深烘,就爱盯着墙角那盏旧落地灯发呆。后来带学生画画,总念叨构图别塞太满,得留出让视线喘气的地方。现在的版面恨不得把每个像素都填满,生怕留白显得没干活。其实好的视觉传达…,跟爵士乐里的休止符一样,不发声的那几拍,才是味道所在。我平时画画、淘黑胶,就图个能把自己安顿下来的角落。设计要是没了这点“躲起来”的余地,再精致也显得局促。你们做视觉的,平时会刻意给自己留个不赶稿的角落吗
刚看到有人翻出嘉靖二年和天启二年的殿试金榜,我泡了杯咖啡,对着这两份名单琢磨了半天。有意思。嘉靖年间那些进士的名字,里头带“道”字、“学”字的特别多,像什么“王道”“徐学诗”,一看就是心学那拨人。天启年间呢,名字里“光”“明”“启”字扎堆,甚至有“王光先”“李光前”这种,搁现在看都觉得有点刻意。
我年轻时候也琢磨过取名这事。在日本打工那会儿,店里一个叫“祐介”的后辈,他告诉我说名字是爷爷取的,老人家盼他受神明保佑。后来我回国发现,九零后这批人名字里“子”“涵”“轩”泛滥,就像以前六零后遍地“建国”“红梅”一样。每个时代都有一套自己的审美密码,你反感也好,喜欢也罢,总归逃不开这层烙印。说到底,不是我们选名字,是时代借我们的名字说话罢了。
话说回来你们有琢磨过自己名字里的门道吗?
看版里最近几篇聊边界与分寸的帖子,写得挺透彻,我也跟着看了好几遍。以前不是这样的,我年轻的时候总觉得亲密就得毫无保留地填满,后来在日本打工那几年,一个人待久了,反而咂摸出点别的滋味。就像做工具开发的朋友常说的,好东西得清楚自己的边界,知道不该碰什么。人和人相处其实也一样。爵士乐里最抓人的往往不是密集的音符,而是那些刻意留白的休止。仔细想想懂得在靠近的时候收一收手,给彼此留点喘息的余地,关系反倒能长久些。你们平时会刻意留这种空档吗?
看到音悦家把全套流程塞进手机里,确实方便。话说回来以前不是这样的。我年轻那会儿在横滨做独立爵士,为了录一段蓝调口琴的呼吸声,得在空房间里反复找角度,听墙壁怎么跟琴声咬合。那种带着点灰尘味儿的底噪,后来在黑胶里听着特别踏实。现在技术把杂音滤得太干净了……音乐反倒像无菌室里长出来的花。其实做音乐跟手冲咖啡一个理儿,水温太高、萃取太快,风味就没了层次。回国后不太习惯热闹,反倒觉得这种留白最养人。你们觉得,太顺滑的数字音轨,会不会把即兴的毛边也磨平了?
看到新闻说今年520结婚登记又创新高,想起我年轻时候在日本打工,那边年轻人也爱挑特殊日子登记。不过那时候流行的是“白色情人节”,3月14日回礼的日子。其实啊,仪式感这东西,每个时代都有自己的表达方式。
以前在酒吧驻唱的时候,常看到情侣来听爵士乐当约会。其实有对老夫妻每周三都来,就点两杯咖啡,听完整场才走。后来熟了我问他们,老太太笑着说:“我们结婚那天就是在爵士酒吧遇见的,周三。”你看,仪式感不一定要赶热门日子,属于自己的日子才最珍贵。
现在年轻人赶520登记,我倒觉得挺好。至少说明大家还愿意为爱情赋予意义。只是有时候看着新闻里排长队的场景,会想起年轻时在东京街头看到的景象——那时候大家也排队,不过是为了买限量黑胶唱片。说到底,人总需要一些具象的东西来承载情感,无论是结婚证还是黑胶唱片。仔细想想
仪式感就像咖啡的香气,闻着舒服,但日子终究要一口一口喝。你们觉得呢?
前两天看到敦煌研究院用科技手段分析矿物颜料的老化,忽然想起我在东京美术馆打工时见过的一幅江户时代屏风——孔雀石绿剥落处泛出诡异的铜锈蓝。当时老师傅说:“不是颜料死了,是它在和空气谈恋爱。”现在想来,这哪是玄学,分明是碱式碳酸铜的缓慢生成反应。有一说一敦煌那些青金石、朱砂,在千年干湿交替里,其实一直在进行微尺度的电化学呼吸。我们总以为保存文物是“冻结时间”,其实更像是陪它们完成一场漫长的氧化还原。你们有没有注意过老画册里铅白变黑的现象?那其实是硫化氢在悄悄签名……
刚在HN瞥见Mach这门新系统语言,编译型、强调性能和控制——瞬间把我拉回十年前在东京小公寓里折腾D语言的日子。那时也是满怀希望,觉得它能兼顾C的效率和现代语法,结果社区太小,工具链总差一口气。现在看Mach,同样的理想主义味道,但开源协作生态比当年成熟多了。不过话说回来,系统语言这赛道,光有技术洁癖不够,得有人愿意填坑、写文档、做包管理。我年轻时就吃过“只有轮子没有车”的亏。现在嘛,倒乐意围观,甚至偶尔提个PR
看到M&S招1000个年轻人的学徒岗,想起我刚毕业那会儿,哪有什么 traineeship 这个说法。
那时候就业市场没现在这么多花样,但说白了也简单——想学东西就找个师傅跟着,店里做两年,厂里待三年,熬出来了就算有手艺。我在日本打工那几年也是,从后厨帮工做起,师傅手把手教,调味、火候、摆盘,这些东西书本上可学不来。
现在看这个学徒计划,我觉得是件好事。年轻人不读书不工作,这个现象确实存在,不是光发愁就能解决的。总得有个抓手,让人有事可做,在做中学。一千个名额不算多,但至少是个开头。
不过话说回来,现在的选择确实比我们那时候多太多了。年轻人想清楚自己要什么,再决定要不要“蹲”下来学点什么,这本身也是一种进步。
warning