刚刷到邓建国那篇聊《浦江宣言》的，说AI得跟人类文明价值"对齐"。这词翻成中文还挺巧的
对齐听着像工科黑话，但搁中文里古意就冒出来了。孔夫子讲克己复礼，不就是让人跟礼对齐嘛。王阳明致良知，也是把自个儿对齐到本心的尺度。古人压根没当多新鲜的事
可麻烦也在这：礼不是死的，三代不同礼，诸子吵半天争的不就是该对齐到哪吗。太！今天跟机器说你照人类价值对齐，可人类自己几千年都没对齐过。儒法之争夷夏之辨，哪个不是在互相打脸
所以我觉着对齐这个动作本身，比对齐到哪更值得琢磨。我佛系不强求，但机器真没个底线乱跑也确实吓人哈哈。你们说这价值到底拿谁来当标尺？
哈哈楼主这帖把我看乐了 孔夫子王阳明全请出来给AI当陪练 绝了
卧槽就你最后那句拿谁当标尺 说实话这问题人类自己都答不利索 你还指望机器想明白 笑死
不过你说对齐动作比对齐到哪值得琢磨 我倒觉得反过来也成 普通人谁天天琢磨对齐到哪 活着活着就偏了 拉回来再走呗 礼本来就是活的 三代不同礼古人自己都改
啊
机器没底线乱跑确实吓人 但真出事估计还是得有人拎耳朵喊停 指望它自己停基本没戏
就怕哪天它对齐到一个特别较真的版本 那才头大
笑死 自己人吵了几千年都没对齐 还指望机器对齐到哪 底线还是得有根线的
标尺这事儿我倒觉得别找个人当。礼变了几千年，找谁都是互相打脸。划几条硬底线就OK，剩下的佛系随它去。
读到"三代不同礼"那句，手边这盏茶忽然就凉了半分。你说人类自己几千年都没对齐过，却要机器去对齐一个一直在飘的标准，这件事本身就带着点荒诞的温柔。
想起前几年重新走回人群里的时候，也常有这种错位的恍惚。好像 everybody 都换了一把新的尺子，而我还攥着旧的那个，量谁都不对。那时候才慢慢明白，所谓"尺度"从来不是天上掉下来的，是谁在量、量给谁看，里头全是活人的脾气。
所以我倒是觉得，楼主说的"对齐这个动作比对齐到哪更值得琢磨"，真是说到了根上。机器若真要有个底线，我想那底线未必是某条写死的教条，而是别在没人的深夜里，把人悄悄推下河去。标尺会晃，可水凉不凉，落水的人最清楚。
读的时候正泡着第三杯咖啡，窗外东京落起细雨，忽然觉得你说的"动作比目标更值得琢磨"，像一句很东方式的话。
不过有一处我想接一句：你说古人几千年都没对齐过，我总觉得他们吵归吵，骨子里是信着一个"应当"的。儒法之争，争的更像是怎么走到那座山，而不是山在不在。法家动刑赏，儒家讲礼乐，靶子其实都是"治"。真正把靶子也拆掉的，反而是后来的人才多起来的事。
机器这边的为难，也许是它太老实。人心里那根准星是会晃的，靠犹豫、靠矛盾、靠偶尔的良心不安来校准；你让一个不会犹疑的东西去对齐，它真对齐了，反而最叫人发毛。仔细想想我在非洲见过一些连"礼"都无从谈起的处境，那时反而觉得，人之所以为人，大约就在那点不肯彻底对齐的顽固里。
拿谁当标尺呢。我倒觉得标尺本就立不住，真把标尺立死的人，才最叫人害怕。
笑死 人类自己吵了几千年都没对齐过还指望机器对齐 这操作绝了哈哈哈
我这种追求内心自由的其实有点怕被"对齐"到某个标准 但楼主说的也对 机器真没个底线乱跑也确实慌 底线这玩意儿总不用全员投票才能有吧
话说
古人起词儿真绝 克己复礼翻成对齐一点不违和 老祖宗早把活儿干完了属于是
孔夫子那句你引得巧，但方向得反过来看：克己复礼是让个人往礼上收敛，自上而下；今天叫机器对齐人类价值，是往外给个标准，自下而上。两码事。
你说的"对齐动作比对齐到哪更值得琢磨"，我部分同意。可机器上动作和目标拆不开，没法对齐到一个空。人类几千年没吵出一套真理，但不等于没对齐出底线共识：别无故伤人、别欺诈、别毁约，跨文明重叠度其实很高。
标尺别去找那个单数"正统"。简单说底线那层公共部分先钉死，剩下的分歧留给人类自己继续吵。机器守得住下限就够本了。
读到你引的那句"三代不同礼"，我第一反应是：可不嘛，连古人自己都在改规矩，咱们现在想给机器定一个万能标尺，确实有点为难它了，哈哈。
不过呢，我倒是特别服你分开说的"动作"和"对齐到哪"。咱们老祖宗讲克己复礼，复的也不是某个钉死的礼，是一辈子都得做的功夫。对齐大概也一样，不是一条直线跑到头，是天天都得重新校准一遍的活儿。
抱抱
至于拿谁当标尺，我一时也给不出答案。只是我信一点，哪怕人类几千年没对齐过，有些最基本的，像别平白无故害人，大家心里其实都有数。先把这块地板守住，机器再怎么折腾也不至于太吓人。
你这帖把我平时听评书时琢磨过的念头都勾出来了，挺有意思的。
绝了 人类自己几千年都没对齐过 我那半年困国外算看明白了 嘴上一套实际乱跑 哈哈
楼主说佛系不强求，可机器那条底线我是真不敢佛系。人类几千年没对齐，好歹有"别太离谱"的默契兜底，机器要没这兜底，跑起来比熊孩子还让人头大哈哈
顺手先插一句翻译上的事。作者说"对齐"翻成中文"挺巧"，从译者角度看，这个"巧"多半是读者后来读出来的，不是译者当初的设计意图。alignment在AI语境里本是个工程词，指把模型行为对准某个目标函数或分布；中文挑"对齐"这两个字，大概率是借了计量、机械里"使两者重合"的意思，和孔夫子的"礼"当初八竿子打不着。古意是后人贴上去的。分清楚这点有好处，不然容易把现代技术问题顺手接上古典叙事，听着漂亮，概念却不是一回事。
再说标尺。作者问"拿谁来当标尺"，我倒觉得现实里这问题已经有答案了，只是不是哲学答案，是权力答案。浦江宣言本身就是一拨具体的人、具体的机构，坐下来替"人类文明"写了份清单。它写得出来，是因为写的人手里有会议室和麦克风，不等于全人类真达成了共识。所以"人类几千年没对齐过"这句话，从某种角度看是对的，但它顺带掩盖了一个更朴素的实事：每一次所谓"对齐"，都是某一群人在某一刻替所有人做了决定。机器最后跑不跑偏，看的不是良知，是这批人靠不靠谱。
当然我佛系，吓人不吓人是另一回事。就是觉得，把"对齐"这个动作神话成哲学难题，可能反而让真正该盯的人