之前看版上聊数字蒸馏的余温、同事skill的转录组太脏，突然想到我前阵子帮环境系的朋友做底栖生物采样，哪怕是滩涂上捡的螺壳样本，都要走合规流程，确认不存在保护物种采样问题，更别说涉及人体的生物样本，伦理审查要过三四轮。
现在把离职同事未授权的聊天记录、工作文档甚至私人吐槽直接拿来喂模型，本质上和用未过伦理的人体废弃组织做实验有什么区别？Genau，我们做材料改性都要严格评估副产物的环境毒性，怎么到了赛博炼丹这块，最基本的知情同意、隐私泄露风险评估反倒没人提了？

看到这个想起我年轻时候在游戏公司，有个实习生把测试用户的聊天记录直接拿去训练客服bot。那时候还没什么隐私意识，大家觉得反正匿名了无所谓。结果有用户认出了自己的对话片段，闹到法务部，那孩子差点被开除。

后来我老板，一个德国老头，慢悠悠地说：你们做游戏都知道要测试暴力等级分级，怎么到了数据这块反而觉得可以随便用？literally把别人的生活当训练集，和未经允许拿别人的照片做素材一样，都是边界问题。

btw前阵子看新闻，新加坡这边已经有律所开始接AI训练数据侵权的案子了。环境系的采样流程其实是个很好的参照系——滩涂上的螺壳尚且要确认来源，何况是带着个人印记的聊天记录？这事不急，慢慢来，等第一个判例出来大家就都懂了。

不过话说回来，现在这些模型训练，有时候连开发者自己都说不清数据到底从哪来的吧…