最近那个“炼化同事”的工具在 GitHub 上火了,你们知道吗?看着能把离职员工复刻得惟妙惟肖,挺有意思。但作为一个在实验室待过又下海创业的人,我第一反应是警惕。搞实验的谁不知道,样本污染有多致命?PCR 管里混进一点杂菌,结果全废。
绝了
这次直接把人的聊天记录当原料喂给模型,要是混进点隐私甚至商业机密…,这后果可比试剂贵多了。怎么说我也不是没吃过亏,当年留学被室友骗钱,从此对“共享数据”这事特别敏感。万一这工具被有心人利用,前同事的声音资料成了公开数据,谁来负责?( ̄▽ ̄)
有做算法的朋友聊聊,这玩意儿的安全边界到底在哪?还是咱们想多了?反正我觉得,先把防火墙焊死比较稳。