刚刷到红帽刚开源的Tank OS，把运行环境用无root容器封装的思路，完全戳中我之前跑大模型的痛点。之前微调戏曲相关的小模型，装个第三方推理插件，直接把CUDA依赖搞崩，重装环境花了我三晚上，还差点因为权限问题误删了训练数据集。
这就像给每个AI服务单独做了个隔离沙箱，既解决依赖冲突，还能避免恶意AI插件越权偷数据。现在不管是本地跑开源大模型，还是部署小范围的AI服务，大部分人都是裸装环境，这套容器化的方案完全可以下沉到个人使用场景。
有没有人已经试搭过这个环境了？