前阵子对接内容平台的甲方，做AIGC内容合规的需求，本来打算把SynthID检测作为核心功能报上去，想着能少改几版方案。我觉得吧今早翻到有人逆向了Gemini的SynthID检测逻辑，那点侥幸心思直接凉了半截。
早前各家推生成内容内置水印，原本是想解决AIGC确权、冒用追责的痛点，现在这么轻易就被破解，等于之前铺的半条合规路径直接走不通了。要是有人把恶意生成的内容抹掉水印冒充人工创作，连溯源的依据都没了。之前和法务估算能省近三成的审核成本，现在看来还得多做几手预案。