水印可能会在 ChatGPT 的最终版本中引入或更早
2023/01/06 12:28:49
ChatGPT 水印是一个将统计模式、代码嵌入到单词甚至标点符号选择中的系统。
人工智能创建的内容是用相当可预测的单词选择模式生成的。
人类和人工智能写的文字遵循统计模式。
更改生成内容中使用的单词模式是一种为文本“加水印”的方法，使系统可以轻松检测它是否是 AI 文本生成器的产物。
使AI内容水印无法检测到的诀窍是，单词的分布仍然具有类似于普通AI生成文本的随机外观。
这称为单词的伪随机分布。
伪随机性是统计上随机的单词或数字序列，实际上不是随机的。
ChatGPT 水印当前未在使用中。然而，OpenAI的斯科特·阿伦森（Scott Aaronson）公开表示，这是有计划的。
目前，ChatGPT处于预览阶段，这使得OpenAI能够通过实际使用来发现“错位”。
据推测，水印可能会在 ChatGPT 的最终版本中引入或更早。
斯科特·阿伦森（Scott Aaronson）写了关于水印的工作原理：
“到目前为止，我的主要项目是一个用于统计水印文本模型（如 GPT）输出的工具。
基本上，每当 GPT 生成一些长文本时，我们都希望在它的单词选择中有一个不明显的秘密信号，你可以用它来证明，是的，这来自 GPT。