OpenAI 表示，它正在采取“深思熟虑的方式”发布能够检测 ChatGPT 书写的工具

OpenAI开发了一种可能用于检测学生是否通过使用ChatGPT来完成作业的工具，但公司正在考虑是否公开发布这一工具。据《华尔街日报》报道，OpenAI正在研究一种文本水印技术，但因为其复杂性以及可能对OpenAI以外的生态系统产生的影响，公司正在谨慎地处理这个问题。

OpenAI的发言人向TechCrunch确认，他们正在研究这种文本水印方法，但同时也在权衡其潜在风险，包括可能被恶意行为者绕过，以及可能对非英语使用者等群体产生不成比例的影响。

这种文本水印技术与以往检测AI生成文本的方法不同，它通过在ChatGPT选择单词的方式上做小的调整，创建一种可以被其他工具检测到的隐形水印。然而，OpenAI在更新其5月份关于检测AI生成内容的研究博客文章时指出，尽管文本水印在检测局部篡改方面非常准确，例如释义，但在面对全局篡改，如使用翻译系统、用另一个生成模型重写或要求模型在每个单词之间插入特殊字符然后删除该字符时，这种方法就显得不那么有效了。

因此，OpenAI表示这种方法很容易被恶意行为者绕过，并且可能会使非英语使用者在使用AI作为写作工具时受到污名化。

来源：Techcrunch