日前，据外媒《The Verge》引述《华尔街日报》的报导，OpenAI大约在一年前就已经准备好一套为ChatGPT创建的文本添加浮水印的系统，以及一套检测浮水印的工具。然而，该公司内部针对是否应该推出这项功能而引发了分歧。因为，虽然推出这项功能似乎是更加负责任的做法，但同时也有可能损害其利润。
对此，该公司表示，除了藉由浮水印的技术来判断文章内容是否由ChatGPT技术所产生。此外，判断内容是否是由AI所产生的方式还包含了分类器（classifiers）、元数据（metadata）等方式。
目录
同时，《Cool3c市集》则表示，虽然浮水印可以快速比对内容是否透过AI技术而产生，但还是会有一定程度上的偏差。例如，将生成内容再以翻译工具转换成不同语言，或是藉由另一套AI进行汇整；而人们甚至还能再生成文字内容上做出一定程度上的修改，以让浮水印系统检查结果失效。
另一方面，OpenAI也认为，一旦严格地追查文字内容是否由AI工具所产生，其在形式上也会影响人们对于使用AI工具的意愿；这甚至也可能扩大影响个人写作内容遭质疑是否为原创的情形。
因此，在诸多考量之下，目前该公司只会提供影音内容验证工具，但是在文字内容的部分，则会以更慎重的态度进行考量；再决定是否要提供相应的验证工具。
Table of Contents
Source :
