OpenAI 正在准备一款能够识别 ChatGPT 编写的文本的工具。这项创新可以帮助教师检查学生的作业。然而对其潜在影响的担忧阻碍了其实施。
去年，OpenAI 声称无法检测文本是否由 ChatGPT 编写。为了庆祝新学年的开始，该公司甚至向教师分发了一份人工智能教育使用指南，而不是惩罚性的。然而，人工智能的大规模采用学生们的努力改变了情况，迫使公司重新考虑其立场。
面对这种情况，OpenAI开发了检测工具生成的文本聊天GPT。后者使用了一种技术水印其中包括对AI 使用的单词的选择。因此，这些微妙的修改使得识别文本是否已被修改成为可能。由其人工智能编写。
OpenAI 犹豫是否部署其 ChatGPT 生成的文本检测工具
OpenAI 开发的水印方法因其精确。据公司发言人称，这种技术可以有效防止局部伪造，例如部分重新表述文本。然而，她有限制面对更复杂的重写，例如使用翻译系统或使用另一个人工智能模型进行修改。该工具可以为教师提供一个解决方案，而教师在很大程度上因使用量的增加而不知所措。最近的一项研究表明99% 的学生使用 ChatGPT 等生成式 AI，一个惊人的数字证明了这种现象的规模。
然而，OpenAI 意识到这项技术的影响。该公司担心，提供该工具可能会劝阻某些用户使用 ChatGPT。此外，研究人员还对其对非英语国家的潜在影响表示担忧。由于语言差异以及人工智能处理英语以外语言的方式，用户可能会受到文本水印的不公平惩罚。目前，该公司仍在评估该工具的优势和风险，然后再决定更广泛的分发。
来源 ：华尔街日报
