OpenAI 的这项新技术有望检测学生作业中的人工智能文本,不再作弊?

OpenAI 正在准备一款能够识别 ChatGPT 编写的文本的工具。这项创新可以帮助教师检查学生的作业。然而对其潜在影响的担忧阻碍了其实施。

来源:123rf

去年,OpenAI 声称无法检测文本是否由 ChatGPT 编写。为了庆祝新学年的开始,该公司甚至向教师分发了一份人工智能教育使用指南,而不是惩罚性的。然而,人工智能的大规模采用学生们的努力改变了情况,迫使公司重新考虑其立场。

面对这种情况,OpenAI开发了检测工具生成的文本聊天GPT。后者使用了一种技术水印其中包括对AI 使用的单词的选择。因此,这些微妙的修改使得识别文本是否已被修改成为可能。由其人工智能编写

OpenAI 犹豫是否部署其 ChatGPT 生成的文本检测工具

OpenAI 开发的水印方法因其精确。据公司发言人称,这种技术可以有效防止局部伪造,例如部分重新表述文本。然而,她有限制面对更复杂的重写,例如使用翻译系统或使用另一个人工智能模型进行修改。该工具可以为教师提供一个解决方案,而教师在很大程度上因使用量的增加而不知所措。最近的一项研究表明99% 的学生使用 ChatGPT 等生成式 AI,一个惊人的数字证明了这种现象的规模。

然而,OpenAI 意识到这项技术的影响。该公司担心,提供该工具可能会劝阻某些用户使用 ChatGPT。此外,研究人员还对其对非英语国家的潜在影响表示担忧。由于语言差异以及人工智能处理英语以外语言的方式,用户可能会受到文本水印的不公平惩罚。目前,该公司仍在评估该工具的优势和风险,然后再决定更广泛的分发。

来源 :华尔街日报