教会计算机如何检测人工智能生成的文章的竞赛正在进行中

一家美国公司发布了一款软件，它声称能够以98%的置信度检测出由计算机而非人类生成的文本，但批评者称它也可能捕获无辜学生。

抄袭检测公司Turnitin周三发布了一个人工智能检测工具，声称它能够以几乎完美的信心识别非真实的作品。

该公司的抄袭检测软件在澳大利亚和其他地方几乎处于垄断地位，在过去两年中一直致力于开发识别人工智能生成文本的新功能。

Turnitin公司亚太区副总裁James Thorley说，这项创新将恢复人们对大学和学校学术过程完整性的信心。

“他说：”像ChatGPT这样的大型语言模型有一个明显的统计特征，这是可以检测到的。

“人工智能写作和人类写作之间的区别本质上是可预测性之一。这些模型的工作方式是，它们基本上摄取了自古以来产生的整个人类写作的语料库。

“因此，当他们被要求写一些东西时，他们会寻找这个话题中最有可能出现的下一个词，而人类的知识只占这些模型中的一小部分。

“因此，就我们的写作结构而言，我们有更多的不可预测性。而正是这种可预测性的差异，让我们有可能发现。”

虽然大学说该软件将消除对写作真实性的不确定性，但《华盛顿邮报》报道，真正的写作可能被错误地检测为作弊。

记者杰弗里-福勒（Geoffrey A Fowler）将五名学生的16篇作文–有些是真实的，有些是纯粹的人工智能生成的，有些是两者的混合–通过该软件，它将一篇真实的作文标记为人工智能的产物。

新南威尔士大学人工智能研究所的首席科学家托比-沃尔什(Toby Walsh)说，他怀疑关于98%准确率的说法，但他补充说，如果学生知道学校正在使用这种软件，就会起到震慑作用。

“没有任何工具可以肯定地告诉你，写作是否由人工智能生成，因为它不像抄袭那样，可以指向互联网上的这个文本，这个词或几个词是相同的，”他说。

“ChatGPT正在生产互联网上找不到的文本。它是独特的创造。”

虽然有其他形式的免费人工智能检测软件，但Thorley先生说，Turnitin在ChatGPT发布后的四个月内将该软件推向市场，并将在未来几个月内继续 “调整”。

他说，Turnitin的版本与其他版本的区别在于该公司在过去25年里对学生写作的了解。

沃尔什教授说，错误地指责学生抄袭或使用人工智能写作业的后果很严重，不应低估。

他还指出，存在新一代的人工智能工具，旨在通过改写作品来超越检查器和检测软件，例如使用同义词和将主动时态改写为被动时态。

“沃尔什教授说：”聪明的作弊者将开始使用这些工具，这些工具将变得越来越复杂，使工具更难准确地工作。

他说，唯一的解决办法是改变学生工作的评估方式。

“ChatGPT最积极的一面是，它将使教育工作者拾起我们的行动，不再偷懒，不再评估那些不重要的东西。”