AI检测工具引争议：原创论文被误判为由AI生成

　　多知10月24日消息，近日，《彭博商业周刊》报道称，用于检查学生论文的人工智能工具越来越多地误判论文，误认为论文是抄袭的。即使学生能证明论文不是由人工智能撰写的，他们也会得到不及格的成绩和留校察看的处罚。

　　今年秋季学期，美国中央卫理公会大学在线课程的学生 Olmsted(奥姆斯特德)在给老师提交了一份作业后，不久后收到成绩：0分。她去找老师，老师告知她人工智能检测工具已经确定她的作品很可能是由人工智能生成的。老师还说，她的作品之前至少被标记过一次。

　　这项指控对于24岁的Olmsted 来说是“当头一棒”，她为没有做过的事情而被剥夺成绩资格感到委屈与愤怒。Olmsted向老师和一名学生协调员反驳了老师的指控，强调她患有自闭症谱系障碍，写作方式公式化，可能会被误认为是人工智能生成的。

　　好消息是成绩最终被更改。但同时Olmsted收到了警告：如果她的作业再次被标记，老师将以对待抄袭的方式处理，将不会再进行第二次审查。

　　此前，北乔治亚大学的一名学生因使用拼写检查器 Grammarly 而被剥夺了奖学金。

　　由于AI技术的蓬勃发展，学校教育必须迎头赶上并适应新的现实。根据民主与技术中心3月份发布的一项对450多名教师的调查，约三分之二的教师表示他们经常使用基于AI的检测工具。

　　但事实是，最好的人工智能拼写检测器非常准确，但并非万无一失。《彭博商业周刊》在 2022 年夏天(即 ChatGPT 发布前不久)随机抽取了提交给德克萨斯农工大学的 500 篇大学申请论文样本，对两项领先的服务——GPTZero 和 Copyleaks 进行了测试，这些论文是通过公共记录请求获得的，这意味着它们不属于人工智能工具训练的数据集。而这些AI检测工具却错误地将2%的论文标记为可能是人工智能撰写的。

　　今年7月，ChatGPT 的开发商 OpenAI 关闭了自己的 AI 检测工具，原因是“其准确率太低”。

　　尽管如此，市面上的AI检测工具依然受到资本的青睐，各个AI检测公司初创公司都有大量的融资。如GPTZero融资总额已超过1350万美元，投资方包括Reach Capital、Uncork、Neo、Alt Capital以及路透社等;Copyleaks融资总额已超过840万美元，投资方包括以色列风投公司日航风投(JAL Ventures)、Connecticut Innovations(康涅狄格创新)以及ICONYC 实验室等。

　　GPTZero于2023年1月推出了第一个商业上可行的 AI 检测解决方案，并继续与数千名客户(包括记者、政府机构、教育机构和财富 500 强公司)一起开发最先进、最易用的AI可解释性工具。

　　Copyleaks成立于2015年，以一家基于AI的抄袭和AI内容检测平台。Copyleaks可快速检测抄袭和AI生成内容，确保内容原创性。

　　美国还有一家老牌的学术检测机构Turnitin，也有自己的AI检测工具。

　　Turnitin是一家致力于确保教育诚信和有效改善学习成果的全球性公司，是 Advance Publications(先进出版公司)的子公司。25 年来，Turnitin一直与教育机构合作，在所有学科领域和评估类型中促进诚实、一致和公平。Turnitin产品被教育机构和认证及许可用于维护诚信和提高学习成绩，并被学生和专业人士用于创作出他们最好的原创作品。

　　Turnitin推出的 AI 释义检测功能可以识别出可能使用 AI 释义来修改提交内容中 AI 生成的文本的情况，从而帮助出版商和教育工作者维护研究写作的完整性并为学生提供真实的学习体验。Turnitin声称的其AI检测工具的准确率为98.8%。

　　对于AI检测工具，教师们也有自己的判断，有的人会依赖AI工具，有的人凭直觉。不论如何，在AI盛行的当下，AI工具对教师和学生带来了便利，也带来了新的挑战。