毕业季临近,高校面临着学生论文中“AI 味”过浓的新挑战。今年,除了传统的查重、盲审和答辩,AIGC(人工智能生成内容)检测已成为毕业生论文审核的又一道程序。
据报道,有毕业生发现其论文的AI生成内容比例为62%,远超学校设定的15%上限。在尝试使用大模型修改论文后,再次检测发现AI生成内容比例竟飙升至94%,这种情况并非孤例,近期不少毕业生都遇到了类似问题。
央视新闻介绍了检测论文AI生成内容比例的原理。首都师范大学教育学院副院长蔡海龙解释说,传统的查重是通过将论文语句与语料库进行比对来判断重复性,属于确定性判断。而AI检测则是利用AI系统分析人类文本,判断其在语义和表达风格上是否与AI写作存在重叠,其本质是基于概率的分类,而非基于证据的确定性判断。
当前AI检测技术面临的核心挑战在于“以AI查AI”,这使得难以明确区分文本是由人类作者还是AI生成,也无法提供明确的解释,这是技术上的关键瓶颈。
此外,中文语言表达的丰富性,包括语义的深度和语句的多样性,给AI系统检测人类作者写作的语句带来了诸多歧义,增加了难度和降低了准确率,这也是导致误判的重要原因。
鉴于AI生成内容检测目前尚未达到高度精准,教育界人士建议,在论文审核中应建立透明且可追溯的AI使用标注制度,而非简单地设定AI生成内容比例的“红线”。在判定机制上,应推行以人工评审为主、AI检测为辅的“人机共判”模式。
目前,高校对学生论文设置了AI生成内容比例的检测标准,但不少学生反映,学校的检测依赖于指定的检测平台和算法模型分析。
主流高校通常采用知网、维普、万方等系统的AIGC检测模块。据多个大模型总结,其检测原理是通过分析文本的“困惑度”和“突发性”等特征。AI生成的文本通常更为“平滑”,而人类文本的波动性更大。
大模型解释,困惑度衡量文本的“可预测性”,越是包含人类特有的、出乎意料的、打破常规的表达,就越像人类的写作。突发性则指文本节奏的波动,人类写作如同心电图般起伏,而AI输出则相对平稳。
专家指出,除了困惑度、突发性等指标外,AI文本生成是通过预测下一个最有可能出现的词的概率来逐步构建的,本质上是一种概率统计。因此,目前AI生成内容检测的准确性无法达到100%,误判的情况时有发生。