堆代码网讯 多数AI检测器会通过分析词汇与句式特征,查找AI生成文本的标志性痕迹。一款名为IdeaLens的新工具另辟蹊径解决该问题,它不再聚焦文本措辞本身,转而通过核查背后的核心创意来识别AI生成的研究内容。这款工具由马里兰大学、谷歌DeepMind与西蒙弗雷泽大学的研究团队开发,用于核验文档的核心论点源自人类还是机器,不受最终文稿撰写者身份的影响。
IdeaLens的检测原理
据相关研究论文介绍,团队使用约100万份已标注为AI撰写或人类撰写的文档完成模型训练,通过语言模型剥离原始文本的措辞表达,将每篇文档简化为核心论点的极简大纲,让系统完全从创意维度而非写作风格维度完成学习。在纯AI或纯人类撰写的文档测试中,IdeaLens对AI生成内容的识别准确率达91%,对人类撰写内容的误判率仅为0.6%,不过该表现仍不及Pangram等成熟检测器。
在仅经过少量AI编辑的文稿测试中,IdeaLens能将95%的人类原创文档正确判定为人类创作,而Pangram的平均准确率仅为44%。
混合创意场景下的表现
在人类与AI创意混合的场景中,测试结果呈现出明显差异:当AI基于人类提供的详细大纲生成全文时,Pangram这类传统检测器能识别出92%的AI参与痕迹,但IdeaLens仅标记出7%,因为核心创意本身来自人类。反过来,当人类基于AI生成的大纲手动撰写全文时,IdeaLens能识别出68%的AI创意影响,而Pangram的识别率仅为8%。
研究团队发现,人类原创的创意通常包含更多具体细节、可溯源的引用来源,也会主动说明内容存在的局限性;而AI生成的创意往往细节泛化、数据无法核验、结论过于绝对,还会出现近乎完美得不符合常理的回答。
不过这款AI检测器目前还无法完全用于判定著作权纠纷,它对部分最新的AI模型仍存在识别短板,团队表示还需开展更多测试,之后才能在学术期刊、课堂等场景大范围落地使用。