如何使AI“看到” AI?这项研究提供了答案
栏目:企业动态 发布时间:2025-08-26 09:11
尽管大型模型逐渐成为教育和工作生产力的必要工具,但与之相关的问题变得更加突出。 AI经常“认真...
关注公众号:人民网财经尽管大型模型逐渐成为教育和工作生产力的必要工具,但与之相关的问题变得更加突出。 AI通常是“严重的胡说八道”来产生看似合理的信息。有些人使用AI工具来撰写课程甚至毕业论文,这极大地影响了学术和规范的诚信; AI生成的内容的效率和逻辑越来越强大,对于人类认可的效率越来越强,但是需要提高AI速率检测系统,并且论文错误论文的问题发生在时间内……如何准确识别AI生成的AI生成的内容已成为紧迫的问题。 媒体计算机科学学院和南卡大学技术学院媒体计算实验室获得的研究的最新结果可以为这些问题提供可能的解决方案。这项成就是创新的,暗示了一种直接的定制研究方法(DDL),该方法向我们教授AIe“火眼”以识别不同的计算机并在AI发现的性能中取得了巨大成功。这些论文的相关论文被ACM MM 2025(第33届ACM国际多媒体会议)接受。 当前,发现AI生成的内容有两种主要途径。一种是一种基于培训的检测方法,该方法使用特定数据来培训专用分类模型。其他是零样本的发现方法,它直接使用预训练的语言模型,并设计特定的分类标准进行分类。许多研究表明,在现实生活中,现有的帕普斯发现面临困难。 为什么现有的AI检测工具“误解”? “如果发现AI文本被视为考试,那么现有的发现方法就像是机械问题的固定工作,死记计在答案的纪念物中。南卡大学计算机科学学院的计算机科学卓越课程的研究解释说:“为了实现一般发现,理论上有必要从所有大型培训中收集数据,但是现在几乎是不可能的,当大型模型迅速时。” 让探测“学习一个”并提高该将军的性能是增强AI文本检测功能的关键。结果,研究团队采用了不同的方法,并建议了DDL程序,以直接优化模型预测的文本条件与人工设置设定的目标价值之间的可能性之间的差距,从而帮助该模型了解AI文本检测的自然知识。该方法可以准确捕获人机文本之间的深层语义多样性,从而大大提高了探测器的一般能力和稳定性的能力。 “使用DDL训练的探测器就像拥有'火'眼睛'。尽管他们“唯一”学习了“ DeepSeek-R1文本,但他们可以准确地识别出GPT-5(例如GPT-5)产生的内容,” Fu Jiachen说。 该团队还建议进行全面的Mirage基准测试,该测试使用13个主流商业模型和4个高级开源模型,以生成近100,000对“人类AI”文本。 “ Mirage目前是唯一关注商业大语言模型发现的基准数据。如果先前的基准数据是从具有较小和简单技能的大型模型中获得的,则Mirage17强大的大型模型设置了问题,以提出一组贫穷和测试论文的代表。”南卡大学计算机科学学院的副教授说。 Mirage的测试结果表明,现有检测器的准确性已从90%到简单数据集降至约60%。虽然接受DDL训练的探测器仍然保持超过85%的精度。与检测相比由斯坦福大学提出的文本开发的N AI指定工具,使用DDL方法训练的检测器的性能高71.62%。与双筒望远镜相比,这是一种确定马里兰州大学,卡内基·梅隆大学(Carnegie Mellon University)等联合建议的AI-文本文本的方式,表现为68.03%。 “ AIGC每天都在开发。我们将继续重复和升级基准和考试技术,并尝试实现更快,更准确,更低的成本,以发现AI生成的文本。” Li Chongyi,研究团队负责人,南卡大学计算机科学学院教授。 (编辑:Luo Zhizhi,Li Nanhua) 遵循官方帐户:太阳日财务 分享让许多人看到