用ChatGPT写关于遥感的故事,被OpenAI自家鉴定器判定为“可能由AI生成”
同时,也有很多单位明确表示禁止使用AI写作,此时就有了一个问题:如何判定一篇文章是否为AI创作?
OpenAI 推出了文本AI鉴定器(https://platform.openai.com/ai-text-classifier)。虽然该工具对英文支持更好,但在这里我们也测试一下中文的使用效果。
这个工具将结果分为5个类别:
“非常不可能是 AI 生成”对应 <0.1 的分类器阈值 “不太可能是 AI 生成”对应 0.1 到 0.45 之间的分类器阈值 “不清楚是不是 AI 所写”对应0.45到0.9之间的分类器阈值 “可能是 AI 生成”对应于0.9 到 0.98 之间的分类器阈值 “很可能是 AI 生成”对应 >0.98 的分类器阈值
1、讲故事
首先,我们先用一个故事来测试,用ChatGPT写的故事:
还是挺有意思的,既有故事的趣味性,又体现了遥感和深度学习的特点,适合做科普。放入到鉴定器中:
可以看到,被识别成功:“很可能是AI生成“
2、说明介绍类
下面是两个说明、介绍类的文字。其中,关于深度学习的介绍被评为“可能是AI生成”, 关于Landsat的介绍则给出了不确定的结果。
(1)介绍深度学习的特点和发展历史
(2)介绍Landsat系列卫星
3、论文类
我们首先把人工写的论文手稿部分贴上:
对于人工写的论文,鉴别器认为“非常不可能是AI生成”。接着,输入ChatGPT生成的论文片段:
此时,鉴别器认为“可能是AI生成”
4、题外
除ChatGPT外,在OpenAI的平台上还有一些产品可以测试和探索,如Playground (https://platform.openai.com/playground)里面有GPT的一些早期版本和控制选项。
5、总结
可以看到,OpenAI推出的AI文本鉴别工具在一定程度上是有效果的,但有时也会给出模糊的结果。另外,目前该工具主要以英文鉴定为主,其他语言误差会偏大。
AI 在飞速发展中,其“创造“出的文字、声音、图像等很多达到了以假乱真的效果,因此鉴别起来也会存在困难。正如该平台所述”可以轻松编辑 AI 生成的文本以避开分类器。” 但相信在不久的将来,这一领域会有更加完善的行业规范。
荐读
复旦邱锡鹏团队发布类ChatGPT模型:MOSS开启测试冲上热搜,服务器挤爆
《慧天地》敬告
《慧天地》公众号聚焦国内外时空信息科技前沿、行业发展动态、跨界融合趋势,发现企业核心竞争力,传播测绘地理信息文化,为相关专业学子提供日常学习、考研就业一站式服务,打造政产学研金服用精准对接的平台。
《慧天地》借鉴《读者》办刊理念,把时空信息领域的精华内容汇聚到平台上。我们高度重视版权,对于精选的每一篇推文,都会在文章开头显著注明出处,以表达对作者和推文引用平台版权的充分尊重和感谢;对于来源于网络作者不明的作品,转载时如出现侵权,请后台留言,我们会及时删除。感谢大家一直以来对《慧天地》的关注和支持!
——《慧天地》运营团队
投稿、转载、商务等合作请联系
微信号:huitiandi321
邮箱:geomaticshtd@163.com