查看原文
其他

大学生在线“打假”,火速开发了一款拆穿 AI 的神器!

CSDN 2023-01-11

整理 | 屠敏
出品 | CSDN(ID:CSDNnews)

ChatGPT 的爆火,几家欢喜几家愁。

喜的是,它的确为各行各业带来了极大的便利;愁的是,它的滥用,在学术界影响尤为恶劣,以至于当代大学也看不下去了,甚至在新年交替之际,直接动手开发了一款可以识别文本是否来自 AI 的神器。截至目前,引发了 715.6 万人的围观。


引发争议的生成式 AI


毋庸置疑的是,ChatGPT 是生成式 AI 成功的代表产品之一。虽然当前,其还处于测试阶段,但是过去一个多月中,无数人的尝试与使用已经证明了 ChatGPT 的到来让 AI 落地发展往前迈进了一大步。无论是对写代码,还是更多 AIGC 的实践都有很大的帮助。

然而,正如文章伊始所述,随之而来的还有业界对其广泛滥用的负面担忧,譬如不久之前一位大学教授抓到了一个用 ChatGPT 写论文的作弊者;StackOverFlow 充斥着大量没有来源的 AI 答案;在众多艺术家付出心血的美国科罗拉多州博览会的艺术比赛中,一幅出自 AI 之手的《太空歌剧院》竟然轻松地摘得了桂冠,这让人类艺术家情何以堪......

如果 AI 被无限制地滥用,那么艺术家创作的热情、学生潜心专注于研究的耐心,或将都会被 AI 磨灭。

正因此,AI 生成式的作品,接连收到了业界的“封杀令”,其中包括 StackOverFlow纽约市教育部相继宣布禁用 ChatGPT。

与此同时,国内也开始行动。国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》(以下简称《规定》),自 2023 年 1 月 10 日起施行。《规定》指出,将人脸替换、合成人声、图像生成在内的各种 AI 应用,纳入到监管范围内。

当然,ChatGPT 背后的开发商 OpenAI 以及其他 AI 产品制造商也深刻意识到了这一点,不久前,OpenAI 的客座研究员 Scott Aaronson 对外透露,OpenAI 正在潜心研发一种“为 AI 加水印”的方法,来帮助众人识别哪些东西是人类自己完成的,哪些东西是 AI 生成的。

不过,比官方更快一步的是,一位来自普林斯顿大学计算机科学专业的学生 Edward Tian 于 1 月 3 日在推特上宣布,「利用新年的时间构建了一款可以快速有效地检测一篇文章是 ChatGPT 还是人工撰写的应用程序——GPTZero(https://gptzero.substack.com/)」。


GPTZero,可识别是人还是 AI?


当前,GPTZero 应用程序主要检测的对象仅是文本,还不能用于检测图像等 AI 生成的其他形式内容。

它的界面窗口和 ChatGPT 的窗口有些类似,都是简单的 UI,只要将需要检测的文本内容复制到程序的窗口中即可。

Edward Tian 也在推特上分享了两个视频,比较了《The New Yorker》网站上的一篇文章和 ChatGPT 生成的一封信,最终,这款工具正确地识别出它们分别是由人类和 AI 撰写的。

以下这个视频是 Edward Tian 复制了《The New Yorker》网站上的一篇文章:

来源:https://twitter.com/edward_the6
最终结果显示:它是由人类撰写。

这是来自 @nandoodles 的 Linkedin 帖子的演示,该帖子使用 ChatGPT 成功回应了丹麦程序员 David Hansson 的意见:

来源:https://twitter.com/edward_the6

最终结果显示:它可能是由 AI 生成的内容。

这款工具主要是对文本书写方式的随机性和复杂性为指标进行检测,技术上称之为是 "困惑性和突发性"。

除了 Edward Tian 本人对 GPTZero 进行测试之外,也有不少网友用它对 ChatGPT、一些 GPT-3 衍生工具生成的内容进行了多次测试,最终结果显示,GPTZero 每次都能抓住人工智能生成的文本,并在十多个案例中正确识别了人类写的文本。

在 GPTZero 发布之后,受到了很多用户的欢迎,Edward Tian 称有超过 10,000 人在 Steamlit 上测试了 GPTZero 的公开版本(https://etedward-gptzero-main-zqgfwb.streamlit.app/),这也导致该网站“由于出乎意料的高网络流量”而崩溃。

Tian 也直言,意料不到会有这么多人对 GPTZero 感兴趣。而之所以开发这款工具,主要是因为看到越来越多的人工智能抄袭事件后,他才有动力去构建 GPTZero。

他说道,“你认为高校老师会希望学生使用 ChatGPT 来撰写他们的论文吗?可能不会。”

简而言之,网络上充斥着太多 ChatGPT 炒作的内容。这个和那个是人工智能撰写的吗?其实我们作为人类应该知道!

有些缺憾的事,目前还没有足够的数据来衡量 GPTZero 工具的准确性,当前开发者本人也正在努力地通过测试来发布一个数据。同时,Tian 称将会对 GPTZero 进行更多更新,包括“改进模型功能,并扩展应用程序。”

不过,这对于当代大学生仅通过一个假期而开发出来的产品而言,已然算是不错的成果。


网友:世界各地的学生看到都要哭了!


科技是把双刃刀。在带来便利的背后如何遏制住负面,来自 Voicebot 创始人 Bret Kinsella 评价道,“一些教育工作者有兴趣发现如何在学习过程中建设性地使用 ChatGPT 和其他 LLM。但是,现在的重点是如何抑制使用或抓住用户。我们应该期望这种关注会持续下去。探索如何将 LLM 融入教育需要花费时间和精力,但是很少有人愿意花费这些时间和精力。这可能会对学生造成伤害。”

因此,规范使用 ChatGPT,也需要 GPTZero 这类的工具进行约束,对此,不少网友也表示欢迎:

@aridutilh _:

“我有一种感觉,世界各地的老师很快就会使用它……对于使用 AI 写论文的学生来说,这并不算太神奇,哈哈!”

@ erstorts:

这是一位同事告诉我这款工具的。考虑到人工智能生成内容的兴起,我认为这是一个好主意。我期待更多的制造商创造出类似的产品,因为我们消费的内容越透明越好。

不过,也有人调侃道,“世界各地的学生看到这个应该要哭了吧!”

参考资料:

https://twitter.com/edward_the6

https://voicebot.ai/2023/01/04/deepfake-text-detector-tool-gptzero-spots-ai-writing/

《2022-2023 中国开发者大调查》重磅启动,欢迎扫描下方二维码,参与问卷调研,更有 iPad 等精美大礼等你拿!

蚂蚁集团强化与阿里隔离:马云不再是实际控制人;iPhone 15 Pro将独占6大功能;Linux 4.9正式EOL|极客头条
C++:在“替代”中迎来“转机”的 2022 年!
☞以防作弊,ChatGPT 遭教育部“拉黑”:师生禁用!

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存