荐读｜ChatGPT 爆火，这些伦理问题值得关注！

请点击👇下方卡片关注“庖丁解news”，

并“星标★”小牛哦！

本期荐读文章是令小雄、王鼎民、袁健撰写的《ChatGPT爆火后关于科技伦理及学术伦理的冷思考》，原载于《新疆师范大学学报》(哲学社会科学版)2023年第4期，具体内容以正刊为准。

编者按

3月15日，OpenAI发布了多模态预训练模型GPT-4，是为ChatGPT的更迭升级版。3月16号，百度公司紧随其后，举行了旗下语言模型、生成式AI产品“文心一言”的发布会。

自去年年末ChatGPT横空出世以来，月活用户已破亿，服务器甚至一度火到瘫痪宕机，ChatGPT也成为了人类科技史上用户增长最快的AI应用程序。

在不少人暗喜能够借助强大人工智能帮助自己完成翻译、脚本撰写、文书润色、bug修复等一系列工作之时，也有不少人一度陷入忧虑之中，他们认为自己的职业或将被机器所取代。

一时间，“ChatGPT能否取代人类工作”“ChatGPT不够智能”等话题也频频冲上热搜。

本期，小牛荐读《ChatGPT爆火后关于科技伦理及学术伦理的冷思考》一文。在这篇文章中，作者对ChatGPT进行了辩证分析。

作者认为，虽然ChatGPT具有一定“人化”特质，被称为“互联网嘴替”也算得上名副其实，但机器毕竟不是人类，它并不具备人类所拥有的思考能力以及道德伦理价值。也正因如此，ChatGPT在何种科技伦理规范中，能提升未来人工智能趋利避害的可能性才真正值得人们关注。

通俗来说，若是不对ChatGPT进行海量的语料“喂养”或“调教”，那么它也根本算不上智能。但若是训练语料或是数据存在问题，那么ChatGPT所作出的回答很有可能会对青少年或心智不够健全者产生负面影响。

因此，作者强调，对于ChatGPT在“语言污染”或数据偏差中可能因为语料投放过程中没有过滤而存在偏见和道德伦理不准确的信息要始终保持谨慎态度。

不可否认，虽然ChatGPT对教育行业乃至其他行业都有着巨大的影响，但只有通过平衡技术所带来的利弊，以及意识到道德伦理的重要性，才能确保以ChatGPT为代表的人工智能技术对人类生活的影响是正向且积极的。

针对学术伦理上ChatGPT所带来的“道德判断”“数据泄漏”“考试作弊与学术抄袭”“作者署名权之争”等问题，作者从全面性、可靠性、严谨性、深刻性、原创性等五个方面进行了分析，并为之提供了应对之策。

一、针对道德判断问题

作者提出，要在成本可控范围内提升训练数据的质量及模型量级的更新迭代，强化对特定领域专业问题的理解，加强内部规约。

不仅如此，还要强化用户个人的信息甄别能力，在社会层面完善相关法律法规，从而加强外部规约。

二、针对数据泄漏问题

数据泄露问题与道德判断问题相同，必须从源头上加强内部规约，要对任何已知的偏差保持透明。

社会层面更要大力推动数据保护、隐私保密等相关法律法规的不断完善；还要通过宣传与培训使用户认识并理解人工智能技术的局限性，提升用户数字素养。

同时，也要加强开源人工智能技术的开发和实施，将有助于开发更具先进性、公正性和透明性的人工智能技术。

三、针对考试作弊抄袭等问题

作者认为，回归传统线下监考制度是一项积极的应对措施。同时更要加强学术审核和学术不端行为问责机制以及规章的进一步完善。

且更应不断加强对学术素养和学术诚信的重视，并在各级教育体系中强化学术伦理养成教育。

四、针对作者署名权之争问题

从拟主体意义层面看，ChatGPT无法为自己的行为负责，因此，ChatGPT“不具有作者署名权”。

英国科研诚信办公室Matt Hodgkinson表示，已经对作者署名作出明确规定，ChatGPT不被视为合著者。

总的来说，这篇文章不仅能够帮助我们深刻认识以ChatGPT为代表的新一轮人工智能技术之本质，且对于如何塑造一个更加美好的智能未来图景具有启示意义。

语句摘录

ChatGPT是一个需要无限吞噬数据或投放语料库的“科技怪胎”，其成长需要“数据喂养”或投放资源在不断促进完善的语料库中被“调教”或规训，并通过消化大量现有生成文本学习执行对话任务。

ChatGPT在回答问题时常说“我是”，但这个“我”是数字空间的“自我”，是自身没有情感认知或人格的“数字化身份”，“我”只是一个语料库中的“代码”，ChatGPT没有完整意义上的“自我”，更不具有“耻感”意识。

ChatGPT在相对表层的固定性文本层面或非专业领域能够为有需求的人提供便捷帮助，但教育界及研究者在充满创新、需要创造力的领域不应陷入对“技术智能的盲目崇拜”中。

参考来源：

[1]令小雄,王鼎民,袁健.ChatGPT爆火后关于科技伦理及学术伦理的冷思考[J/OL].新疆师范大学学报(哲学社会科学版):1-14[2023-03-20].

图片来源：

https://www.hippopx.com/zh

编辑：谭琦

责编：魏园

▼
推荐阅读贾樟柯朋友圈50次“吆喝”！新闻职业精神“不止不休”！


大兴调研之风，是对记者永不过时的要求！