行业观察 | ChatGPT给学者们带来了怎样的担忧？

NLP的高速发展（ChatGPT）

    给学者们带来了怎样的担忧？

引言

    自然语言处理 (NLP) 是一种机器学习技术，使计算机能够解读、处理和理解人类语言。火山翻译所完成的机器翻译工作就离不开NLP的支持，因此，我们始终关注着NLP的发展动态。    作为自然语言处理技术（NLP）研究的另一个重要成果，聊天生成预训练转换器ChatGPT于2022年11月发布，上线5天后已有100万用户，上线两个月后已有上亿用户，截至目前依然在全网拥有相当高的讨论热度。    李开复曾经提过一个观点——思考不超过5秒的工作，在未来一定会被AI取代。现在来看，在某些领域，ChatGPT现在就已远远超过“思考5秒”这个标准了，并且，随着它的持续进化，ChatGPT以及NLP技术可能产生的潜力还会超越不少人的想象。
    不过，有正面的评价就有负面的担忧，在发布后的几个月里，ChatGPT遭到了来自不同领域学者们广泛而严厉的批评，他们从各自的学科角度出发对ChatGPT目前的不足和未来的使用风险做出了讨论，为我们普通人应该如何使用和看待ChatGPT带来了重要的指引作用。

Q

人工智能和软件

A

武汉大学人工智能研究所教授 蔡恒进：

    一个衡量标准是，人工智能会以何种速度和强大程度增长到超出我们想象。有些人认为它会缓慢增长，我们还有几十年甚至几百年的时间。但事实并非如此……我们只有几年的时间，因为我们（人工智能）的进步速度太快了。

华东师大软件工程学院党委副书记，教授，博士生导师 曹桂涛：

    人工智能可以扩展人类在处理事物复杂性方面的认知，而人类在处理事件不确定性方面提供更全面和直观的方法是人工智能无法超越的，通过两者的互补性可以将人类的直觉和整体思维与人工智能在收集和分析信息方面的超强性能结合起来。

Q

基础数学领域

A

德克萨斯大学教授 Paul von Hippel：

    ChatGPT可以肤浅地谈论数学，但它不能真正深入地“理解”数学。它不能纠正错误的数学概念，还经常会引入自己的错误概念，有时还会犯一些基本的电子表格或手动计算器不会犯的莫名其妙的数学错误。

    它像专家一样行事，有时还能令人信服地模仿专家。但它通常是一种胡扯艺术家，把真相、错误和捏造混在一起，听起来令人信服，除非你自己也有一些专业知识。

Q

文化创作

A

中国工程院院士、中国互联网协会原理事长 邬贺铨：

    ChatGPT的出现其实是人类科技进步，尤其是AI技术进步的一个体现。ChatGPT可以帮助人类做一些资料整理等基础工作，但是它不可能代替人类思考。它所写出的所谓诗歌小说，其实也都是在数据复制的基础上完成的，不可能具有人类的情感。

华东师大中文系副系主任，教授 汤拥华：

　 文学作为人工制品的主观创作意图仍然非常重要，也就是说，我们之所以要去读文学作品，不仅仅是因为要读情节和修辞，也是因为要与真实的人交流。我们可以为钱塘江潮水在沙滩上形成的花纹而惊叹，但不会觉得与任何人产生了共鸣。此处其实不是人工智能能否写出模仿人的情感的文字的问题，而是你会不会经常去读这些文字的问题。

    也许未来我们会听到这样的话: “最近我读了一本人工智能写的小说，那里面把中年男人的尴尬写得真生动真深刻啊！比那些作家写得好多了！”但至少现在，这还很难想象，不在于人工智能写得多好，而在于我们暂时还没有这样一种阅读趣味，这样一种情感交流的需要。

国务院发展研究中心社会和文化发展研究部原副巡视员、研究员 周宏春：

    ChatGPT不可避免地带来两个问题：一是科技伦理问题，二是收入分配不均问题。了解人工智能技术及其应用的最新进展，以利于理解人工智能的潜在益处和风险，努力确保它被公平公正使用，防止对社会产生潜在的负面影响等。

    ChatGPT会设置多层道德底线，兼顾科学和伦理，约束“经济人”行为，以保持“人尽其才、物尽其用”特性。随着人工智能技术的进步，很多工作和行业将受到影响。  

    ChatGPT在格式化、标准化、逻辑框架设计和非颠覆性事项上的价值毋庸置疑，将对具备相应功能施展的工作，如一些研究文章需要的文献综述、“应试教育”、“死记硬背”产生替代作用，进而会令很多八股写手、作业型导师和大纲式研究生导师、科层式管理人员、照本宣科人员的岗位安全感与岗位价值受到质疑。

Q

医学领域

A

中国工程院院士、国家基层糖尿病防治管理办公室主任 贾伟平：

    医学界一直关注人工智能的发展，在技术研究、临床诊断、手术治疗等方面都有人工智能的身影。如糖尿病会引起视网膜病变，在眼科医生奇缺的状况下，我们通过大样本的人群数据让人工智能深度学习，形成了带有反馈和自我调整的诊断技术，使得更多人在早期就能发现是否有糖尿病的眼部并发症。从全生命周期健康管理理念出发，贾伟平设想，新一代人工智能或可进化为个体化的健康管家，将来医生开处方不一定开药品，而是根据患者状况开不同特质的人工智能或是智慧医疗产品，这种‘数字治疗’产品可以适时提醒患者注意健康饮食、适当运动。

浙江大学医学院附属第一医院精神卫生科医生 吕海龙：

    为了验证ChatGPT是否能代替医生问诊，让ChatGPT做一套由中国执业医师考试卷的题目组成的试卷，满分100分，最终ChatGPT的成绩却是57分不及格。

中国工程院院士、国家肝癌科学中心主任 王红阳：

    相比抢“饭碗”，我更担心滥用人工智能带来的失范。有人直接用它写论文，有人靠它提供的数据开展研究，类似负向作用需要各方关注，也需要政策去管控。医学是一门非常严肃的学科，且有不少伦理上的约束，使用ChatGPT等新技术、新工具，需要引导和规范。

-END-

本文转载自：火山翻译公众号

转载编辑：Amelia

关注我们，获取更多资讯！

往期回顾

行业动向1. 行业动态 | 全国翻译专业教指委2023年第一次主任委员会议在京召开
2. 行业资讯丨2023年度国家社会科学基金项目申报公告正式发布！
3. 行业动态 | 未来已来：翻译技术主题论坛圆满举办4. 行业资讯 | 高校学科专业改革方案来了！
5. 行业资讯｜2023中国翻译协会年会翻译行业发展趋势研讨会在京举行
行业洞见

行业技术

精品课程

资源干货

招聘就业1. 招聘快报 | 博硕星睿·翻译技术教育研究院招聘实习生
2. 招聘快报 | 韩语、葡语口译招募3. 就业干货 | 理工科也能做翻译吗？4. 不知道去哪找优质实习？硬核语言专业线上实习机会来了！5. 实习资讯 | 疫情阻隔优质实习？硬核语言专业线上实习机会来了！