ChatGPT狂飙背后的危与机｜邱锡鹏、严锋、张诚、沈李斌圆桌对话
“倒逼我们对真实有更多的关注和追求。”
“一定要让它对齐人类的价值观。”
“如果没有了入门职位，人们通过何种途径成长起来呢？”
“让它停一下，谨慎一些，并不是不可以。”
4月1日，复旦科创先锋论坛在复旦管院李达三楼2楼报告厅举行，“Beyond ChatGPT：大型语言模型引发的时代变革”这一主题引起了师生、校友们极大的关注，现场一票难求。
邱锡鹏、严锋、张诚三位教授与复旦科创企业家营校友沈李斌围绕“ChatGPT狂飙背后的危与机”展开对谈。
ChatGPT对行业及社会发展有哪些影响
我们的工作会被替代吗
机器与人如何和谐相处
如何打造中国的AGI生态
……
MOSS开源，建立生态
邱锡鹏 复旦大学计算机科学技术学院教授、博士生导师，MOSS系统负责人
有了MOSS之后，底层的重复性的工作就不要做了。
“目前ChatGPT的表现类似于通才，但是它可能在细分的专业性上和行业中比较顶级的专家有很大的差距。它之所以让大家觉得很厉害，就是因为它的通用性。”邱锡鹏教授认为，类ChatGPT的大型语言模型，在语言层面非常擅长，通用能力非常强。而在专业性上，“它将来会有不同的分支，往不同的专业方向上发展。”
邱锡鹏教授指出，ChatGPT的能力还在不断进化，例如，通过不断交互，它大概能写100多页的科幻小说；它计算机编程的能力也非常强，可以替代比较底层的编程工作。但“对于很高级的，或者创新性、整合性非常强的任务，还是离不开人的。”
“我的一个总体观点是，AI可以替代一部分的工作，但它永远替代不了那些会用AI的人的工作。人有适应性、灵活性，人类更擅长的是利用AI的能力把工作做到更好。此外要有一个综合的思考、判断，这非常重要。”他还谈到，人类的学习方式和机器学习的方式相比有天然劣势，人类学习的速度很慢，机器迭代起来则非常快，并且是不知疲惫地在学。“如果我们想要快速发展，就要积极拥抱这些新的技术，要利用它促使我们学习，让我们的学习速度，或者说成长速度变得更快。”
“当一个社会或者一个世界变得非常复杂的时候，人的理解能力其实是有限的，这时候机器就可以通过大量的数据找到一些关联。这曾经也引发第四范式，我们很多时候不需要追寻原有的科学假设，相关可能就够了。从我们现在的角度讲，以后的人工智能或者开发人工智能的各种产品，一定要让它对齐到我们人类的价值观，将来才能使人和机器比较和谐地共处。”
关于MOSS，邱锡鹏教授说“还是想以开源的形式去做”，“我们希望能促进国内这一领域的生态，有了MOSS之后，底层的重复性的工作就不要做了。如果我们有一个统一的语言、统一的基座，下面对接国产的算力，做好一份接口，大家都可以来用，能够去促进一个生态链的建设，使得整个中国的人工智能能够往前进一步发展。”
替代你的不是AI，是善用AI的人
沈李斌 上海乐言科技股份有限公司创始人兼CEO，复旦科创企业家营校友
善用创造性能力的企业，肯定在进阶优势上比其他公司要强。
客服机器人是沈李斌校友公司的主营产品之一，“每天线上接待千万级的人，大家在电商平台上，不会感知到是机器人在服务他。”沈李斌说，“我们更多是关注怎么把人工智能技术产业化，去替代掉原有工作中简单重复的部分。客服机器人已经替代百分之七八十的人工，人可以做一些更积极主动的工作，而不是回答简单枯燥的问题。”
基于自己之前在机器翻译领域的经验，他认为ChatGPT的技术是革命性的。“原先以为需要很多知识积累的，包括教师、金融从业者、大量脑力工作者，其实很大一部分重复性的工作，机器完全有能力替代，“原先受技术的限制，部分领域才能看到人工被替代，慢慢地，更多行业会看到这种替代。”一些入门职位可能因为AI的到来而消失，沈李斌表现出了担忧：“我们现在这些资深的专业人士，都是从入门成长起来的，如果没有这些入门职位，人们通过何种途径能够成长起来呢？”
那么，AI生成技术对企业的发展又会带来怎样的影响呢？沈李斌说，“替代你的不是AI，是善用AI的人。对人是这样，对企业也是这样。”在他的公司里，所有部门都去看怎么用类似生成技术提高生产效率，在各种流程上怎么去用AI。“能够善用这些创造性能力的企业，肯定在进阶优势上比其他公司要强，这是一个比较大的结构性的机会。”他进一步指出，“生成式能力产生之后，生产力大大提升，很多企业与企业之间的上下游关系会发生变化，这也是结构性的机会。”
在谈到人工智能技术在大规模的商业化的进程中，如何通过机制确保技术不被滥用时，沈李斌建议：政府监管需要考虑怎么让技术变成“符合社会价值观的，体现社会公平性的可信、可依赖的AI”；鼓励企业先用起来，并多做一些分享，“生成式AI三要素中，数据是比较关键的因素，像MOSS是不是可以考虑做产线结合，吸引工业界加入，让MOSS成长得更快。”
ChatGPT对我们的倒逼
严锋 复旦大学中文系教授、博士生导师
成为更积极的提问者。
“去年12月我就用ChatGPT了，刚开始挺失望的。我让它根据刘慈欣科幻小说《三体》的设定，写一个ChatGPT版的三体。它还真写出来一个梗概，初看头头是道，也可以说很理性，但缺少艺术性和独特性，也缺少一种打动人的力量。”
严锋教授认为，ChatGPT不是曹雪芹也不是刘慈欣，但可以是一个平庸的小说家。ChatGPT在搜索、提炼方面效率很高，至少可以成为一个很好的头脑风暴工具，为作家提供各种素材、场景和点子。
ChatGPT的出现会不会取代一些人的工作？在他看来，一些传统的教师职能会被替代。所谓师者，传道授业解惑也。ChatGPT的解惑能力已经相当强了。当学生有疑问时，教师的可信度是非常重要的。如果ChatGPT的回答有足够可信度，教师的这部分职能可能会被替代。这就需要教师重新学习和适应，再出发。
由此生发开去，严锋教授谈到了ChatGPT对人类的倒逼——
倒逼我们不要再生产学术垃圾。很多的知识和学问都是事实性的东西，完全可以把它们放在一个数据库里，需要用的时候再提取。比如一些人文社科论文，本身就是复制粘贴或有很多“水分”，“ChatGPT会不会倒逼我们，从低效重复的劳动中解放出来，从而更专注更有效地学习，也更富独创性。”
倒逼我们成为更积极的提问者。其实如何做一个好的提问者，这本来就是一项需要不断完善的传统技能。现在这个问题变得更迫切了。
倒逼我们成为更有情商的人。人类的优势和特长在哪里？我们怎么去扬长避短？这就需要我们更好地处理人与人、人与机器、人与环境的关系。
倒逼我们对真实有更多的关注和追求。ChatGPT是一把双刃剑，它可以鉴别真假，同时也能混淆真和假的界限，这就倒逼我们更需要做一个求真的人，一个实事求是的人，一个具有批判性思维的人。
工程暂时超越了科学
张诚 复旦管院信息管理与商业智能系教授、系主任、博士生导师
工程先行并不是坏事。
从文字到创意绘图，ChatGPT和其他生成式AI的出现，让人们对人类的教育和就业产生了危机感。张诚教授指出，目前“研究”这项工作很难被ChatGPT取代，“因为它读的是数据，如果我们的学术文献没有开放，它就无法获取这些信息。”那么人工智能是否可以轻而易举地替代人类的工作呢？张诚教授表示：“如果依赖人工智能替代某项工作的基本工作（如基本的中英翻译），人类可能缺少了学习和经验积累的过程，那么如何来完成更高要求的工作（比如翻译更复杂的文学作品），这对我们是个挑战。”
前不久，生命未来研究所（Future of Life Institute）公布一封公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。对此，张诚教授认为，从技术的角度来看，公开信的内容是可以理解的：“如果我们认为涌现出来的智能是的确存在的，我的判断是工程暂时超越了科学，即我们对AI是否涌现智能，或者涌现机制还不清楚。有些科学家认为这只不过是一个改进，更像产品创新，因为它可以跟人更好交流而已，而有些科学家认为这的确是可能涌现出了新的智能。在大家还没有完全认识它的时候，让它停一下，谨慎一些，并不是不可以。”
但他同时认为，工程先行并不是坏事：“如果是站在工具的角度，一方面这六个月还不够理解它背后的道理；另一方面，我们使用工具有相应的约束，倒不一定是要通过‘停止’来实现。”而从商业角度来看，张诚教授也提到，对某些企业在先进工具或技术的研发上已经取得了先发优势的情况下，这一举措不排除是商业竞争对手的策略。