行业洞见 | 每个语言都值得有一个大模型

《关于AI大模型的10个暴论（上）》引起不少朋友的关注和讨论，本来计划再凑齐5个发一个下篇，但竟然一个月没有update，被催更得不好意思了，还是一个个发吧～

《AI大模型暴论》有两个意思：一是篇章相对短小，适合发布思考片段，和朋友交流，加快学习迭代速度。二是一些观点可能会引起争议，冠以“暴论”之名，可以缓解发表观点的压力，哈哈，enjoy~

#06 每个语言都值得有一个大模型

出门问问李维老师在群里分享过一个有意思的观点：中文大模型是一个伪命题——过分强调语言会把模型带到岐路。两个原因：

1、大模型已经完全解决了跨语言的问题，巴别塔已经建成。作为语言模型，第一步已经解决了语言问题——大模型已经学到人类语言中更底层的世界镜像，目前进步的方向是逻辑推理、更复杂的任务处理能力，因此强调跨语言多语种没有意义。

2、全球高质量论文都用英文发表，英文占据全球高质量信息。中文数据本就良莠不齐，中文比例超过15%（暂不知道数据来源），只会拉低大模型能力。

结论：强调中文数据和中文测试集会把路带歪。

李老师的观点很有启发，不过我持相反的观点：在目前追赶GPT3.5和4的阶段，直接用英文数据、甚至GPT造的数据直接训练模型，确实是一个高效的选择，但长期看，中文大模型非常有必要，甚至生死攸关。

语言的底层是思维方式、文化、价值观。中文的汉字的字形、偏旁部首、发音都和国人思维和文化方式息息相关，当然也是一种价值观的承载。如果都换成英文表达，固然可以保留一部分，但肯定会丢失大量信息。

GPT3模型的训练数据，英文占92.6%，中文只占0.99%。这对中文、甚至其他语言都是一个危险的开端。如果英文进一步强化，其他语言和文化走向衰落，对全球语言和文化的多样生态，不是一个好的信号。

不同的模型、不同的世界观，有助于人类文化的多元和多样，保持一种权力分散和制衡。另外，观察大自然可以发现：复杂和多元的物种分布，往往意味着一个健康和欣欣向荣的生态。

语言大模型可能决定一种语言的兴衰，所有语言都值得开发一个自己语种的大模型。至于中文，如果我们希望保持、甚至提升中文的地位，应该加大中文大模型投入，至少加大中文数据投入。

从另外一个角度：巴别塔远未建成——对于硅基来说，所有的语言、甚至世间万物的模态，都可以映射到相同的向量空间，但对于人类而言，全球7000种语言的统一不只是一个时间问题，还是一个复杂的思维、文化和信仰问题。

最后，考虑到大模型的训练成本急剧下降，而人类语言的文本数据已经见顶，每个语言训练自己的大模型从成本上也是可行的。

-END-

声明：本公众号转载此文章是出于传播行业资讯、洞见之目的，如有侵犯到您的合法权益，请致信：[e-mail]，我们将及时调整处理。谢谢支持！

【语言服务行业】分享群

群内会定期推送语言服务行业最新动态、活动预告、竞赛通知📝等内容~

欢迎你的加入🥰！

-END-

本文转载自：David的AI全景图公众号

转载编辑：盼盼

关注我们，获取更多资讯！

往期回顾

行业动态1. 行业动态 | 语言服务行业最新学术论坛/会议汇总
2. 行业动态 | 中国翻译协会第39届中译法研讨会召开
3. 行业动态｜第二十届全国科技翻译研讨会成功召开4. 行业动态 | 2023年度国家社科基金中华学术外译项目申报公告5. 行业动态 | 上海翻译专业学位研究生教育年会暨长三角地区翻译人才培养圆桌论坛

行业洞见

行业技术

精品课程

资源干货

招聘就业1. 博硕星睿 | 办公室实习助理招聘（北京）
2. 博硕星睿 | 好的平台，“职”等你来3. 译者招募丨英译中，经济学（有署名）4. 招聘快报 | CNBC财经电视台上海分公司招聘发行部助理实习生5. CATTI备考在即，备考实习两不误，硬核语言专业线上实习机会来了！