查看原文
其他

Code Llama AI 代码生成

renee创业狗 Renee 创业随笔
2024-10-09

Facebook 的 Code Llama 建立在 Llama 2 基础上经过 Fine-Tune,专门用于生成和讨论代码。研究和商业用途都是免费的。:)

不看广告看疗效(分值越高效果越好):

之前提出 Code Llama 是 Llama 2 的代码专用版本,支持所有主流的编程语言,包括 Python、C++、Java、PHP、Typescript (Javascript)、C#、Bash 等等。

用了 500B Token 的代码和代码相关数据训练的,有3个子模型和2个分支:

  • 7B模型可以在单个GPU上运行
  • 13B模型速度更快,更适合需要低延迟的任务,如实时代码补全
  • 34B模型返回最好的结果,并允许更好的编码辅助
  • Code Llama - Python 在1000亿个 Python 代码标记上进行了进一步的微调。
  • Code Llama - Instruct 是一个经过指令微调和对齐的变体。指令调整继续训练过程,但目标不同。该模型接收自然语言指令输入和预期输出。这使得它更擅长理解人们对他们的提示的期望,以在自然语言中生成有用和安全的答案。

修改于
继续滑动看下一个
Renee 创业随笔
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存