CodeLlama 34B Instruct

Code Llama 34B Instruct 是 Meta Code Llama 代码模型家族中，340 亿参数、支持指令跟随的版本。根据其 Hugging Face 模型卡，Code Llama 在 2023 年 1 月至 7 月之间基于离线数据集训练，Instruct 版本旨在让代码助手与代码生成应用更安全。该家族见论文 Code Llama: Open Foundation Models for Code。这是较老的模型，Meta 更新的 Llama 世代在本站有各自词条。

核心功能

• 代码补全与填充：模型卡把代码补全、填充、指令跟随和对话列为该家族的能力。
• 三个变体：基础版 Code Llama 面向通用代码合成与理解，Code Llama - Python 专注 Python，Code Llama - Instruct 用于指令跟随和更安全的部署。
• 开放权重：在 Hugging Face 上以 Llama 2 社区许可证分发，需先向 Meta 提供联系信息。
• 规模：模型卡称该家族参数规模从 70 亿到 340 亿，其表格中也列出了 70B 的模型。

模型规格

模型卡没有给出上下文长度，也没有基准数字，而是请读者查看论文的第 3、4 节获取评测结果。

局限

Meta 表示测试仅限英语，模型在某些情况下可能产生不准确或不当的回答，英语以外语言的使用不在适用范围内。开发者应针对自己的应用做安全测试和调优。

适用场景

• 自托管的代码助手与代码生成实验。
• 代码模型的微调与研究。
• 对比开源代码模型时的基线。

快速开始

1. 在模型卡页面接受许可并提交信息。
2. 用 Hugging Face Transformers 以 bfloat16 加载，或使用量化版本，因为 34B 模型需要较大的显存。
3. 使用 Instruct 提示格式，并在部署前做自己的安全检查。

常见问题

Code Llama 34B Instruct 使用什么许可证？

根据模型卡，是 Llama 2 社区许可证。

Code Llama 是什么时候训练的？

根据模型卡，在 2023 年 1 月至 7 月之间。

Code Llama、Python 和 Instruct 有什么区别？

基础模型面向通用代码合成，Python 变体专注 Python，Instruct 变体能跟随指令并面向更安全的部署。

有更新的开放代码模型吗？

有。本站目录中较新的选择包括 Qwen2.5-Coder 32B Instruct 和通用的 Llama 3.1 70B Instruct。

替代方案

• Qwen2.5-Coder 32B Instruct：更新的开放编程模型。
• Llama 3.1 70B Instruct：Meta 之后推出的通用模型。
• DeepSeek Coder V2.5：另一个开放的编程选择。

总结

Code Llama 34B Instruct 曾是有影响力的开放代码模型，如今仍可作为基线或研究参考。新项目请阅读模型卡，并在模型分类中与更新的模型对比。