codellama

概述

Code Llama 是 Meta AI 发布的一系列用于代码的大型语言模型。它基于 Llama 2，并在代码特定数据集上进行了微调。该模型有三种规模：7B、13B 和 34B 参数。每种规模有三种变体：基础模型（Code Llama）、Python 专用版本（Code Llama - Python）和指令跟随版本（Code Llama - Instruct）。7B 和 13B 模型还支持中间填充（FIM）功能，允许它们在提示中间插入代码。

Code Llama 设计为在消费级硬件上本地运行。7B 模型可以在单个 GPU 上运行，而 34B 模型需要更强大的硬件。该模型支持多种编程语言，包括 Python、C++、Java、PHP、TypeScript、C#、Bash 等。

能力

• 代码生成：根据自然语言描述生成代码。
• 代码补全：补全部分代码片段。
• 代码填充：在文件中间填充缺失的代码（FIM 模式）。
• 代码解释：用自然语言解释代码。
• 调试：帮助识别和修复错误。
• 文档生成：为代码生成文档。
• 多语言支持：支持多种流行编程语言。
• 指令跟随：指令变体可以遵循与代码相关的任务的指令。

用例

• 辅助编码：在 IDE 或终端中用作编码助手。
• 学习：帮助初学者理解代码和学习编程。
• 代码审查：分析代码中的潜在问题。
• 自动化：生成样板代码或脚本。
• 教育：创建编程练习和解释。
• 研究：实验代码生成和理解。

许可与部署

Code Llama 根据自定义商业许可发布，允许用于研究和商业目的。该许可要求任何使用该模型的行为必须遵守可接受的使用政策。该模型可以使用 Ollama 本地部署，Ollama 简化了在个人机器上运行 LLM 的过程。要使用 Ollama 运行 Code Llama，请使用命令 ollama run codellama。该模型也可以在 Hugging Face 上获取，并可与 Transformers 等其他框架一起使用。

替代品

• StarCoder：一个 15B 参数的代码训练模型，具有宽松的许可。
• CodeGen：Salesforce 的一系列代码生成模型。
• GPT-4：具有强大代码能力的专有模型。
• Claude：Anthropic 的具有代码理解能力的模型。
• CodeBERT：用于代码理解任务的模型。

常见问题

问：Code Llama 变体之间有什么区别？ 答：Code Llama 基础版用于通用代码任务，Code Llama - Python 专用于 Python，Code Llama - Instruct 针对指令跟随进行了微调。

问：我可以在我的笔记本电脑上运行 Code Llama 吗？ 答：可以，7B 模型可以在具有足够 RAM 和 GPU 的笔记本电脑上运行。34B 模型需要更多资源。

问：Code Llama 可以免费使用吗？ 答：可以，根据自定义许可，它可免费用于研究和商业用途。

问：如何使用 Ollama 运行 Code Llama？ 答：安装 Ollama 后，在终端中运行 ollama run codellama 即可。

问：Code Llama 支持哪些编程语言？ 答：它支持 Python、C++、Java、PHP、TypeScript、C#、Bash 等。

问：Code Llama 支持中间填充吗？ 答：是的，7B 和 13B 模型支持 FIM。

问：官方仓库在哪里？ 答：官方模型权重可在 Hugging Face 上获取：https://huggingface.co/codellama