Llama 3.3

概述

Llama 3.3 是 Meta 开发的最先进的 70B 参数多语言大语言模型（LLM）。它是一个预训练并经过指令调优的生成式模型，专为文本输入/文本输出任务设计。该模型针对多语言对话用例进行了优化，在常见行业基准测试中优于许多开源和闭源聊天模型。Llama 3.3 70B 的性能与 Llama 3.1 405B 模型相当，尽管参数数量少了近六倍。它支持以下语言：英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语。该模型可通过 Ollama（一个运行本地 AI 模型的平台）获取，并可通过单个命令下载和运行：ollama run llama3.3。Ollama 库列出模型大小为 43GB，上下文窗口为 128K，截至来源日期下载量已超过 400 万次。

能力

Llama 3.3 是一个纯文本模型，针对多语言对话和指令遵循进行了优化。主要能力包括：

• 多语言支持：英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语。
• 大上下文窗口：128K 个 token，能够处理长文档或扩展对话。
• 指令调优：模型经过微调以遵循指令并参与有用、安全的对话。
• 性能：在基准测试中与 Llama 3.1 405B 相当，使其成为同类规模中最强大的开放权重模型之一。
• 本地部署：通过 Ollama 在具有足够 RAM/VRAM（43GB 模型大小）的消费级硬件上运行，支持 GPU 加速。
• 集成：与各种应用程序兼容，如 Claude Code、Codex App、OpenClaw、Hermes Agent、Codex 和 OpenCode，如 Ollama 页面所列。

用例

Llama 3.3 适用于广泛的自然语言处理任务，包括：

• 聊天机器人和虚拟助手：为需要多语言支持和长上下文理解的对话代理提供动力。
• 内容生成：用多种语言撰写文章、摘要、电子邮件和创意文本。
• 代码生成和辅助：与 Codex 和 OpenCode 等编码工具集成，用于代码补全、调试和解释。
• 文档分析：处理长文档（最多 128K token）以进行摘要、问答和信息提取。
• 教育和研究：辅助辅导、语言学习和研究论文分析。
• 企业应用：客户支持、知识管理和内部工具，其中数据隐私很重要（本地部署）。

许可与部署

Llama 3.3 根据 Meta Llama 3.3 社区许可发布，允许在遵守许可条款的前提下用于商业和研究目的的使用、复制、分发和修改。该许可包括可接受使用政策并要求注明出处。该模型可通过 Ollama (https://ollama.com/library/llama3.3) 下载，并可在安装了 Ollama 的 Linux、macOS 和 Windows 系统上本地运行。部署需要约 43GB 的存储空间用于模型权重，以及具有足够 RAM/VRAM 的系统（例如，CPU 推理需要 48GB+ RAM，或 GPU 推理需要 24GB+ VRAM 的 GPU）。该模型支持 128K 上下文窗口，对于长序列可能需要额外内存。Ollama 提供了一个简单的 API，可使用 cURL、Python 或 JavaScript 与应用程序集成。

替代方案

Llama 3.3 的替代方案包括：

• Llama 3.1 405B：Llama 3.3 性能匹配的更大模型，但需要显著更多的资源（超过 200GB 存储）。
• Llama 3.1 70B：前代模型，也是 70B 参数，但性能略低。
• Mistral Large 2：123B 参数模型，具有强大的多语言能力。
• Qwen 2.5 72B：类似规模且支持多语言的开放权重模型。
• Gemma 2 27B：Google 的较小模型，更易部署但能力较弱。
• GPT-4o：专有模型，功能更广泛，但需要 API 访问和互联网。

常见问题

问：Llama 3.3 和 Llama 3.1 有什么区别？ 答：Llama 3.3 是一个更新的 70B 模型，性能与 Llama 3.1 405B 相当，而 Llama 3.1 70B 是上一代产品。Llama 3.3 更高效，基准测试得分更高。

问：我可以在笔记本电脑上运行 Llama 3.3 吗？ 答：这取决于您的硬件。该模型需要 43GB 存储空间和至少 48GB RAM 用于 CPU 推理。对于 GPU 推理，建议使用 24GB+ VRAM 的 GPU（例如 NVIDIA RTX 4090）。Ollama 支持量化以减少内存使用。

问：Llama 3.3 可以免费使用吗？ 答：是的，该模型是开放权重的，可根据 Meta Llama 3.3 社区许可免费下载和使用，允许商业使用。

问：Llama 3.3 支持哪些语言？ 答：英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语。

问：如何开始使用？ 答：从 https://ollama.com 安装 Ollama，然后在终端中运行 ollama run llama3.3。有关 API 用法，请参阅 Ollama 文档。

问：Llama 3.3 支持多模态输入吗？ 答：不支持，Llama 3.3 是纯文本模型。它不处理图像或音频。

问：上下文窗口大小是多少？ 答：128K token，允许处理非常长的文档或对话。

问：有什么安全考虑吗？ 答：与所有大语言模型一样，Llama 3.3 可能生成有偏见或有害的内容。Meta 已实施安全措施，但用户应在生产环境中应用额外的安全措施。