在 AWS GovCloud (US) 的 Amazon Bedrock 上运行 NVIDIA Nemotron 和 OpenAI GPT OSS 模型

摘要

AWS 通过在 AWS GovCloud (US) 区域引入对美国主要前沿开源权重模型的支持，扩展了其 Amazon Bedrock 的功能。此次更新将 NVIDIA Nemotron 和 OpenAI 的 GPT OSS 模型引入了安全且合规的 GovCloud 环境。新支持的阵容包括 OpenAI 的 GPT OSS 120B 和 20B，以及一系列全面的 NVIDIA Nemotron 模型，从轻量级的 Nano 9B v2 和 Nano 12B v2 到较大的 Nano 30B 和 Super 120B 变体。这一集成使企业和政府实体能够在保持严格数据主权要求的同时，利用强大的开源权重架构。

为什么这很重要

将这些模型纳入 AWS GovCloud 满足了国防、医疗保健和联邦政府等高度监管领域组织的迫切需求。历史上，访问最新的前沿模型通常需要将数据移出安全的政府边界，或者依赖可能不符合特定合规标准的专有封闭源 API。通过将 NVIDIA Nemotron 和 OpenAI GPT OSS 带入 GovCloud，AWS 使用户能够在不违反数据驻留政策的情况下利用最先进的开源权重技术。此举为之前因安全限制而选择有限的实体普及了高性能 AI 基础设施的访问权限。此外，提供从纳米级到超级级的各种模型尺寸，允许根据安全云环境中特定的延迟、成本和性能需求制定灵活的部署策略。

相关工具

• Amazon Bedrock
• NVIDIA Nemotron 模型
• OpenAI GPT OSS

对 AI 工具/模型的影响

此次扩展对美国企业 AI 部署格局产生了重大影响。对于在 GovCloud 中工作的开发人员和数据科学家而言，NVIDIA 和 OpenAI 开源权重的可用性提供了更多的选择和互操作性。Nemotron 模型的多样化尺寸，特别是 Nano 系列，为云内的类边缘场景提供了高效的推理选项，而 Super 120B 则为复杂的推理任务提供了强大的能力。同样，OpenAI 的 GPT OSS 模型将其著名的语言理解能力带入了 GovCloud 生态系统。这减少了供应商锁定方面的担忧，并通过允许团队在同一个安全伞下尝试不同的模型架构来鼓励创新。这也为其他云提供商树立了先例，即通过多样化的高质量开源权重模型来增强其政府特定的服务。

值得关注

随着 AWS 不断完善其 GovCloud 服务，利益相关者应密切关注这些新模型的定价层级和服务等级协议 (SLA) 的更新。此外，跟踪社区对 Nemotron 和 GPT OSS 在 GovCloud 环境中的采用情况以及基准测试结果，将有助于了解它们与标准 AWS 区域相比的实际性能。对于那些对更广泛的 AI 趋势和工具比较感兴趣的人，探索最新的 AI 新闻 可以提供背景信息，了解这一整合如何适应行业向开源权重模型的更大转变。希望将这些新增内容与现有服务进行比较的用户可能会发现，查看当前的 排名 对云 AI 提供商很有价值。最后，通过 ToolSeekAI 工具 关注新版本发布，确保您不会错过 Bedrock 或相关推理引擎的后续增强功能。

常见问题解答

问：在 GovCloud 中使用这些模型是否有任何限制？ 答：这些模型受 AWS GovCloud (US) 的标准合规和安全协议约束。根据所选的服务层级，可能会有具体的使用限制。

问：这对现有的 Bedrock 用户有什么影响？ 答：现有用户现在可以在 GovCloud 区域访问这些额外的开源权重模型，从而在不迁移到其他区域的情况下，为其合规 AI 开发扩展工具箱。

问：这些模型支持微调吗？ 答：虽然博客文章重点介绍了推理选项，但用户应查阅官方文档，以获取 GovCloud 中每个模型变体的微调能力的具体细节。