Nemotron Labs：开放模型怎样为企业和国家带来可信任、控制和定制的人工智能

编者注：本文是 Nemotron Labs 博客系列的一部分，该系列博客探讨了最新的开放模型、数据集和训练技术如何帮助企业在 NVIDIA 平台上构建专门的 AI 系统和应用程序。每篇文章都强调了使用开放堆栈在生产中提供真正价值的实用方法——从透明的研究副驾驶到可扩展的人工智能智能体。

企业有大量强大的模型可供选择。真正的考验是企业构建的人工智能是否能够独特地满足业务需求：改进工作流程、利用领域知识以及超越准确性和信任标准。

人工智能的竞争优势越来越多地来自于组织如何利用可用模型进行构建，而不是他们选择哪种模型。

NVIDIA Nemotron 等开放模型专为定制而构建，帮助企业和国家构建可控、值得信赖并根据其需求量身定制的人工智能。

从使用人工智能到拥有智能

专业人工智能（例如自主智能体和应用程序）是使用定制的开放模型构建的。这些智能体旨在很好地完成定义的任务，因为所使用的模型是根据专有知识进行调整并根据实际业务成果进行评估的。

这需要访问模型本身。封闭模型推进了可能性，并继续推动通用智能的前沿，但也为企业可以检查、调整和改进的内容设定了上限。开放模型消除了这一障碍——提供完全的所有权和控制权。

最有效的智能体人工智能应用程序是模型系统，其中开放模型与领先的前沿模型一起工作，每个模型都完成其最擅长的工作。高性能推理模型可以处理复杂的规划，而较小的模型则执行专门的任务。这使企业能够调整推理成本，提高特定任务的准确性，并随着工作流程的发展保持灵活性。

定制企业值得信赖

开放模型为企业提供了封闭模型无法提供的东西：完全控制以根据业务需求定制、检查和改进人工智能。公共基准衡量一般能力，但特定于业务的评估让团队可以根据自己的数据、工作流程和准确性定义进行测试，然后从那里进行改进。

例如，对于医疗保健和法律等行业来说，错误答案的成本很高，这些行业的团队处理敏感数据并面临严格的准确性要求。这些部门的组织必须了解模型的训练方式、模型的执行情况以及必要时改进模型的能力。

通过开放模型，团队可以检查他们的应用程序，根据自己的标准运行私人评估，并建立适合自己工作流程的强化学习环境。不需要通过第三方路由其专有数据。

各行业的公司已经在各自的领域专门使用 Nemotron：

• Abridge 正在定制 Nemotron，以构建第一个专为临床对话而构建的基础模型。
• Glean 构建了 Waldo，这是一种智能体搜索模型，它将 Nemotron 与更大的封闭模型配对，以显着降低延迟并使用更少的令牌来提供企业搜索。
• H Company 通过在专有计算机使用数据上对 Nemotron 3 Nano Omni 进行后训练来构建 Holotron 3 Nano，在 OSWorld-Verified（计算机任务基准）上实现了高于 76% 的准确度，并以极低的成本与其他领先的前沿模型相匹配。
• Harvey 在其法律基准上对 Nemotron 3 Ultra 进行了后期训练，并达到了前沿级的准确性——在复杂的法律任务上与领先的封闭模型相匹配，而每次运行的成本至少降低了 10 倍。
• Heidi Health 正在临床文档中提供前沿质量的结果，而无需前沿规模的计算。
• 杨忠礼人工智能实验室针对马来西亚语言对 Nemotron 模型进行了后训练，将本地定制的人工智能交给马来西亚开发者社区，以进一步提升其人工智能能力。

微调环境和最佳运行成本

定制提高了准确性。当模型针对特定的线束或领域进行调整时，它们的运行效率也会更高。

除了智能体优化和治理之外，NVIDIA NeMo 开放库套件还可以加速模型定制和评估。

Prime Intellect 和 Unsloth 等合作伙伴已经在为在 Nemotron 上构建训练后管道的企业提供人工智能定制服务，从而使大规模运行专业人工智能变得可行。

LangChain 针对 Nemotron 3 Ultra 调整了深度智能体工具——调整提示、工具和中间件，无需重新训练模型——并在开放模型中实现了最高的智能体准确率，而每次运行的成本比领先的封闭替代方案低约 10 倍。

这些成本优势延伸到基础设施，以实现最佳的可扩展性。通过在 NVIDIA Blackwell 平台上对 Nemotron 进行后训练，Arcee AI 的推理成本约为每百万输出代币 90 美分，比同类封闭前沿模型便宜约 20 倍，同时在 PinchBench 上排名第二，并保持完全开放的权重。

节省成本可以实现更广泛的实验、更多的部署和更快的迭代。

建立在开放基础上的生态系统

从人工智能采用到人工智能所有权的转变正在进行中。 NVIDIA Nemotron 联盟正在帮助将开放模型开发转变为生态系统工作，将模型构建者和开发人员聚集在一起，通过共享数据、评估和领域专业知识来改进 Nemotron。此外，黑客马拉松提交和社区贡献会生成跨行业的可重复使用的证明资产。

建筑商正在将 Nemotron 添加到他们的人工智能系统中，证明价值并分享有效的方法。该基金会是完全开放的。

了解有关 NVIDIA Nemotron 开放模型的更多信息并尝试它们，请访问 build.nvidia.com。

• 人工智能
• Nemotron 实验室

相关新闻

为什么每瓦性能是人工智能基础设施效率的最终指标

NVIDIA 大规模解锁 AI 计算，邀请合作伙伴为 AI 基础设施建设提供支持

NVIDIA 的推理软件堆栈如何实现最低的代币成本

Claude 遇见 Blackwell Ultra：Anthropic 的模型现在在 Azure 中的 NVIDIA GB300 上运行