“AI 工厂”将推动软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户部署
在目前正在进行的黄仁勋台北电脑展 2024 主题演讲上,黄仁勋介绍生成式人工智能将推动软件全栈重塑,展示其 NIM(Nvidia Inference Microservices)云原生微服务。
6 月 2 日消息,在目前正在进行的黄仁勋 2024 台北电脑展主题演讲上,黄仁勋介绍生成式人工智能将推动软件全栈重塑,展示其 nim(nvidia inference microservices)云原生微服务。

英伟达认为“ai 工厂”将掀起一场新产业革命:以微软开创的软件行业为例,黄仁勋认为生成式人工智能将推动其全栈重塑。

为方便各种规模的企业部署 ai 服务,英伟达今年 3 月推出了 nim(nvidia inference microservices)云原生微服务。

nim 是一套经过优化的云原生微服务,旨在缩短上市时间,并简化生成式 ai 模型在云、数据中心和 gpu 加速工作站的任何位置的部署。它使用行业标准 api,抽象化 ai 模型开发和生产包装的复杂性,从而扩展开发者池。


代码网注意到,官方制作了一个 llama3 大模型的 nim 容器,现已上线英伟达官网,开放供全部用户下载并任意部署。


▲ 英伟达官网2024 台北国际电脑展专题
相关文章:
-
斯坦福 AI 团队,竟然曝出了抄袭事件,而且抄袭的还是中国国产的大模型成果 —— 模型结构和代码,几乎一模一样!跟任何抄袭事故一样……AI 圈内都惊呆了。…
-
AMD 计划今年四季度推出换装 HBM3E 内存的 MI325X,明年推出 CDNA4 架构的 MI350X,2026 年推出 MI400 系列。…
-
-
-
-
版权声明:本文内容由互联网用户贡献,该文观点仅代表作者本人。本站仅提供信息存储服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 2386932994@qq.com 举报,一经查实将立刻删除。
发表评论