当前位置: 代码网 > 科技>人工智能 > “AI 工厂”将推动软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户部署

“AI 工厂”将推动软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户部署

2024年06月03日 人工智能 我要评论
在目前正在进行的黄仁勋台北电脑展 2024 主题演讲上,黄仁勋介绍生成式人工智能将推动软件全栈重塑,展示其 NIM(Nvidia Inference Microservices)云原生微服务。

6 月 2 日消息,在目前正在进行的黄仁勋 2024 台北电脑展主题演讲上,黄仁勋介绍生成式人工智能将推动软件全栈重塑,展示其 nim(nvidia inference microservices)云原生微服务。

新产业革命

英伟达认为“ai 工厂”将掀起一场新产业革命:以微软开创的软件行业为例,黄仁勋认为生成式人工智能将推动其全栈重塑。

软件全栈重塑

为方便各种规模的企业部署 ai 服务,英伟达今年 3 月推出了 nim(nvidia inference microservices)云原生微服务。

nim 云原生微服务

nim 是一套经过优化的云原生微服务,旨在缩短上市时间,并简化生成式 ai 模型在云、数据中心和 gpu 加速工作站的任何位置的部署。它使用行业标准 api,抽象化 ai 模型开发和生产包装的复杂性,从而扩展开发者池。

代码网注意到,官方制作了一个 llama3 大模型的 nim 容器,现已上线英伟达官网开放供全部用户下载并任意部署。

英伟达官网

▲ 英伟达官网

2024 台北国际电脑展专题

(0)

相关文章:

版权声明:本文内容由互联网用户贡献,该文观点仅代表作者本人。本站仅提供信息存储服务,不拥有所有权,不承担相关法律责任。 如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 2386932994@qq.com 举报,一经查实将立刻删除。

发表评论

验证码:
Copyright © 2017-2025  代码网 保留所有权利. 粤ICP备2024248653号
站长QQ:2386932994 | 联系邮箱:2386932994@qq.com