从零开始训练 Stable Diffusion 的成本 ＜ 16 万美元
我们想知道使用我们的流数据集、Composer 和 MosaicML 云平台从头开始训练稳定扩散模型需要多少时间（和金钱）。我们的结果：13 天内我们将花费 79,000 个 A100 小时，总培训成本不到 160,000 美元。我们的工具不仅将时间和成本减少了 2.5 倍，而且还具有可扩展性和简单易用性。这就是我们可以提供帮助的方式：在 MosaicML，我们可以更轻松地高效训练大型模型，使更多组织能够根据自己的数据训练自己的模型。
这就是我们可以提供帮助的方式：在 mosaicml，我们可以更轻松地高效训练大型模型，使更多组织能够根据自己的数据训练自己的模型。如之前的博文所示，我们的streamingdataset 库、我们的训练框架composer和我们的mosaicml cloud平台显着简化了训练大型语言模型(llm) 的过程。对于这篇博文，我们使用相同的过程来衡量从头开始训练稳定扩散模型的时间和成本。我们估计的上限79,000 个 a100 小时，在我们的 mosaicml cloud 平台上在 13 天内训练 stable diffusion v2 base，相当于总训练成本不到 160,000 美元。stability ai模型卡中报告的时间和成本减少了 2.5 倍。除了节省时间和金钱之外，我们的 streaming、composer 和 mosaicml cloud 工具还可以非常简单地在数百个 gpu 上设置和扩展 stable diffusion 训练，无需任何额外工作。我们用于此实验的代码是开源的，可以运行
时间和成本估算
下面的表 1和图 1说明了 stable diffusion v2 基础训练时间和成本估算如何随使用的 gpu 数量而变化。我们对 256 个 a100 的最终估计是 12.83 天的训练成本为 160,000 美元，比稳定扩散模型卡中报告的时间和成本减少了 2.5 倍。这些估计值是使用测量的吞吐量计算得出的，并假设对 29 亿个样本进行了训练。吞吐量是通过对最大标记长度
相关文章:
-
感兴趣的小伙伴，赠送全套AIGC学习资料，包含AI绘画、AI人工智能等前沿科技教程和软件工具，具体看这里。AIGC技术的未来发展前景广阔，随着人工智能技术的不断发展，AIGC技术也…
-
感兴趣的小伙伴，赠送全套AIGC学习资料，包含AI绘画、AI人工智能等前沿科技教程和软件工具，具体看这里。AIGC技术的未来发展前景广阔，随着人工智能技术的不断发展，AIGC技术也…
-
总之，Midjourney再次证明，他们是风格转换方面的最佳工具。现在，用户对生成图像的风格和美感的控制水平和精确度是无与伦比的。作为人工智能艺术爱好者，我非常期待看到AI绘画的下…
-
AIGC降痕技术在学术研究中的应用，为解决AI写作痕迹问题提供了新思路。笔灵AI去痕工具通过智能分析和优化，有效降低AIGC率，帮助研究者维护学术诚信，推动学术界健康发展。…
-
-
Amazon CodeWhisperer 是亚⻢逊出品的一款基于机器学习的 AI 编程助手，可实时提供代码建议。现在已正式可用，面向个人提供免费服务，通过在各种流行的 IDE 里集…
版权声明：本文内容由互联网用户贡献，该文观点仅代表作者本人。本站仅提供信息存储服务，不拥有所有权，不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容， 请发送邮件至 2386932994@qq.com 举报，一经查实将立刻删除。
我要评论
发表评论