加速 3.47 倍！火山引擎助力 AIGC 突破性能瓶颈

AIGC（AI-Generated Content 人工智能生成内容）一经推出火爆全网，各种画风和产品形态频频出现且快速演进。以 Stable Diffusion 模型为例，一次完整的预训练大约需要在 128 张 A100 计算卡上运行 25 天，用户付费上百万，高额的研发费用是用户的痛点之一。同时，AIGC 产品演进快速，对性能和资源提出更高要求。

火山引擎云服务，为此类问题提供了解决方案，推动 AIGC 产业的发展。火山引擎打造同时支持训练加速与推理加速的自主研发高性能算子库，在全面提升 AI 计算性能的基础上，不断追求节省显存、简单适配，同时支持多款 GPU 卡，为客户带来更多低成本、便捷的部署方案。

在推理场景下，基于 Stable Diffusion 模型的端到端推理速度达到 66.14 it / s，是 PyTorch 推理速度的 3.47 倍，运行时 GPU 显存占用量降低 60%。在客户 AI 视频创作的 AIGC 推理业务实践中，火山引擎高性能算子库搭载客户的推理模型帮助其推理性能提升一倍，GPU 资源使用量减少一半，可为客户节省 50% 成本。

在训练场景下，使用该高性能算子库可将上文 Stable Diffusion 模型在 128 张 A100 的训练时间从 25 天减少到 15 天，训练性能提升 40%。同时，由于 AIGC 模型在训练时占用 GPU 显存容量非常大，未经优化时的模型只能运行在最高端的 A100 80GB GPU 卡上。火山引擎高性能算子库通过大量消减中间操作，将运行时 GPU 显存占用量降低 50%，使得大多数模型可从 A100 迁移到成本更低的 V100 或 A30 等 GPU 卡上运行，摆脱特定计算卡的限制，而且不需要做额外的模型转换工作。

以此，以 AIGC 场景为代表，无论是迭代速度，还是单次的训练成本，都有了显著的性能提升和成本节省。未来，火山引擎云服务将持续在机器学习、科学计算、图形处理等领域深耕，不断追求极致性能。