用心打造
VPS知识分享网站

Red Hat扩大与AMD的合作伙伴关系以支持混合云中的AI工作负载

Red Hat 和 AMD 正在深化合作,以增强对 AI 工作负载的支持,并实现虚拟化基础架构的现代化。他们的目标是为那些应对日益增长的数据需求以及在本地和云系统上运行各种应用程序的企业提供更多选择。

Red Hat扩大与AMD的合作伙伴关系以支持混合云中的AI工作负载

随着人工智能应用的增长,对支持人工智能的数据中心的需求也日益增长。然而,许多数据中心仍然专注于传统的 IT 工作负载,留给人工智能的空间有限。为了解决这个问题,红帽将其开源软件与 AMD 的处理器和 GPU 相结合,为人工智能和虚拟机提供更均衡、更高效的基础。

这项工作的一个关键部分是使 AMD Instinct GPU 能够与 Red Hat OpenShift AI 协同工作。这使用户能够访问 AI 所需的计算能力,同时控制资源使用情况。Red Hat 和 AMD 还在 Microsoft Azure 的 ND MI300X v5 虚拟机中测试了在 Red Hat Enterprise Linux AI 上运行的 Instinct MI300X GPU。测试表明,这些 GPU 可以支持小型和大型语言模型,而无需将工作负载拆分到多个虚拟机上,从而降低了成本和复杂性。

两家公司还积极参与上游 vLLM 社区,该社区致力于改进 AI 推理。通过贡献内核优化和通信改进等更新,Red Hat 和 AMD 旨在提高多 GPU 工作负载的速度和效率。这项工作还包括更好地支持在 AMD 硬件上运行的量化和密集 AI 模型。

作为这项上游工作的一部分,AMD Instinct GPU 将支持 Red Hat AI 推理服务器——一款经过测试、企业级 vLLM 版本。Red Hat 致力于确保客户无需自定义设置即可在 AMD 硬件上运行 AI 模型。其目标是为用户提供一种可靠的方法,将开源 AI 模型部署到针对此项工作进行优化和验证的 GPU 上。

除了 GPU 之外,AMD 的 EPYC CPU 在 GPU 驱动的系统中也发挥着重要作用。这些 CPU 支持各种工作负载(包括 AI 训练和推理)的强大性能,同时还有助于提高 GPU 服务器的投资回报率。

除了人工智能之外,此次合作还支持企业改变虚拟机管理方式。Red Hat OpenShift 虚拟化技术运行在 AMD EPYC 处理器上,可帮助企业将基于虚拟机的应用程序迁移到云原生平台。此功能使 IT 团队能够在单一环境中管理虚拟机和容器——无论它们是部署在数据中心还是跨公有云平台。

此设置可以提高基础架构利用率并降低开销。OpenShift 虚拟化支持在主流服务器品牌(包括戴尔、HPE 和联想)上部署。它旨在帮助企业简化传统基础架构,降低总成本,并为 AI 等新型工作负载腾出空间。

通过更轻松地在同一基础架构上运行虚拟机和 AI 工作负载,Red Hat 和 AMD 正在努力帮助企业更好地利用现有系统,同时为未来的需求做好准备。

红帽高级副总裁兼首席产品官 Ashesh Badani 表示:“充分发挥 AI 的优势意味着企业必须拥有选择权和灵活性,以优化其 IT 布局,从而应对日益增长的需求。我们与 AMD 的长期合作,为那些寻求为不断发展的未来做好 IT 环境准备的企业提供了更丰富的选择,从在高性能 CPU 架构和虚拟化平台上实现现有投资的现代化,到利用下一代硬件加速器和开源 AI 技术为生产级 AI 做好准备。”

AMD 执行副总裁兼首席商务官 Philip Guido 表示:“随着企业客户工作负载日益多样化和苛刻,他们需要可扩展的解决方案。通过将红帽业界领先的开源平台与世界一流的 AMD Instinct GPU 和 AMD EPYC CPU 相结合,我们将提供客户所需的性能和效率,以加速人工智能、虚拟化和混合云创新。”

赞(0)
未经允许不得转载;国外VPS测评网 » Red Hat扩大与AMD的合作伙伴关系以支持混合云中的AI工作负载
分享到