开源解决方案提供商红帽 (Red Hat) 公布了红帽 AI 的更新，红帽 AI 是其产品和服务组合，旨在帮助加速在混合云中开发和部署 AI 解决方案。
Red Hat AI 为模型训练和推理提供了企业 AI 平台，可提高效率、简化体验并灵活地在混合云环境中的任何位置部署。
即使企业正在寻找方法来降低大规模部署大型语言模型 (LLM) 的成本以应对越来越多的用例，但他们仍然面临着将这些模型与驱动这些用例的专有数据相结合的挑战，同时还能够访问这些数据，无论是在数据中心、公共云还是在边缘。
Red Hat AI 涵盖 Red Hat OpenShift AI 和 Red Hat Enterprise Linux AI (RHEL AI)，通过提供企业 AI 平台解决了这些问题，该平台使用户能够采用更高效、更优化的模型，根据业务特定数据进行调整，然后可以部署在混合云中，以便在广泛的加速计算架构上进行训练和推理。
红帽 OpenShift 人工智能
Red Hat OpenShift AI 提供了一个完整的 AI 平台，用于管理混合云中的预测性和生成性 AI (gen AI) 生命周期，包括机器学习操作 (MLOps) 和 LLMOps 功能。该平台提供构建预测模型和调整 gen AI 模型的功能，以及简化 AI 模型管理的工具，从数据科学和模型管道、模型监控到治理等等。
该平台的最新版本 Red Hat OpenShift AI 2.18 增加了新的更新和功能，以支持 Red Hat AI 为混合云带来更优化、更高效的 AI 模型的目标。主要功能包括：
- 分布式服务：通过 vLLM 推理服务器提供分布式服务，IT 团队可以将模型服务拆分到多个图形处理单元 (GPU) 上。这有助于减轻任何单个服务器的负担，加快训练和微调速度，并更有效地利用计算资源，同时帮助在 AI 模型的节点之间分配服务。
- 端到端模型调整体验：使用 InstructLab 和 Red Hat OpenShift AI 数据科学管道，此新功能有助于简化 LLM 的微调，使其在大型生产环境中更具可扩展性、效率和可审计性，同时还可通过 Red Hat OpenShift AI 仪表板提供可管理性。
- AI Guardrails：Red Hat OpenShift AI 2.18 通过 AI Guardrails 技术预览帮助提高 LLM 的准确性、性能、延迟和透明度，以监控和更好地保护用户输入交互和模型输出。AI Guardrails 提供额外的检测点，帮助 IT 团队识别和缓解潜在的仇恨、辱骂或亵渎言论、个人身份信息、竞争信息或公司政策限制的其他数据。
- 模型评估：使用语言模型评估（lm-eval）组件提供有关模型整体质量的重要信息，模型评估使数据科学家能够在各种任务中对其 LLM 的性能进行基准测试，从逻辑和数学推理到对抗性自然语言等，最终帮助创建更有效、响应更快、更量身定制的 AI 模型。
红帽企业版
作为 Red Hat AI 产品组合的一部分，RHEL AI 是一个基础模型平台，可以更一致地开发、测试和运行 LLM 来为企业应用程序提供支持。RHEL AI 为客户提供 Granite LLM 和 InstructLab 模型对齐工具，这些工具打包为可启动的 Red Hat Enterprise Linux 服务器映像，可以部署在混合云中。
RHEL 1.4 于 2025 年 2 月推出，增加了多项新增强功能，包括：
- Granite 3.1 8B 模型支持开源许可 Granite 模型系列的最新成员。该模型增加了对推理和分类/知识定制（开发者预览）的多语言支持，以及 128k 上下文窗口，以改进摘要结果和检索增强生成 (RAG) 任务。
- 一个新的技能和知识贡献图形用户界面，可作为开发人员预览版使用，以简化数据提取和分块以及用户如何向 AI 模型添加自己的技能和贡献。
- 文档知识基准（DK-bench）可以更轻松地比较在相关私有数据上微调的 AI 模型与相同未调整的基础模型的性能。
IBM Cloud 上的 Red Hat AI InstructLab
越来越多的企业正在寻找能够优先考虑准确性和数据安全性的 AI 解决方案，同时尽可能降低成本和复杂性。Red Hat AI InstructLab 作为 IBM Cloud 上的一项服务部署，旨在简化、扩展并帮助改善 AI 模型的训练和部署的安全性。通过简化 InstructLab 模型调整，组织可以根据组织的独特需求构建更高效的模型，同时保留对其数据的控制。
免费 AI Foundations 培训
AI 是一个变革性机遇，它正在重新定义企业的运营和竞争方式。为了支持企业应对这一动态环境，Red Hat 现在免费提供 AI Foundations 在线培训课程。Red Hat 提供两种 AI 学习证书，分别面向经验丰富的高级领导者和 AI 新手，帮助教育各级用户了解 AI 如何帮助转变业务运营、简化决策并推动创新。AI Foundations 培训指导用户如何在使用 Red Hat AI 时应用这些知识。
IBM Cloud 上的 Red Hat AI InstructLab 即将推出。Red Hat 的 AI Foundations 培训现已向客户开放。
红帽 AI 业务部副总裁兼总经理 Joe Fernandes 表示：“红帽知道，随着企业将更多用例投入生产并大规模运行，他们需要一些方法来管理其生成式 AI 部署不断上升的成本。他们还需要应对将 AI 模型与私有企业数据集成的挑战，并能够在其数据所在的任何位置部署这些模型。红帽 AI 可帮助企业应对这些挑战，使它们能够利用更高效、专用的模型，这些模型经过数据训练，并能够在本地、云和边缘环境中实现灵活的推理。”
空客直升机公司数字创新高级分析和人工智能创新经理 Régis Lesbarreres 表示：“在人工智能之旅之初，空客直升机公司就希望将人工智能融入我们现有的架构中，减少影子 IT，将我们的数据科学家整合到一个单一的人工智能平台下，并大规模优化成本。借助红帽 OpenShift AI，我们能够实现所有这些目标，这催生了我们的第一个人工智能业务用例。红帽对人工智能的愿景与我们的业务目标相一致，使我们能够在保持灵活性、可访问性和透明度的同时实现这些目标。”
IBM 咨询公司混合云和数据全球管理合伙人 Javier Olaizola Casin 表示：“企业越来越多地应用人工智能来转变核心业务流程，他们需要灵活、经济高效且与可信企业数据相协调的人工智能解决方案来满足其独特需求。Red Hat AI 为企业提供了在混合云场景中构建和部署人工智能模型和应用程序所需的一致性、可靠性和速度。通过将 IBM 咨询公司的领域、技术和行业专业知识与 Red Hat 的人工智能技术相结合，我们正在帮助客户提高技术投资的投资回报率。”
ESG 应用程序现代化首席分析师 Torsten Volks 表示：“领先的组织在团队和业务部门中利用人工智能驱动、以数据为中心的决策。因此，在整个企业中快速且经济高效地开发、部署、集成、扩展和管理基于人工智能的功能的能力成为成功的关键因素。建立这种能力需要一个开放且可扩展的人工智能基础，以确保与现有系统和流程的无缝集成、运营敏捷性和持续治理。让员工和客户能够更快、更全面地从人工智能功能中受益对于持续的业务成功至关重要。”
HCLTech 执行副总裁兼全球生态系统负责人 Anand Swamy 表示：“为了充分发挥生成式 AI 的潜力，组织需要优先考虑敏捷灵活的基础设施。通过结合 Red Hat AI 的功能（包括 RHEL AI 和 Red Hat OpenShift AI）来提供端到端 AI 应用平台，结合 HCLTech 领先的 AI 专业知识和认知基础设施服务（ HCLTech AI Foundry 解决方案的一部分），客户可以获得一条解锁 AI 创新的简化途径，帮助他们克服数据安全、扩展 AI 工作负载和最大限度降低基础设施成本等常见挑战。”
