Red Hat OpenShift AI erweitert die Flexibilität von prädiktiver und generativer KI in der Hybrid Cloud

Home » Red Hat » Red Hat OpenShift AI erweitert die Flexibilität von prädiktiver und generativer KI in der Hybrid Cloud

Vom lokalen Rechenzentrum über verschiedene Public Clouds bis hin zur Edge bietet Red Hat OpenShift AI neue Funktionen und Anpassungen, mit denen Unternehmen den Boom intelligenter Workloads bewältigen können.

DENVER – RED HAT SUMMIT 2024 – 7. Mai 2024 – Red Hat, der weltweit führende Anbieter von Open-Source-Lösungen, hat heute Erweiterungen von Red Hat OpenShift AI angekündigt, einer offenen hybriden Plattform für Künstliche Intelligenz (KI) und maschinelles Lernen (ML), die auf Red Hat OpenShift aufbaut und es Unternehmen ermöglicht, KI-fähige Anwendungen in grossem Umfang in hybriden Clouds zu erstellen und bereitzustellen. Mit den Updates unterstreicht Red Hat seine KI-Vision und erweitert die Wahlfreiheit der Anwender – von intelligenten Workloads über die zugrundeliegende Hardware bis hin zu den Services und Tools, etwa Jupyter oder PyTorch, die für die Entwicklung mit der Plattform verwendet werden. Damit ermöglicht Red Hat eine schnellere Einführung von Innovationen, eine höhere Produktivität und die Option, KI effektiv in das Tagesgeschäft zu integrieren. Die Grundlage dafür bildet eine flexiblere, skalierbare und anpassbare Open-Source-Plattform, die sowohl prädiktive als auch generative Modelle mit oder ohne Cloud-Umgebungen bereitstellt.

Wollen Anwender ihre KI-Modelle von der Testphase in die Produktion überführen, stehen sie vor zahlreichen Herausforderungen. Dazu gehören etwa steigende Hardwarekosten, Datenschutzbedenken und ein mangelndes Vertrauen in die gemeinsame Nutzung von Daten bei SaaS-basierten Modellen. Gleichzeitig entwickelt sich die generative Künstliche Intelligenz (GenAI) so schnell, dass viele Unternehmen Schwierigkeiten haben, eine zuverlässige KI-Kernplattform für den effizienten Betrieb on-premises oder in der Cloud aufzubauen.

Darüber hinaus müssen Unternehmen laut IDC1 zunächst eine Reihe von Anforderungen erfüllen, um KI-Lösungen überhaupt erst erfolgreich einsetzen zu können. Neben der Modernisierung vorhandener Anwendungen und Umgebungen geht es vor allem darum, Barrieren zwischen bestehenden Systemen und Storage-Plattformen zu beseitigen, die Nachhaltigkeit der Infrastruktur zu verbessern und sorgfältig auszuwählen, wo verschiedene Workloads bereitgestellt werden – in der Cloud, im Rechenzentrum oder an Edge-Standorten. Für Red Hat ist dies ein Beleg dafür, dass KI-Plattformen flexibel an die Bedürfnisse und Ressourcen von Unternehmen angepasst sein und sie bei der Einführung von KI-Lösungen unterstützen müssen.

Die KI-Strategie von Red Hat ermöglicht Flexibilität in der Hybrid Cloud und bietet Anwendern die Möglichkeit, vortrainierte oder kuratierte Basismodelle mit Kundendaten zu erweitern sowie eine Vielzahl von Lösungen zur Leistungssteigerung von Hardware und Software zu nutzen. Die erweiterten Funktionen von Red Hat OpenShift AI erfüllen diese Anforderungen durch die neuesten KI/ML-Innovationen und die Unterstützung durch ein umfassendes KI-zentriertes Partner-Ökosystem. Die aktuelle Version der Plattform, Red Hat OpenShift AI 2.9, bringt folgende neue Features mit sich:

  • Model Serving am Edge erweitert die Bereitstellung von KI-Modellen an entfernten Standorten unter Verwendung eines einzigen OpenShift-Nodes. Es bietet Inferenzfunktionen in ressourcenbeschränkten Umgebungen mit intermittierendem oder lückenhaftem Netzwerkzugang. Diese Technology Preview bietet Unternehmen einen skalierbaren, konsistenten Betrieb vom Core über die Cloud bis zur Edge und verfügt über Out-of-the-box-Observability.
  • Enhanced Model Serving mit der Möglichkeit, mehrere Model Server zu verwenden, um sowohl prädiktive KI als auch GenAI zu unterstützen. Dies umfasst auch die Unterstützung von KServe, einer benutzerdefinierten Kubernetes-Ressourcendefinition, die das Serving für alle Arten von Modellen orchestriert. Neben vLLM, Text Generation Inference Server (TGIS) und Serving Engines für LLMs gilt dies auch für die Caikit-nlp-tgis-Runtime, die Modelle und Aufgaben der natürlichen Sprachverarbeitung (Natural Language Processing, NLP) verarbeitet. Mit dem Enhanced Model Serving können Anwender prädiktive KI und GenAI auf einer einzigen Plattform für mehrere Anwendungsfälle ausführen, was die Kosten senkt und den Betrieb vereinfacht. Dies ermöglicht Model Serving „out of the box“ für LLMs und vereinfacht die Arbeitsabläufe der Nutzer.
  • Distributed Workloads mit Ray, unterstützt durch CodeFlare und KubeRay, ermöglichen die Nutzung mehrerer Clusterknoten zur Beschleunigung und Effizienzsteigerung der Datenverarbeitung und des Modelltrainings. Ray ist ein Framework zur Beschleunigung von KI-Workloads, KubeRay hilft bei der Verwaltung dieser Workloads auf Kubernetes. CodeFlare ist ein zentraler Bestandteil der verteilten Workload-Funktionen von Red Hat OpenShift AI und bietet ein benutzerfreundliches Framework, das die Orchestrierung und Überwachung von Tasks vereinfacht. Die zentralen Queuing- und Management-Funktionen sorgen für eine optimale Node-Auslastung und weisen Ressourcen wie GPUs den richtigen Benutzern und Workloads zu.
  • Verbesserte Modellentwicklung durch Projekt-Workspaces und zusätzliche Workbench-Images. Sie bieten Data Scientists die Flexibilität, IDEs und Toolkits, einschliesslich VS Code und RStudio, aktuell als Technology Preview verfügbar, sowie erweitertes CUDA für eine Vielzahl von Anwendungsfällen und Modelltypen zu verwenden.
  • Visualisierung des Model-Monitorings für Performance- und Betriebs-Metriken, um die Leistung von KI-Modellen besser überwachen zu können.
  • Neue Accelerator-Profile, mit denen Administratoren verschiedene Arten von Hardware-Accelerator konfigurieren können, die für die Modellentwicklung und modellunterstützende Workflows zur Verfügung stehen. Dies ermöglicht den Anwendern einen einfachen Self-Service und Zugriff auf den geeigneten Accelerator-Typ für bestimmte Arbeitslasten.

Zusätzlich zu Red Hat OpenShift AI, das auch IBMs watsonx.ai unterstützt, nutzen Unternehmen aus verschiedenen Branchen Red Hat OpenShift AI, um ihre KI-Innovationen und ein grösseres Wachstum voranzutreiben, darunter AGESIC und Ortec Finance.

Die Cloud ist hybrid. Das gilt auch für KI.

Seit mehr als 30 Jahren sorgen Open-Source-Technologien für schnelle Innovationen, stark reduzierte IT-Kosten und niedrigere Innovationsbarrieren. Red Hat ist seit fast ebenso langer Zeit führend in diesem Bereich – von der Bereitstellung offener Enterprise-Linux-Plattformen mit RHEL in den frühen 2000er Jahren bis hin zur Entwicklung von Containern und Kubernetes als Fundament für die Open Hybrid Cloud und Cloud-natives Computing mit Red Hat OpenShift.

Dieser Trend setzt sich fort, indem Red Hat KI-/ML-Strategien in der offenen Hybrid Cloud vorantreibt, sodass KI-Workloads dort ausgeführt werden können, wo die Daten liegen, sei es im Rechenzentrum, in mehreren Public Clouds oder an der Edge. Die Vision von Red Hat für KI umfasst nicht nur die Workloads, sondern auch das Modelltraining und -tuning, um Einschränkungen in Bezug auf Datensouveränität, Compliance und betriebliche Integrität zu überwinden. Die Konsistenz, die die Plattformen von Red Hat über diese Umgebungen hinweg bieten, unabhängig davon, wo sie ausgeführt werden, ist entscheidend, um KI-Innovationen voranzutreiben.

Red Hat Summit

Nehmen Sie an den Keynotes des Red Hat Summit teil und erfahren Sie das Neueste von Führungskräften, Kunden und Partnern von Red Hat:

The cloud is hybrid. So is AI. – Dienstag, 7. Mai, 8 -10 Uhr MDT (YouTube, LinkedIn)

Optimizing IT for the AI era. – Mittwoch, 8. Mai, 8:30-9:30 Uhr MDT (YouTube, LinkedIn)

Zitate

Ashesh Badani, Chief Product Officer and Senior Vice President, Red Hat

«Unternehmen fragen sich nicht mehr, ob sie KI einsetzen, sondern wann. Für die Implementierung benötigen sie eine zuverlässigere, konsistentere und flexiblere KI-Plattform – nur so können sie ihre Produktivität steigern, den Umsatz erhöhen und die Marktdifferenzierung vorantreiben. Die Antwort von Red Hat auf die Anforderungen der KI ist Red Hat OpenShift AI, mit dem IT-Entscheider intelligente Anwendungen überall in der Hybrid Cloud implementieren und gleichzeitig den Betrieb sowie die Modelle nach Bedarf erweitern und optimieren können, um die Realität von Produktionsanwendungen und -services zu unterstützen.»

Thomas Taroni, CEO, Phoenix Technologies

«Die Vision von Red Hat deckt sich perfekt mit unserem Ziel, Unternehmen eine zuverlässige und souveräne KI-Lösung zur Verfügung zu stellen. Mit Red Hat OpenShift AI profitieren unsere kvant-KI-Kunden von einzigartiger Flexibilität, Skalierbarkeit und Sicherheit. Mit kvant-KI in Verbindung mit Red Hat OpenShift AI sind Unternehmen bestens gerüstet, um prädiktive und generative Modelle mühelos zu integrieren. Damit sind alle Anwender in der Lage, KI-Anwendungen mit Vertrauen und Agilität zu entwickeln.»

Jeff Fonke, Sr. Practice Manager AI & Data, World Wide Technology Holding Co.

«Da traditionelle IT-Modelle mit der Komplexität von KI zu kämpfen haben, ist WWT bestrebt, seine Kunden dabei zu unterstützen, schneller die richtigen technologischen Entscheidungen zu treffen, wenn es um die Einführung von KI geht, wie unser AI Proving Ground beweist. Mit Red Hat OpenShift AI als Basisplattform können unsere Kunden über den AI Proving Ground sichere KI-Lösungen testen, trainieren, validieren und diejenigen einsetzen, die einen echten Geschäftswert liefern.»

Joris Cramwinckel, Technologist, Ortec Finance

«Red Hat hat uns in den letzten zwei Jahren erfolgreich dabei unterstützt, maschinelle Lernmodelle für die Bewertung von Wohnimmobilien auf Azure Red Hat OpenShift bereitzustellen. Wir freuen uns darauf, Red Hat OpenShift AI zu implementieren, um unseren Wartungsaufwand zu reduzieren und in unseren Anwendungen den proprietären Code für die Bereitstellung von KI-Modellen zu ersetzen. Die Kombination der Leistungsfähigkeit von OpenShift AI und Azure Red Hat OpenShift wird es unserem Forschungs- und Entwicklungsteam ermöglichen, die Transformation unserer Kunden hin zu KI-basierten Lösungen zu beschleunigen. Sie wird uns dabei helfen, Risiken effizienter zu managen und Investitionen zu optimieren.»

1 Quelle: IDC, The Future of Digital Infrastructure, 2024: AI-Ready Platforms, Operating Models, and Governance (#US50614724), 2024

Zusätzliche Informationen

Weitere Informationen zu Red Hat

Über Red Hat, Inc.

Red Hat, der weltweit führende Anbieter von Enterprise-Open-Source-Lösungen, folgt einem von der Community getriebenen Ansatz, um zuverlässige und leistungsstarke Linux-, Hybrid-Cloud-, Container- und Kubernetes-Technologien bereitzustellen. Red Hat unterstützt Kunden bei der Integration neuer und bestehender IT-Anwendungen, der Entwicklung Cloud-nativer Applikationen, der Standardisierung auf unserem branchenführenden Betriebssystem sowie der Automatisierung, Sicherung und Verwaltung komplexer Umgebungen. Preisgekrönte Support-, Trainings- und Consultingleistungen machen Red Hat zu einem vertrauenswürdigen Berater für Fortune-500-Unternehmen. Als strategischer Partner von Cloud-Providern, Systemintegratoren, Applikationsanbietern, Kunden und Open-Source-Communities kann Red Hat Unternehmen bei der Vorbereitung auf die digitale Zukunft unterstützen. Weitere Informationen: https://www.redhat.com/de.

Forward-Looking Statements

Except for the historical information and discussions contained herein, statements contained in this press release may constitute forward-looking statements within the meaning of the Private Securities Litigation Reform Act of 1995. Forward-looking statements are based on the company’s current assumptions regarding future business and financial performance. These statements involve a number of risks, uncertainties and other factors that could cause actual results to differ materially. Any forward-looking statement in this press release speaks only as of the date on which it is made. Except as required by law, the company assumes no obligation to update or revise any forward-looking statements.

###

Red Hat, the Red Hat logo and OpenShift are trademarks or registered trademarks of Red Hat, Inc. or its subsidiaries in the U.S. and other countries.

Pressekontakt

Jenni Kommunikation AG
Sylvana Zimmermann
Tel: +41 44 388 60 80
E-Mail: sylvana.zimmermann@jeko.com

Posted on