NTT und Red Hat treiben KI-Analysen am Edge mit IOWN-Technologien voran

Eine gemeinsam im Rahmen der IOWN-Initiative (Innovative Optical and Wireless Network) entwickelte Lösung ermöglicht Echtzeitanalysen grosser Datenmengen mit KI und reduziert Stromverbrauch sowie Latenz

MWC Barcelona, 26. Februar 2024 – Im Rahmen der IOWN-Initiative (Innovative Optical and Wireless Network) haben NTT und Red Hat, in Zusammenarbeit mit NVIDIA und Fujitsu, gemeinsam eine Lösung entwickelt, die das Potenzial von Echtzeit-Datenanalysen mit KI am Edge erweitert. Unter Verwendung von Technologien, die vom IOWN Global Forum entwickelt wurden und aufbauend auf Red Hat OpenShift, der branchenführenden Hybrid-Cloud-Anwendungsplattform auf Basis von Kubernetes, wurde die Lösung aufgrund ihrer Praxistauglichkeit und Anwendungsfälle als IOWN Global Forum Proof of Concept (PoC)1,2 anerkannt.

Da KI, Sensortechnologie und Netzwerkinnovationen weiter an Bedeutung gewinnen, sind KI-Analysen am Rand des Netzwerks, dem Edge, extrem wichtig – insbesondere, weil fast täglich neue Datenquellen hinzukommen. Die Nutzung von KI-Analysen kann allerdings komplex sein und schleppend verlaufen und durch die Einführung neuer KI-Modelle und zusätzlicher Hardware zu höheren Wartungskosten für Software und Hardware führen. Mit der voranschreitenden Entwicklung von Edge-Computing-Fähigkeiten an entfernteren Standorten lassen sich die KI-Analysen näher an den Sensoren durchführen, was die Latenz verringert und die Bandbreite erhöht.

Die Lösung besteht aus dem IOWN All-Photonics Network (APN) und Technologien zur Beschleunigung der Datenpipeline in der IOWN Data-Centric Infrastructure (DCI). NTTs beschleunigte Datenpipeline für KI nutzt Remote Direct Memory Access (RDMA) over APN, um grosse Mengen Sensordaten effizient zu sammeln und zu verarbeiten. Die Container-Orchestrierungstechnologie von Red Hat OpenShift3 bietet grosse Flexibilität bei der Verwaltung von Workloads in der beschleunigten Datenpipeline über entfernte und geografisch verteilte Rechenzentren hinweg. NTT und Red Hat haben erfolgreich demonstriert, dass die Lösung den Stromverbrauch effektiv senken kann und zugleich eine niedrige Latenz für Echtzeitanalysen mit KI am Edge bietet.

Für den Proof of Concept wurde die Echtzeit-KI-Analyse-Plattform4 mit Yokosuka City als Basis für die installierten Sensoren und Musashino City als entferntes Rechenzentrum evaluiert – beide verbunden via APN. Das Ergebnis: Selbst bei einer grossen Anzahl von Kameras konnte die Latenz, die für die Aggregation der Sensordaten für KI-Analysen erforderlich ist, im Vergleich zu klassischen KI-Inferencing-Workloads um 60 Prozent reduziert werden. Darüber hinaus ergaben die PoC-Tests, dass der Stromverbrauch der KI-Analysen für jede Kamera am Edge um 40 Prozent gegenüber klassischen Technologien reduziert werden konnte. Die Echtzeit-KI-Analyse-Plattform ermöglicht ein Scale-up von GPUs, sodass eine grössere Zahl von Kameras eingesetzt werden kann, ohne dass die CPU zum Flaschenhals wird. Laut einer Versuchsberechnung, die von 1.000 Kameras ausgeht, ist zu erwarten, dass der Stromverbrauch um weitere 60 Prozent reduziert werden kann.

Die Highlights des Proof of Concept der Lösung sind:

  • eine beschleunigte Datenpipeline für KI-Inferencing, die von NTT bereitgestellt wird und RDMA over APN nutzt, um grosse Mengen Sensordaten von lokalen Standorten in den Speicher eines Beschleunigers in einem entfernten Rechenzentrum zu übertragen, wodurch der Protokoll-Overhead im normalen Netzwerk verringert wird. Anschliessend wird die Datenverarbeitung im Beschleuniger mit weniger CPU-Overhead durchgeführt, sodass sich die Energieeffizienz des KI-Inferencing verbessert.
  • gross angelegte KI-Datenanalysen in Echtzeit auf Basis von Red Hat OpenShift, die Kubernetes-Operatoren5 unterstützen können, um die Komplexität bei der Einführung Hardware-basierter Beschleuniger – etwa GPUs und DPUs – zu minimieren. Das erhöht die Flexibilität und vereinfacht die Bereitstellung über verteilte Standorte hinweg, darunter auch entfernte Rechenzentren.
  • die im PoC für das KI-Inferencing genutzten NVIDIA A100 Tensor Core GPUs und NVIDIA ConnectX-6 NICs.

Die Lösung schafft die Voraussetzungen für intelligente KI-gestützte Technologien, die Unternehmen helfen, nachhaltig zu skalieren. Unternehmen profitieren von:

  • einem reduzierten Overhead bei der Sammlung grosser Datenmengen;
  • einer verbesserten Datensammlung, die sich über Ballungsräume und entfernte Rechenzentren erstreckt und schnellere KI-Analysen ermöglicht;
  • der Möglichkeit, lokal verfügbare und potenziell erneuerbare Energien wie Solar- oder Windenergie zu nutzen;
  • einer höheren Sicherheit beim Gebietsmanagement durch die Nutzung von Videokameras als Sensoren.

Mehr Informationen zu der Lösung gibt es in der Session des IOWN Global Forum auf dem MWC in Barcelona am 29. Februar 2024.

Zitate

Chris Wright, Chief Technology Officer and Senior Vice President of Global Engineering bei Red Hat und Board Director des IOWN Global Forum
«In den vergangenen Jahren haben wir im Rahmen des IOWN Global Forum daran gearbeitet, die Voraussetzungen für KI-Innovationen auf Basis von Open Source zu schaffen und Technologien bereitzustellen, die uns helfen, smartere Entscheidungen für die Zukunft zu treffen. Das ist eine wichtige und aufregende Arbeit, und die Ergebnisse zeigen, dass wir KI-gestützte Lösungen entwickeln können, die nachhaltig und innovativ für Unternehmen auf der ganzen Welt sind. Mit Red Hat OpenShift können wir NTT unterstützen, gross angelegte KI-Datenanalysen in Echtzeit und ohne Einschränkungen anzubieten.»

Katsuhiko Kawazoe, Senior Executive Vice President von NTT und Chairman des IOWN Global Forum
«Die NTT-Gruppe treibt in enger Zusammenarbeit mit Partnern die Entwicklung von IOWN voran, um eine nachhaltigere Gesellschaft zu verwirklichen. Der IOWN PoC ist ein wichtiger Schritt in Richtung Green Computing für KI und unterstützt die kollektive Intelligenz von KI. Wir verbessern die Energieeffizienz von IOWN weiter, indem wir Technologien, die Photonik und Elektronik zusammenführen, in IT-Infrastrukturen nutzen. Unser Ziel ist, mit IOWN eine nachhaltige Zukunft mit Netto-Null-Emissionen zu gestalten.»

Kenichi Sakai, Senior Vice President von Fujitsu LTD, Infrastructure System Business Unit
«Wir tragen zur Verwirklichung einer nachhaltigen und smarten Gesellschaft bei, indem wir unsere Server-Technologien wie PRIMERGY CDI (Composable Disaggregated Infrastructure) einsetzen, um disaggregiertes Computing zu ermöglichen. Die PoC-Ergebnisse zeigen, dass die Chancen, IOWN bis 2026 zu kommerzialisieren, gestiegen sind, und dass IOWN Potenzial für KI-Anwendungen hat. Fujitsu liefert mit seiner frei zusammensetzbaren PRIMERGY CDI eine höhere Leistung und Energieeffizienz und trägt weiter zur Realisierung von IT-Infrastrukturen mit IOWN bei.»

Ronnie Vasishta, Senior Vice President of Telecom bei NVIDIA
«Die Nachfrage nach KI-Inferencing wächst und der Telco-Edge spielt dabei eine entscheidende Rolle. NVIDIA hat mit NTT und IOWN zusammengearbeitet, um das APN mit der beschleunigten Datenverarbeitungspipeline und KI zu vereinen und Technologien für Computer Vision und Bildverarbeitung zu präsentieren, die sowohl niedrige Latenz bieten als auch energieeffizient sind.»

Zusätzliche Informationen

NTT Corporation R&D Forum Keynote: Innovationen für eine nachhaltige Zukunft für Mensch und Planet
Red Hat OpenShift
Edge Computing mit Red Hat
Red Hat auf dem MWC Barcelona 2024
Red Hat News vom MWC Barcelona 2024

Weitere Informationen zu Red Hat

1 Innovative Optical and Wireless Network Global Forum: https://iowngf.org/
2 PoC Reference: Reference Implementation Model for the Area Management Security Use Case, August 2022: https://iowngf.org/wp-content/uploads/formidable/21/IOWN-GF-RD-RIM_for_AM-S_UC_PoC_Reference_1.0.pdf
3 Die Demonstration setzt auf Red Hat OpenShift 4.13 für die Container-Orchestrierung.
4 Der PoC setzt auf Fujitsu PRIMERGY RX2540 M7 mit NVIDIA A100 Tensor Core GPUs und NVIDIA ConnectX-6 NICs für das KI-Inferencing am Edge / in Rechenzentren in städtischen Randbezirken. Der PoC setzt ausserdem auf NVIDIAs Bibliotheken für die Beschleunigung der Datenpipeline, etwa NVIDIA Rivermax, nvJPEG, CV-CUDA und das Unified Communication – X Framework.
5 https://www.redhat.com/en/topics/containers/what-is-a-kubernetes-operator

Über NTT

NTT trägt mit Innovationen zu einer nachhaltigen Gesellschaft bei. Wir sind ein weltweit führendes Technologieunternehmen, das Mobilfunk-, Infrastruktur-, Netzwerk-, Anwendungs- und Beratungsdienste für Verbraucher und Unternehmen anbietet. Zu unseren Angeboten zählen Digital Business Consulting, Managed Application Services, Workplace- und Cloud-Lösungen sowie Rechenzentrums- und Edge-Lösungen. Diese basieren auf unserer tiefgehenden weltweiten Branchenexpertise. Wir erwirtschaften einen Umsatz von mehr als 97 Milliarden US-Dollar, beschäftigen 330’000 Mitarbeitende und investieren jährlich 3,6 Milliarden US-Dollar in Forschung und Entwicklung. Wir sind in mehr als 80 Ländern und Regionen aktiv und bedienen Kunden aus mehr als 190 Ländern. 75 Prozent der Fortune Global 100 sowie Tausende andere Unternehmen, Regierungseinrichtungen und Millionen Verbraucher zählen zu unseren Kunden.

Über Red Hat

Red Hat, der weltweit führende Anbieter von Enterprise-Open-Source-Lösungen, folgt einem von der Community getriebenen Ansatz, um zuverlässige und leistungsstarke Linux-, Hybrid-Cloud-, Container- und Kubernetes-Technologien bereitzustellen. Red Hat unterstützt Kunden bei der Integration neuer und bestehender IT-Anwendungen, der Entwicklung Cloud-nativer Applikationen, der Standardisierung auf unserem branchenführenden Betriebssystem sowie der Automatisierung, Sicherung und Verwaltung komplexer Umgebungen. Preisgekrönte Support-, Trainings- und Consultingleistungen machen Red Hat zu einem vertrauenswürdigen Berater für Fortune-500-Unternehmen. Als strategischer Partner von Cloud-Providern, Systemintegratoren, Applikationsanbietern, Kunden und Open-Source-Communities kann Red Hat Unternehmen bei der Vorbereitung auf die digitale Zukunft unterstützen. Weitere Informationen: https://www.redhat.com/de.

Forward-Looking Statement

Except for the historical information and discussions contained herein, statements contained in this press release may constitute forward-looking statements within the meaning of the Private Securities Litigation Reform Act of 1995. Forward-looking statements are based on the company’s current assumptions regarding future business and financial performance. These statements involve a number of risks, uncertainties and other factors that could cause actual results to differ materially. Any forward-looking statement in this press release speaks only as of the date on which it is made. Except as required by law, the company assumes no obligation to update or revise any forward-looking statements.

###

Red Hat, the Red Hat logo and OpenShift are trademarks or registered trademarks of Red Hat, Inc. or its subsidiaries in the U.S. and other countries.

Pressekontakt

Jenni Kommunikation AG
Sylvana Zimmermann
Tel: +41 44 388 60 80
E-Mail: sylvana.zimmermann@jeko.com

Nach oben scrollen
This site is registered on wpml.org as a development site. Switch to a production site key to remove this banner.