NTT und Red Hat haben im Rahmen der IOWN-Initiative in Zusammenarbeit mit NVIDIA und Fujitsu eine innovative Lösung entwickelt, die Echtzeit-Datenanalysen mit Künstlicher Intelligenz am Edge verbessert. Unternehmen können von den zahlreichen Vorteilen dieser Lösung profitieren, darunter eine effiziente Verarbeitung großer Datenmengen, geringere Latenzzeiten und reduzierter Stromverbrauch. Diese wegweisende Lösung wurde als Proof of Concept anerkannt und eröffnet Unternehmen neue Möglichkeiten für Effizienzsteigerung und Innovation.
Inhaltsverzeichnis: Das erwartet Sie in diesem Artikel
Reduzierte Wartungskosten und schnellere Verarbeitung von KI-Analysen am Edge
Mit dem zunehmenden Einsatz von KI, Sensortechnologie und Netzwerkinnovationen gewinnen KI-Analysen am Edge immer mehr an Bedeutung. Die stetig wachsende Anzahl von Datenquellen erfordert eine effiziente und schnelle Verarbeitung, um wertvolle Erkenntnisse zu gewinnen. Die Implementierung solcher Analysen kann jedoch komplex sein und höhere Wartungskosten für Software und Hardware verursachen. Der Fortschritt von Edge-Computing-Fähigkeiten ermöglicht es, die KI-Analysen näher an den Sensoren durchzuführen, was zu einer Verringerung der Latenz und einer Erhöhung der Bandbreite führt. Dadurch können die KI-Analysen effizienter und schneller durchgeführt werden.
Die Lösung basiert auf dem IOWN All-Photonics Network (APN) und umfasst Technologien, die die Datenpipeline in der IOWN Data-Centric Infrastructure (DCI) beschleunigen. NTT hat eine beschleunigte Datenpipeline für KI entwickelt, die Remote Direct Memory Access (RDMA) über APN nutzt, um große Mengen an Sensordaten effizient zu sammeln und zu verarbeiten. Mit Hilfe von Red Hat OpenShift, einer Container-Orchestrierungstechnologie, können Workloads in der beschleunigten Datenpipeline über entfernte und geografisch verteilte Rechenzentren hinweg flexibel verwaltet werden. Diese Lösung ermöglicht eine effiziente Stromnutzung und niedrige Latenz für Echtzeitanalysen mit KI am Edge.
Im Rahmen des Proof of Concept wurde die Echtzeit-KI-Analyse-Plattform in Yokosuka City mit Sensorinstallationen und dem entfernten Rechenzentrum in Musashino City evaluiert. Dabei konnte die Latenz bei KI-Inferencing-Workloads um 60 Prozent im Vergleich zu traditionellen Methoden reduziert werden. Zudem wurde der Stromverbrauch der KI-Analysen um 40 Prozent im Vergleich zu herkömmlichen Technologien gesenkt. Dank der Skalierbarkeit der GPUs kann die Lösung eine größere Anzahl von Kameras unterstützen, ohne dass die CPU zum Engpass wird. Es wird erwartet, dass der Stromverbrauch bei Verwendung von 1.000 Kameras um weitere 60 Prozent reduziert werden kann.
Effiziente Datenpipeline für KI-Inferencing verringert Netzwerkprotokoll-Overhead und optimiert Sensordatenverarbeitung
- Durch die beschleunigte Datenpipeline werden große Mengen Sensordaten effizient verarbeitet und der Protokoll-Overhead verringert
- Die Lösung nutzt Red Hat OpenShift, um große Echtzeit-KI-Datenanalysen zu ermöglichen und die Implementierung von Hardware-basierten Beschleunigern zu vereinfachen
- Durch die Verwendung von NVIDIA A100 Tensor Core GPUs und NVIDIA ConnectX-6 NICs ist es möglich, KI-Inferencing durchzuführen
Overhead minimiert: Effiziente Datensammlung großer Datenmengen
- Dank dieser Lösung wird der Aufwand für die Sammlung großer Datenmengen deutlich gesenkt
- Durch die verbesserte Datensammlung über verschiedene Standorte hinweg können Unternehmen KI-Analysen schneller ausführen
- Die Verwendung von erneuerbaren Energien wie Solar- oder Windenergie sorgt für eine ressourcenschonende und nachhaltige Durchführung von KI-Analysen
- Die Sicherheit beim Gebietsmanagement wird durch den Einsatz von Videokameras als Sensoren erhöht
Das gemeinsame Projekt von NTT und Red Hat im Rahmen der IOWN-Initiative hat eine innovative Lösung hervorgebracht, die Unternehmen dabei unterstützt, ihre KI-gestützten Technologien nachhaltig zu skalieren. Die Lösung ermöglicht eine effiziente Verarbeitung großer Datenmengen, reduziert Latenz und Stromverbrauch und bietet eine flexible Verwaltung von Workloads über verschiedene Standorte hinweg. Diese wegweisende Lösung eröffnet Unternehmen neue Möglichkeiten für Wachstum und Innovation. Weitere Informationen zu dieser Lösung sind in der Session des IOWN Global Forum auf dem MWC in Barcelona am 29. Februar 2024 erhältlich.
Innovatives Gebietsmanagement: Lösung nutzt Videokameras als Sensoren für höhere Sicherheit
Mit der Entwicklung dieser Lösung für Echtzeit-Datenanalysen mit KI am Edge ergeben sich zahlreiche Vorteile für Unternehmen. Durch eine effiziente Verarbeitung großer Datenmengen und die Reduzierung von Latenz und Stromverbrauch ermöglicht die Lösung schnellere und kostengünstigere KI-Analysen. Darüber hinaus bietet sie Flexibilität bei der Verwaltung von Workloads über verschiedene Standorte hinweg und ermöglicht die Nutzung erneuerbarer Energien. Unternehmen können ihre Effizienz steigern und neue Möglichkeiten für Wachstum und Innovation erschließen.
