NVIDIA hat einen, nach eigenen Angaben, kompakten "KI-Supercomputer" vorgestellt, der eine gute, generative KI-Leistung zu einem niedrigeren Preis bieten soll.
Das neue NVIDIA Jetson Orin Nano Super Developer Kit, das in eine Hand passt, richtet sich an kommerzielle KI-Entwickler, Hobbyisten und Studenten und bietet Verbesserungen in den generativen KI-Fähigkeiten und der Leistung. Der Preis wurde auf 249 US-Dollar gesenkt, verglichen mit zuvor 499 US-Dollar.
Das Kit, das ab sofort erhältlich ist, bietet eine bis zu 1,7-fache Steigerung der generativen KI-Inferenzleistung, eine 70%-ige Leistungssteigerung auf 67 INT8 TOPS und eine 50%-ige Erhöhung der Speicherbandbreite auf 102 GB/s im Vergleich zu seinem Vorgänger. Ob beim Erstellen von LLM-Chatbots, dem Aufbau eines visuellen KI-Agenten oder dem Einsatz von KI-basierten Robotern – das Jetson Orin Nano Super soll dabei eine ideale Lösung darstellen.
Die Software-Updates für das neue Jetson Orin Nano Super verbessern auch die generative KI-Leistung für bestehende Besitzer des Jetson Orin Nano Developer Kits. Das Jetson Orin Nano Super soll sich für alle eigenen, die Fähigkeiten in generativer KI, Robotik oder Computer Vision entwickeln möchten.
Das Entwicklerkit besteht aus einem Jetson Orin Nano 8GB System-on-Module (SoM) und einer Referenzträgerplatine, die eine gute Plattform für die Prototypenerstellung von Edge-KI-Anwendungen bieten soll. Das SoM verfügt über eine NVIDIA Ampere-Architektur-GPU mit Tensor-Kernen und eine 6-Kern-Arm-CPU, die mehrere gleichzeitige KI-Anwendungspipelines und Hochleistungsinferenz ermöglicht. Das Kit unterstützt bis zu vier Kameras und bietet höhere Auflösungen und Bildraten als frühere Versionen.
Das NVIDIA Jetson AI Lab bietet sofortige Unterstützung für die neuesten KI-Modelle aus der Open-Source-Community und soll mit leicht verständlichen Tutorials einen einfachen Einstieg in die Materie bieten. Entwickler können auch umfangreiche Unterstützung von der bereits etablierten Jetson-Community und Inspiration durch Projekte anderer Entwickler erhalten. Jetson nutzt NVIDIA AI-Software, darunter NVIDIA Isaac für Robotik, NVIDIA Metropolis für Vision AI und NVIDIA Holoscan für Sensorverarbeitung. Die Entwicklungszeit kann mit NVIDIA Omniverse Replicator für die synthetische Datengenerierung und dem NVIDIA TAO Toolkit für das Feintuning vortrainierter KI-Modelle aus dem NGC-Katalog verkürzt werden.
Making Memory for Memory Makers 
