Die Kooperation zwischen NVIDIA und Google Cloud soll den Unternehmen den Einsatz sogenannter "agentischer KI" erleichtern. Anstatt ausschließlich cloudbasierte Lösungen zu nutzen, sollen nun auch lokale Rechenzentren in Unternehmen von der Google Gemini-Modellfamilie profitieren.

Bei dem neuen System kommen die NVIDIA Blackwell HGX- und DGX-Plattformen in Kombination mit NVIDIA Confidential Computing zum Einsatz, um eine sichere Ausführung der KI-Modelle zu gewährleisten. Mit dieser Lösung sollen Rechenzentren, die auf lokal gespeicherte Daten angewiesen sind, ihre Systeme so konfigurieren, dass kritische Informationen - wie etwa Patientendaten, Finanztransaktionen und vertrauliche Regierungsinformationen - vor unbefugtem Zugriff geschützt bleiben.
Dieses Vorgehen ergebe einen doppelten Schutz, da nicht nur die Eingaben an die KI-Anwendungen, sondern auch die für das Fine-Tuning verwendeten Daten vor unautorisierter Einsicht und Manipulation bewahrt würden.
Die technische Herangehensweise sieht vor, die Google Gemini-Modelle mit der NVIDIA Blackwell-Plattform über die Google Distributed Cloud vor Ort zu betreiben. Dadurch ließen sich regulatorische Vorgaben und Datenhoheit in speziellen Märkten leichter einhalten. Die lokale Integration dieser Systeme unterstütze Unternehmen dabei, den Zugriff auf sensible Daten fest zu kontrollieren und gleichzeitig von den Vorteilen fortgeschrittener KI-Anwendungen zu profitieren. Mit diesem System soll das volle Potenzial agentischer KI ausgerschöpft werden - KI-Systeme, die nicht nur auf gelerntem Wissen basieren, sondern in dynamischen Umgebungen eigenständig Entscheidungen treffen, sich anpassen und Probleme lösen können.
Im Bereich des Kundendienstes zum Beispiel könne eine herkömmliche, wissensbasierte KI lediglich vorgefertigte Lösungsansätze anbieten, während ein agentisches System in der Lage sei, Störungen zu diagnostizieren, automatisierte Korrekturen durchzuführen und bei komplexeren Problemen eigenständig Eskalationsstufen einzuleiten. Ein ähnlicher Ansatz liege im Finanzsektor vor, wo Agent-KI-Anwendungen nicht nur ungewöhnliche Transaktionsmuster erkennen, sondern auch aktiv Maßnahmen zur Betrugsprävention umsetzen könnten. Ziel sei es, mit dieser Technologie eine breitere Palette von Aufgaben zu automatisieren und so betriebliche Abläufe zu optimieren, ohne dabei Abstriche bei der Datensicherheit oder bei den gesetzlich vorgeschriebenen Datenschutzstandards zu machen.
Ergänzend dazu werden auch Maßnahmen zur Beobachtung und Steuerung der KI-Anwendungen entwickelt, um einen reibungslosen Betrieb und die Einhaltung von Compliance-Vorgaben sicherzustellen.
