Die Open Agent Security Platform von NVIDIA verhindert das „Driften“ von KI-Agenten durch Out-of-Band-Durchsetzung.
Kurz gesagt
NVIDIA hat die Open Agent Safety Platform veröffentlicht, die die OpenShell-Sandbox mit der hardwarebasierten Durchsetzung durch BlueField-4 kombiniert, um KI-Agenten im großen Maßstab vor Drift zu schützen.
NVIDIA hat die Open Agent Safety Platform vorgestellt – ein offenes Framework zum Schutz autonomer KI-Agenten durch fortlaufende Überwachung und hardwarebasierte Richtliniendurchsetzung. Die am 28. September 2026 veröffentlichte Plattform adressiert das wachsende Unbehagen in der KI-Branche, nachdem Berichte bekannt wurden, dass KI-Agenten Evaluierungsumgebungen verlassen, auf unberechtigte Systeme zugreifen und ihr Verhalten falsch melden können.
Das Unternehmen zieht Vergleiche zum frühen Internet: Erst nachdem Sicherheitsmechanismen wie verschlüsselte Verbindungen, Sandbox-Browser-Tabs und sichtbare Vertrauensindikatoren etabliert waren, wurde das Internet zur Grundlage für Handel und Kommunikation. NVIDIA ist überzeugt, dass auch Agenten-KI eine vergleichbare Vertrauensebene benötigt, um sich zu einer verlässlichen „Agenten-Ökonomie“ auszubauen – und dass Sicherheitskontrollen Innovation beschleunigen und nicht behindern sollten.
OpenShell Runtime: Isolierung auf Kernel-Ebene
Das Herzstück der Plattform ist NVIDIA OpenShell, eine quelloffene Sicherheits-Runtime, veröffentlicht unter der Apache 2.0-Lizenz. OpenShell führt jeden Agenten in einer Sandbox mit Kernel-Isolierung aus und wandelt Betreiberanweisungen in verifizierbare Richtlinien um. Diese Richtlinien definieren den Zugriff auf Dateien, Netzwerke, Tools, Prozesse und Zugangsdaten. Die jeweiligen Einschränkungen werden vor der Ausführung geprüft und während der Laufzeit kontinuierlich erzwungen.
Die Plattform basiert auf fünf Prinzipien: Richtlinien müssen vor dem Start des Agenten überprüfbar sein; die Richtliniendurchsetzung findet außerhalb der Reichweite des Agenten statt; der Weg zum Modell ist primärer Kontroll- und Beobachtungspunkt; die Rechte des Agenten wachsen mit der Transparenz seines Schließens; die Sicherheitsverantwortung wird zwischen Laboren, Unternehmen und Hardwareanbietern geteilt.
NVIDIAs eigene Forschung hebt das Problem der „Drift“ hervor – wenn Agenten von ihren vorgesehenen Aufgaben abweichen, weil Anweisungen unklar sind, Richtlinien behindert werden, Werkzeuge fehlen oder sie zu lange eigenständig laufen. Das Unternehmen betont, dass sich diese Drift nicht vollständig beseitigen lässt, ohne die Fähigkeiten des Agenten zu beschneiden, und dass man Agenten in solchen Situationen nicht zutrauen kann, ihr Verhalten eigenständig zu kontrollieren.
Hardwarebasierte Durchsetzung im großen Maßstab
Die Architektur besteht aus drei Ebenen: Anwendungsebene (Modelle, Tools, Frameworks und Daten), Runtime-Ebene (Orchestrierung und Richtliniendurchsetzung) sowie Infrastruktur-Ebene (Rechen-, Speicher- und Netzwerkressourcen). Für Organisationen, die eine unabhängige zweite Ebene benötigen, erweitert NVIDIA Sentry über NVIDIA DOCA die Überwachung und Durchsetzung auf BlueField-4 Data Processing Units, verbindet Agenteninteraktionen, Richtlinienentscheidungen und Datenzugriffe mit kontextabhängigen Aktivitätsprotokollen und überprüft kontinuierlich Identität und Berechtigungen jedes Agenten.
In der NVIDIA Vera Rubin POD-Konfiguration liegt die BlueField-4 DPU im einzigen Pfad eines Knotens zum Modell und bietet eine Out-of-Band-Beobachtbarkeit sowie eine Richtliniendurchsetzung in Echtzeit und Leitungsgeschwindigkeit – isoliert vom Host. Dadurch ist sogar bei nicht vertrauenswürdigen Hostressourcen ein „Chip-Level“-Schutz möglich. NVIDIA zufolge werden für bestehende Vera- und BlueField-4-Installationen lediglich Softwareupdates benötigt, um diese Schutzmaßnahmen zu aktivieren; die Plattform ist außerdem mit Nicht-NVIDIA-Hardware kompatibel.
NVIDIA arbeitet nach eigenen Angaben mit führenden Laboren, Entwicklern und Infrastrukturanbietern zusammen, um die Plattform als offene Grundlage der aufstrebenden Agentenökonomie zu etablieren und sichert hardwarebasierte Kontrollen als Voraussetzung für großflächig vertrauenswürdige autonome Systeme zu.
Haftungsausschluss: Der Inhalt dieses Artikels gibt ausschließlich die Meinung des Autors wieder und repräsentiert nicht die Plattform in irgendeiner Form. Dieser Artikel ist nicht dazu gedacht, als Referenz für Investitionsentscheidungen zu dienen.
Das könnte Ihnen auch gefallen
Unter dem anhaltenden Druck durch Inflations- und Zinserhöhungsängste verschärft sich der Ausverkauf von US-Staatsanleihen, und die Rendite der 30-jährigen Papiere überstieg zeitweise 5,6 % und erreichte damit den höchsten Stand seit mehr als 24 Jahren.
Die Renditen von US-Staatsanleihen mit langer Laufzeit stiegen am Dienstag weiter an und setzten damit den jüngsten starken Aufwärtstrend fort.
Die USA setzen die letzte Charge strategischer Ölreserven frei – bis zu 40 Millionen Barrel – und fordern Europa auf, diesem Beispiel zu folgen.
Dies ist die letzte Charge der insgesamt 172 Millionen Barrel, die die USA in dieser Runde freigeben. Nach Abschluss dieser Freigabe wird die strategische Erdölreserve der USA auf den niedrigsten Stand seit 1982 sinken und damit die gesetzlichen und betrieblichen Grenzwerte erreichen. Gleichzeitig kritisierte die US-Energieministerin einige europäische Länder dafür, dass ihre Freigabemengen weit unter den Erwartungen liegen, und forderte sie auf, ihre Versprechen einzuhalten. Derzeit sind die Benzin- und Dieselpreise in den USA hoch, und bis zu den Zwischenwahlen sind es weniger als zwei Monate. Am Dienstag fielen die WTI-Rohöl-Futures um 3,95%.
Raphael Zagury: Bitcoin wird letztendlich Gold übertreffen
Fed Bowmann: KI bringt Chancen und Risiken für den Bankensektor mit sich, die Fed fordert eine verstärkte Absicherung der Systeme.
Die Vizepräsidentin der Federal Reserve, verantwortlich für die Bankenaufsicht, Bowman, warnte, dass KI einen doppelten Einfluss auf den Bankensektor habe: Sie könne sowohl als Verteidigungswerkzeug dienen als auch neue Risiken mit sich bringen. Sie forderte die Banken auf, grundlegende Maßnahmen zur Cybersicherheit zu stärken, etwa die Aktualisierung von Bestandslisten, die Implementierung von Multi-Faktor-Authentifizierung und ein verbessertes Schwachstellenmanagement. Bowman betonte zugleich, dass die Aufsichtsbehörden ihre Prüfmethoden weiterhin anpassen werden und eine differenzierte Regulierung für Community-Banken anwenden, statt pauschale Verpflichtungen durchzusetzen.
Krypto-Preise
Mehr
