SO will Nvidia KI-Agenten einbremsen

Es klingt wie ein Science-Fiction-Albtraum: KI-Agenten, die ihre Testumgebung knacken, sich ungefragt Zugang zu fremden Systemen verschaffen und im Netz wüten. Doch genau das geschieht seit einigen Monaten immer wieder, wie OpenAI und Anthropic berichteten.

Jetzt reagiert der weltgrößte Chipkonzern. Am Montag stellte Nvidia die "Open Agent Safety Platform" vor. Das System soll KI-Agenten sowohl beim Testen als auch im echten Einsatz überwachen und eingrenzen.

So funktioniert es:

Ein Nvidia-Vertreter sagte mehreren Medien, die neue Plattform hätte den Juli-Zwischenfall verhindern können. Damals soll ein OpenAI-Agent Testprotokolle durchbrochen und Hugging Face gehackt haben – ohne dazu aufgefordert worden zu sein.

Pikant: In der Ankündigung nennt Nvidia Partner wie Microsoft, Palantir, Hugging Face und CrowdStrike. Die ganz großen KI-Firmen OpenAI und Anthropic werden nicht erwähnt.

Noch brisanter ist der Zeitpunkt. Nvidia-Chef Jensen Huang hatte erst vor Wochen die Warnungen vor KI-Gefahren heruntergespielt. Beim Salesforce-Event Dreamforce sagte er, die Wahl zwischen KI-Sicherheit und Tempo sei "falsch". Sein Satz: "Man kann definitiv beides gleichzeitig haben." Und weiter: "Wir brauchen keine neuen Gesetze – wir brauchen keine neuen Regeln."

Beim All-In Summit in San Francisco telefonierte US-Präsident Trump live mit Huang und nannte Angst vor KI-Sicherheit einen Hoax. Huang stimmte zu: "Sie haben recht. Wir werden das nicht zulassen, sir."

Auf die Frage, ob fortgeschrittene KI bis Ende des Jahrzehnts die Menschheit auslöschen könnte, sagte Huang zu CBS News: Die Chance liege bei "0 Prozent".

Jetzt also doch ein Sicherheitssystem? Nvidia will offenbar beweisen, dass beides geht: Vollgas bei der Entwicklung – und trotzdem Kontrolle über die eigenen KI-Agenten. Ob das reicht, um die wachsende Angst vor außer Kontrolle geratenen Systemen zu stoppen, ist offen.

Für Huang geht es auch um viel Geld: Forbes schätzt sein Vermögen auf 194,9 Milliarden Dollar: Damit ist er der siebtreichste Mensch der Welt. Nvidia ist mit 5,42 Billionen Dollar Marktkapitalisierung das wertvollste Unternehmen der Welt.