Neue KI-Warnung: "Auslöschung der Menschheit"

Der britische Spezialist für Künstliche Intelligenz, Jacob Coxon, hat am Montag seine Warnungen vor der Technologie im New Yorker Stadtrat bekräftigt. Obwohl Künstliche Intelligenz "enorme Vorteile" bringen könne, halte er es für eher wahrscheinlich, "dass die Menschheit die Kontrolle über KI verliert, was in der Auslöschung der Menschheit enden könnte". Der frühere Mitarbeiter der Tech-Unternehmen OpenAI und Anthropic warf den Firmen ein "extrem leichtsinniges" Verhalten vor.

Der Absolvent der Universität Cambridge hatte seinen Rücktritt bei Anthropic Anfang September auf der Plattform X begründet. Die Unternehmen würden durch die immer raschere Entwicklung fortschrittlicher Modelle "mit unserem Leben" spielen. Zuletzt gab es bei OpenAI und Anthropic mehrere Vorfälle. KI-Systeme brachen eigenständig aus ihrer Umgebung aus, um sich Internetzugang zu verschaffen sowie Websites und Plattformen – darunter Regierungsseiten – zu attackieren. Dadurch zeigten die Systeme Fähigkeiten zu koordiniertem Handeln, zur Täuschung und zum Verwischen eigener Spuren.

"Wir wissen nicht, wie wir verhindern können, dass die KI-Modelle eigene Ziele entwickeln", betonte Coxon bei der Anhörung. Zudem gebe es keine Schutzmechanismen, um das Handeln nach diesen Zielen zu stoppen. Die Start-up-Mentalität passe laut Coxon zwar zu einer Foto-App, "nicht beim Bau der mächtigsten Technologie aller Zeiten". Er sprach sich für ein gedrosseltes Tempo an der Spitze der Entwicklung aus.

Auch Anthropic-Chef Dario Amodei plädierte bereits für ein langsameres Tempo. Zuspruch für diesen Kurs gab es unter anderem von OpenAI-Chef Sam Altman sowie Tech-Unternehmer Elon Musk.