"Eine Milliarde Tote": Bill Gates warnt vor möglichen KI-Katastrophen

Der Microsoft-Mitgründer äußerte sich in der Sendung "Meet the Press" des US-Senders NBC zu den Risiken der rasanten KI-Entwicklung. Gates forderte dabei eine stärkere staatliche Aufsicht über fortgeschrittene KI-Systeme.

"KI ist zweifellos leistungsstark genug, um Ereignisse herbeizuführen, die eine Milliarde Todesopfer fordern", sagte Gates in der Sendung. Zugleich erklärte er, es sei zwar schwierig, die gesamte Menschheit zu gefährden. Die Kombination aus leistungsfähigen KI-Werkzeugen und Menschen mit schlechten Absichten könne jedoch ein bislang nicht gekanntes Risiko darstellen.

Auf die Frage, wie sich Katastrophen durch künstliche Intelligenz verhindern ließen, verwies Gates insbesondere auf biologische Gefahren. Seiner Ansicht nach könnte es zunehmend schwierig werden, zwischen Forschern zu unterscheiden, die mithilfe von KI Medikamente gegen Krankheiten entwickeln wollen, und Personen, die biologische Waffen herstellen möchten.

"Ich wünschte, es wäre einfacher, zwischen guter Absicht – etwa dem Wunsch, ein neues Medikament gegen eine Krankheit zu entwickeln – und negativer Absicht – wie der Entwicklung eines Instruments für Bioterrorismus – zu unterscheiden", warnte Gates.

Gates plädiert deshalb für eine Überwachung fortgeschrittener KI-Modelle. Es müsse genau dokumentiert werden, was mit solchen Systemen gemacht werde, sagte er. Die USA sollten dabei eine führende Rolle übernehmen und klare Standards für die Branche schaffen.

China werde seiner Einschätzung nach ähnliche Maßnahmen verfolgen. Gleichzeitig betonte Gates, entsprechende Schutzvorkehrungen müssten die Entwicklung der Technologie nicht wesentlich bremsen.

Er unterscheidet dabei zwischen Sicherheitsmaßnahmen und der grundsätzlichen Frage, ob die Entwicklung von KI verlangsamt werden sollte. Überwachung und Schutzvorkehrungen seien davon getrennt zu betrachten, erklärte Gates.

US-Präsident Donald Trump wies die Vorstellung zurück, dass die Entwicklung künstlicher Intelligenz das Ende der Menschheit bedeuten werde. Er erklärte gegenüber Reportern, solche Dinge würden nicht passieren. Gleichzeitig betonte Trump, die USA führten China bei KI an, und sagte: "Wer bei der KI gewinnt, gewinnt."

Auch der republikanische Sprecher des US-Repräsentantenhauses, Mike Johnson, äußerte sich zu dem Thema. In einem CNN-Interview sprach er sich gegen ein Moratorium für die Entwicklung künstlicher Intelligenz aus. China könne die USA andernfalls überholen, sagte Johnson.

Auf demokratischer Seite gibt es dagegen Stimmen für eine stärkere Regulierung. Der frühere US-Präsident Barack Obama warnte laut einem Bericht der "New York Times" bei einer privaten Veranstaltung vor den Gefahren der schnell voranschreitenden Entwicklung. Die Technologie befinde sich in privaten Händen und könne gefährlich werden, wenn nicht rechtzeitig gehandelt werde. Obama habe außerdem den demokratischen Minderheitsführer im Repräsentantenhaus, Hakeem Jeffries, zu einer öffentlichen Debatte über einen regulatorischen Rahmen aufgefordert.

Auch aus der KI-Branche selbst gibt es Warnungen. Der Anthropic-Forscher Jacob Coxon verließ das Unternehmen und warf Anthropic und dem Konkurrenten OpenAI vor, nicht genug gegen mögliche Gefahren der Technologie zu unternehmen. Coxon warnte, dass KI nach Ansicht von Forschern möglicherweise bis zum Ende des Jahrzehnts alle Menschen töten könnte.

Kurz darauf veröffentlichte Anthropic einen Bericht über den möglichen Missbrauch seiner KI-Systeme. Demnach hatte das Unternehmen in diesem Jahr mehrere mögliche Pläne zum Bau biologischer Waffen gestoppt. Forscher hatten die Plattformen für Arbeiten genutzt, die auch zur Entwicklung biologischer Waffen eingesetzt werden könnten.

Anthropic konnte laut dem Bericht allerdings nicht feststellen, ob diese Forschung einem legitimen oder einem schädlichen Zweck diente. Das Unternehmen verwies darauf, dass biologische Forschung zu wichtigen Entwicklungen wie Impfstoffen führen könne. Gleichzeitig könne dieselbe Forschung auch für die Herstellung gefährlicher Krankheitserreger genutzt werden.