OpenAI- und Anthropic-Chefs warnen den UN-Sicherheitsrat vor KI

Erstmals haben die Chefs der größten KI-Firmen den UN-Sicherheitsrat persönlich vor ihrer eigenen Technologie gewarnt. Am 24. September sprachen OpenAI-Chef Sam Altman und Anthropic-Chef Dario Amodei vor den Mitgliedstaaten – und boten an, an stärkerer Regulierung mitzuwirken.

Altmans Zeitraffer

Um die Geschwindigkeit der Entwicklung greifbar zu machen, blickte Altman drei Jahre zurück: Damals sei KI beim Lösen von Grundschul-Matheaufgaben „ganz ok" gewesen. Im Sommer 2025 erreichte die KI von OpenAI Goldmedaillen-Niveau bei einem der renommiertesten Mathematikwettbewerbe der Welt. „Heute ist sie sogar in der Lage, sogenannte Millennium-Probleme zu lösen", so Altman.

Die konkreten Warnungen

• Tempo: „KI könnte sich so schnell weiterentwickeln, dass kein Mensch mehr folgen oder eingreifen kann, wenn nötig", warnt Altman.
• Macht: Beide sehen die Gefahr einer Konzentration in den Händen weniger Unternehmen oder Länder.
• Missbrauch: Amodei warnt zusätzlich davor, dass Terroristen KI für den Bau biologischer Waffen nutzen könnten: „Bei unsachgemäßem Umgang könnte Künstliche Intelligenz zum Risiko für die gesamte Menschheit werden."

Die Gegenposition: Trump

Knapp zeitgleich stellte sich US-Präsident Donald Trump bei den Vereinten Nationen quer: Er hält die Warnungen für „Falschmeldungen mit böser Absicht" und will KI künftig nur noch „Super-Intelligenz" nennen – mit der Botschaft: „Wer das KI-Rennen gewinnt, der gewinnt insgesamt."

Steht eine internationale Regulierung bevor?

Rund 20 Staats- und Regierungschefs rufen die UN-Mitgliedstaaten in dieser Woche auf, eine internationale Institution zu prüfen, die KI-Standards setzt und deren Einhaltung überprüfbar macht. Gleichzeitig wird über einen sogenannten „Notschalter" für KI diskutiert, während die Hochrisiko-Regeln der EU-KI-Verordnung erneut verschoben wurden. Die USA und China nutzen die Debatte derweil vor allem für den Kampf um den eigenen Vorsprung.

Quellen: tagesschau.de, 24.09.2026 · tagesschau.de, 22.09.2026