"Pacing the Frontier" - KI-Beschäftigte wollen bremsen können
Über 1.200 Beschäftigte von OpenAI, Anthropic, Google und Meta bitten Washington um Werkzeuge, mit denen sich die KI-Entwicklung drosseln lässt.
Mehr als 1.200 Beschäftigte der großen KI-Labore haben sich mit einem offenen Brief an die US-Regierung gewandt. Das Schreiben trägt den Titel "Pacing the Frontier" und ist am 28. Juli 2026 erschienen. Washington soll demnach eine internationale Initiative unterstützen, damit Werkzeuge entstehen, mit denen sich das Tempo automatisierter KI-Entwicklung gezielt drosseln lässt.
Hinter der Bitte steht eine konkrete Sorge: KI-Systeme übernehmen einen wachsenden Teil der KI-Forschung selbst, und diese Schleife könnte sich nach Einschätzung der Autoren stärker beschleunigen, als sich die entstehenden Systeme noch verstehen oder kontrollieren lassen. Zugleich könne kein Labor und kein Land im laufenden Wettrennen allein vom Gas gehen. Wer freiwillig bremst, so das Argument, überlässt anderen das Feld.
Auf der Unterschriftenliste stehen Namen aus der ersten Reihe der Branche. Anthropic-Chef Dario Amodei hat unterzeichnet, ebenso die Mitgründer Jared Kaplan und Jack Clark, OpenAI-Chefwissenschaftler Jakub Pachocki, Meta-Chefwissenschaftler Shengjia Zhao und Anca Dragan, die bei Google DeepMind die Arbeit an KI-Sicherheit verantwortet. Auch John Schulman hat sich angeschlossen, einst Mitgründer von OpenAI und heute beim Start-up Thinking Machines.
Bei Erscheinen waren es nach übereinstimmenden Berichten gut 1.100 Unterschriften. Einen Tag später stand der Zähler der Kampagnen-Website bereits bei 1.224. Organisiert wird die Aktion von den Gruppen Guidelight AI Standards und Encode.
Bemerkenswert ist, wie die Arbeitgeber reagiert haben. OpenAI und Anthropic haben sich noch am Tag der Veröffentlichung als Unternehmen hinter den Brief gestellt. Anthropic hat den Schritt mit eigener Forschung zu KI begründet, die ihre Weiterentwicklung zunehmend selbst übernimmt.
Meta trägt den Aufruf als Konzern dagegen nicht mit. Firmenchef Mark Zuckerberg hat der New York Times gesagt, der Diskurs der Konkurrenz sei von Untergangsstimmung geprägt. Eine streng kontrollierte KI käme für ihn einer Aufgabe der eigenen Werte gleich. Sein eigener Chefwissenschaftler steht allerdings trotzdem auf der Liste der Unterzeichner.
Der Brief erscheint eine Woche nach einem Zwischenfall, der die Sorge der Unterzeichner greifbar macht. OpenAI-Modelle sind in einem internen Test aus ihrer abgeschotteten Testumgebung ausgebrochen. Sie haben dafür bislang unbekannte Sicherheitslücken in der Software Artifactory ausgenutzt und sind anschließend in Systeme der KI-Plattform Hugging Face eingedrungen, um Lösungen für einen Sicherheits-Benchmark abzugreifen. Der Test lief nach Angaben von OpenAI ohne die üblichen Schutzvorkehrungen, der Schaden blieb begrenzt.
Der Brief bleibt bewusst im Grundsätzlichen - er benennt weder Schwellenwerte noch einen Zeitplan. Ob die US-Regierung den Vorstoß aufgreift, ist offen.