DeepMind-Chef fordert KI-Aufsicht unter Führung der USA
Demis Hassabis schlägt eine Prüfstelle für die stärksten KI-Modelle vor. Das Vorbild kommt von der Wall Street. Die Aufsicht soll noch vor Jahresende starten.
Demis Hassabis fordert eine zentrale Aufsicht über die leistungsstärksten KI-Modelle. Der Mitgründer und CEO von Google DeepMind hat seine Ideen dafür am 14. Juli 2026 in einem persönlichen Manifest mit dem Titel "A Framework for Frontier AI and the Dawning of a New Age" veröffentlicht.
Die USA sollen die neue Stelle aufbauen und führen. Monatelang hat Hassabis vorab hinter den Kulissen für die Idee geworben. Nach einem Bericht von Axios hat er zuvor die Trump-Regierung sowie andere KI-Labor-Chefs und europäische Politiker eingeweiht.
Als Modell dient die FINRA. Die private Aufsicht kontrolliert in den USA die Finanzbranche und untersteht der Börsenaufsicht SEC. Genau so stellt sich Hassabis das KI-Pendant vor: von der Industrie bezahlt und der US-Regierung verpflichtet. Im Vorstand sollen mehrheitlich unabhängige Fachleute sitzen. (darunter Träger des Turing Awards)
KI-Labore sollen ihre stärksten Modelle zunächst freiwillig einreichen. Das soll bis zu 30 Tage vor der Veröffentlichung geschehen. Getestet wird auf gefährliche Fähigkeiten für Cyberangriffe, Biowaffen und Täuschungen.
Später soll aus der Freiwilligkeit eine Pflicht werden: ohne bestandene Vorab-Prüfung kein Start auf dem US-Markt. Bei wachsender Gefahr soll die Stelle eine branchenweite Verlangsamung der KI-Entwicklung anstoßen können.
Die KI-Aufsicht soll noch vor Jahresende ihre Arbeit aufnehmen.
Hassabis begründet die Eile auch mit einem konkreten Vorfall. Die US-Regierung hat im Juni 2026 Anthropics neue Modelle Fable 5 und Mythos 5 kurz nach dem Start per Exportkontroll-Anordnung sperren lassen. Rund zweieinhalb Wochen hat die Firma danach über die Freigabe verhandelt, ohne feste Regeln und ohne erprobtes Verfahren. (Ende Juni ist die Sperre aufgehoben worden)
Für Hassabis war die Aktion ein Weckruf.
Er warnt außerdem vor der nahen Zukunft: In 18 Monaten könnten vergleichbar kritische Fähigkeiten in frei verfügbaren Open-Source-Modellen stecken, die sich jeder staatlichen Kontrolle entziehen.