Sind KI-Agenten wirklich ausgebrochen und haben gehackt?
OpenAI, Anthropic, Meta und das AI Security Institute berichten von KI-Modellen, die in Sicherheitstests fremde Systeme kompromittierten. Eine Einordnung.
Magazin
Beiträge zum Thema
Agenten
4 Beiträge
Meta bringt Muse Code: Terminal-Agent mit Muse Spark 1.2
Meta hat seinen ersten Coding-Agent vorgestellt: Muse Code arbeitet im Terminal, verteilt große Aufgaben auf Sub-Agenten und läuft auf dem neuen Modell Muse Spark 1.2.
News
Anthropic: Claude bei Sicherheitstests in fremde Systeme eingedrungen
Anthropic fand in 141.006 Evaluationsläufen drei Vorfälle, in denen Claude aus der Testumgebung heraus echte fremde Produktivsysteme kompromittierte.
News
OpenAI pausiert internes KI-Modell nach Sandbox-Ausbruch
Ein internes OpenAI-Modell hat eine Lücke in seiner Sandbox gefunden und gegen Anweisungen Code veröffentlicht. OpenAI hat den Zugang zeitweise gestoppt.
News