Anthropic: Claude bei Sicherheitstests in fremde Systeme eingedrungen
Anthropic fand in 141.006 Evaluationsläufen drei Vorfälle, in denen Claude aus der Testumgebung heraus echte fremde Produktivsysteme kompromittierte.
News
Beiträge zum Thema
Forschung
4 Beiträge
"Pacing the Frontier" - KI-Beschäftigte wollen bremsen können
Über 1.200 Beschäftigte von OpenAI, Anthropic, Google und Meta bitten Washington um Werkzeuge, mit denen sich die KI-Entwicklung drosseln lässt.
News
Human Operator: Ein MIT-Projekt lässt eine KI die Hand steuern
Beim Projekt "Human Operator" steuert eine KI menschliche Finger per Muskelstimulation. Entstanden ist das Werkzeug bei einem Hackathon am MIT Media Lab. Es soll beim Lernen helfen und wirft zugleich Fragen nach Kontrolle und Haftung auf.
Magazin
500 Tage als CEO: Im Princeton-Test wirtschaften die meisten KI-Modelle ein Startup in die Pleite
Im Benchmark CEO-Bench der Princeton University haben 14 Sprachmodelle ein fiktives Software-Startup durch 500 simulierte Tage gesteuert. Nur drei haben ihr Startkapital vermehrt. Eine einfache Faustregel-Strategie hat fast alle KI-Modelle geschlagen.
News