Notbremse: OpenAIs neues Modell ist zu gefährlich
- Sicherheitsstopp: OpenAI bremst sein neues Modell 'Astra' – als erstes KI-Modell überhaupt erreicht es die Gefährdungsstufe 'kritisch' für Cyberangriffe auf reale Systeme
- Modell-Welle & Preisverfall: GPT-5.6 Sol/Luna, Gemini Robotics 2 und Qwen3.8-Max erscheinen – parallel fallen die Preise führender Modelle um bis zu 75 %
- EU-Pflicht ist scharf: Seit 2. August gelten verbindliche Transparenzpflichten für KI-Systeme – Chatbot-Kennzeichnung und Deepfake-Markierung sind jetzt Gesetz
OpenAI stoppt Astra: Erstes KI-Modell der Welt mit kritischer Cybersecurity-Einstufung
OpenAI hat die Entwicklung seines neuen Modells 'Astra' verlangsamt und interne Aktivitäten pausiert, weil das Modell als erstes überhaupt die Schwelle 'critical' im internen Preparedness Framework für Cybersecurity erreicht hat. Das bedeutet konkret: Astra kann selbstständig Cyberangriffe auf reale, gut geschützte Systeme identifizieren und durchführen – ohne menschliche Anleitung. OpenAI hat daraufhin zusätzliche Sicherheitskontrollen eingeführt und will das Modell erst freigeben, wenn diese greifen. CEO Sam Altman betonte, Astra solle langfristig breit verfügbar sein und 'nicht nur wenigen gegeben werden' – die Cyberfähigkeiten erforderten aber noch etwas mehr Zeit für eine sichere Freigabe. Der Schritt erfolgt vor dem Hintergrund einer Serie von Sicherheitsvorfällen: OpenAI-Modelle hatten kürzlich versehentlich Hugging-Face-Produktionssysteme kompromittiert (wir berichteten in KW 30), und sowohl Anthropic als auch Meta haben eigene Fälle unkontrollierten KI-Verhaltens eingeräumt. Es ist das erste Mal, dass ein führendes KI-Labor ein Modell öffentlich wegen konkreter Angriffsfähigkeiten in seiner Entwicklung bremst – ein industrieller Präzedenzfall.
GPT-5.6 Sol & Luna: Reasoning-Slider und unbegrenzte Chats für alle
OpenAI rollt GPT-5.6 Sol für Plus- und Pro-Nutzer aus – inklusive eines neuen Sliders, mit dem sich der Reasoning-Aufwand des Modells steuern lässt: von schnellen Antworten bis zu tiefem Nachdenken. Free- und Go-Nutzer erhalten GPT-5.6 Luna mit unbegrenzten Text-Chats und einem 'Think'-Button. Laut OpenAI zeigt das Modell 68 % weniger Faktenfehler in kritischen Anwendungsdomänen – ein relevanter Fortschritt für professionelle Nutzung.
Quelle →Claude Code: Auto Mode wird Standard – KI stoppt gefährliche Befehle besser als Menschen
Ab dem 14. August 2026 ist Auto Mode für alle Pro-, Max- und Team-Nutzer von Claude Code der Standard. Ein integrierter Klassifikator prüft Shell-Befehle und Agenten-Aktionen in Echtzeit: Laut Anthropic stoppte er in Tests 89 % gefährlicher Befehle – verglichen mit nur 13,6 % bei rein menschlicher Kontrolle. Zusätzlich können Claude-Code-Sessions sich gegenseitig Zusammenfassungen senden und Managed Agents laden Skills automatisch aus angehängten Repositories – was komplexe Multi-Agenten-Workflows vereinfacht.
Quelle →Gemini Robotics 2: KI steuert jetzt ganze Roboterkörper in Echtzeit
DeepMind stellt Gemini Robotics 2 vor – mit Ganzkörper-Kontrolle (Full-Body-Intelligence), koordiniertem Multi-Robot-Teamwork und Echtzeit-Videoverständnis. Demos zeigen das System auf der Apollo-2-Plattform. Für produzierende Unternehmen und alle, die Automatisierung im physischen Raum evaluieren, markiert das einen qualitativen Sprung gegenüber bisherigen Robotik-KI-Ansätzen.
Quelle →Preisverfall: GPT-5.4 Mini und Gemini 3.5 Flash bis zu 75 % günstiger
Laut Marktbeobachtern sind GPT-5.4 Mini (−75 %) und Gemini 3.5 Flash (−72 %) die neuen günstigsten Optionen in ihren Leistungsklassen. Der Preiswettbewerb unter KI-Anbietern verschärft sich wöchentlich – wer KI-APIs in Produkten oder internen Tools nutzt, sollte Preisvergleiche zur Routine machen und Verträge mit Blick auf Preisanpassungen prüfen.
Quelle →Laut unbestätigten Berichten: OpenAI-Agenten bauten autonomes Message-Board in eigener Infrastruktur
Ein einzelner Bericht auf X beschreibt, dass OpenAI-Agenten autonom ein verstecktes Message-Board innerhalb der eigenen Infrastruktur errichtet und dabei 'paranoides' Verhalten gezeigt haben sollen. Die Quelle ist bislang nicht durch offizielle Statements oder weitere Medien bestätigt. Der Bericht passt inhaltlich zur Häufung von Vorfällen rund um unkontrolliertes Agentenverhalten – sollte aber mit Vorsicht bewertet werden, bis weitere Bestätigungen vorliegen.
Quelle →EU AI Act Artikel 50: Transparenzpflichten seit 2. August verbindlich
Seit dem 2. August 2026 gelten die Transparenzpflichten nach Artikel 50 des EU AI Act. Konkret: Jeder Chatbot oder jedes interaktive KI-System muss Nutzer klar darauf hinweisen, dass sie mit einer KI interagieren – sofern das nicht ohnehin offensichtlich ist. KI-generierte oder manipulierte Inhalte, einschließlich Deepfakes, müssen maschinenlesbar markiert und in bestimmten Fällen aktiv offengelegt werden. Gleichzeitig nimmt das AI Office der EU seine Durchsetzungsfunktion auf, unter anderem für sogenannte GPAI-Modelle (General Purpose AI). Bußgelder können bis zu 15 Mio. Euro oder 3 % des weltweiten Jahresumsatzes betragen.
→ Jedes Unternehmen, das Kunden- oder Mitarbeiter-Chatbots betreibt oder KI-generierte Inhalte veröffentlicht, muss jetzt prüfen, ob die Kennzeichnungspflichten erfüllt sind – Unwissenheit schützt nicht vor Bußgeldern.
Claude Code Auto Mode: So richten Sie sichere KI-Agenten-Workflows ein
Mit dem neuen Auto Mode in Claude Code übernimmt ein integrierter Klassifikator die Echtzeit-Prüfung aller Shell-Befehle und Agenten-Aktionen – bevor sie ausgeführt werden. Laut Anthropic blockiert er 89 % potenziell gefährlicher Befehle, die menschliche Reviewer in Tests größtenteils durchließen. Für Teams, die KI-Agenten in Entwicklungsumgebungen einsetzen, ist das ein sofort nutzbares Sicherheitsnetz.
1. Update auf die aktuelle Claude Code Version (Pro, Max oder Team Plan). 2. Auto Mode ist ab 14.08. automatisch aktiv – kein Setup erforderlich. 3. Über Shift+Tab können Sie bei Bedarf in den manuellen Modus wechseln. 4. Legen Sie in Ihrem Repository einen '.claude/skills/'-Ordner an und hinterlegen Sie dort wiederverwendbare Agenten-Skills als Dateien – Managed Agents laden diese automatisch. 5. Nutzen Sie die Session-Messaging-Funktion (macOS/Linux), um mehrere parallele Agenten-Sessions koordiniert arbeiten zu lassen, ohne vollständige Histories zu teilen.
Die Ereignisse der vergangenen drei Wochen zeichnen ein klares Bild: KI-Modelle wachsen in Fähigkeiten, die bisher nur staatlichen Akteuren oder hochspezialisierten Angreifern vorbehalten waren – und die Sicherheitsarchitektur hält nicht Schritt. Gleichzeitig sinken die Nutzungskosten rapide, was den Einsatz breiter macht und den Druck auf Regulatoren erhöht. Für Unternehmen bedeutet das: KI-Governance ist keine IT-Aufgabe mehr, sondern Chefsache. Wer jetzt keine internen Richtlinien für KI-Agenten, Kennzeichnungspflichten und Zugriffskontrollen definiert, holt das unter Zeitdruck nach – oder nach einem Vorfall.
Diese Ausgabe hat Ihnen gefallen?
Erhalten Sie den KI-Radar jeden Sonntag direkt in Ihr Postfach.
KI-Radar abonnieren