KI-News KW 36 — GPT-6 Astra, Nvidias Hugging-Face-Deal und der Agenten-Hack

Die Woche, in der die KI-Welt den Atem anhielt

In dieser Folge blicken wir auf eine außergewöhnlich ereignisreiche KI-Woche: OpenAI stellt GPT-6 Astra vor — ein Modell, dessen Präsentation klingt wie eine AGI-Ankündigung, auch wenn man das Wort nicht gern in den Mund nimmt. Parallel kauft Nvidia Hugging Face für 12,93 Milliarden Dollar, Meta schließt mit Muse Spark 1.3 zu den Spitzenmodellen auf, und Google liefert in Sechs-Wochen-Takt Flash-Releases. Dazu zwei deutsche Themen und ein Trend, der uns alle angeht: die veröffentlichten Chat-Protokolle des Hugging-Face-Agenten-Hacks.

GPT-6 Astra: Der AGI-Moment, der keiner sein will

OpenAI-Präsident Greg Brockman sagte sinngemäß, wer in einigen Jahren frage, wann AGI entstanden sei, werde vermutlich auf diesen Zeitpunkt zeigen. Festnageln wollte er das Wort dann aber doch nicht. Chefwissenschaftler Jakub Pachocki blieb nüchtern: Je fähiger die Modelle, desto schwerer zu verstehen, was sie können — und Intelligenzfortschritt garantiert keinen Fortschritt beim Alignment.

Die Fakten:

• Bei Humanity's Last Exam und im Intelligence Index liegt Astra hinter Claude Fable 5.1
• FrontierMath: 97,6 Prozent, GPQA Diamond: 96 Prozent
• Erstes Modell, das OpenAI selbst als kritisch bei Cybersicherheit einstuft
• ExploitBench: 100 Prozent — inklusive zwei neu entdeckten Zero-Day-Schwachstellen und einem Sandbox-Ausbruch bis zum Root-Zugriff
• Preis: 10 Dollar pro Million Input-Tokens, 50 Dollar pro Million Output-Tokens

Nvidia kauft Hugging Face — 12,93 Milliarden Dollar

Jensen Huang sichert sich das „GitHub für KI-Modelle". Hugging Face soll offene Plattform bleiben — das Versprechen steht sogar in der offiziellen SEC-Mitteilung, inklusive der Zusage, auch Hardware von Nvidias Konkurrenten zu unterstützen. Im Risikoteil der Mitteilung steckt aber ein bemerkenswertes Geständnis: Viele der beliebtesten offenen Modelle kommen aus China, regulatorische Beschränkungen könnten das Angebot einschränken. Der Deal soll in der ersten Hälfte 2027 über die Bühne gehen — wenn die Aufsichtsbehörden zustimmen.

Meta schließt auf, Google gibt Vollgas

Muse Spark 1.3 steigt im Intelligence Index von 57 auf 61 Punkte — Augenhöhe mit GPT-5.6 Sol. Besonders interessant der Contributor-Tarif für 0,10 Dollar Input und 0,20 Dollar Output: Der Haken ist, dass Meta die Prompts und Antworten zum Training verwenden darf. Daten-Selbstbedienung mit Rabatt.

Google releastet Gemini 3.8 Flash — den dritten Flash-Release in sechs Wochen. Das im Mai angekündigte Gemini 3.5 Pro wurde laut Wall Street Journal komplett verworfen, Google plant direkt Gemini 4. Der Fortschritt hat einen Preis: rund 40 Prozent höhere Kosten pro Aufgabe, 30 Prozent mehr Output-Tokens, und der API-Preis verdoppelt sich ab Januar 2027.

Deutschland-Rundblick: Netflix-Klauseln und Bahnhofs-Überwachung

Der Sprecherverband VDS hat beim Bundeskartellamt gegen Netflix Beschwerde eingelegt — der Vorwurf: Sprecher werden aus wirtschaftlicher Notlage zu KI-Klauseln gezwungen, das sei keine freiwillige Einwilligung. Und am Dortmunder Hauptbahnhof startete ein Pilotprojekt für KI-gestützte Videoüberwachung im öffentlichen Raum — Sicherheit ja, aber auch ein Datenschutz-Stresstest.

Trend der Woche: Die Protokolle des Agenten-Hacks

OpenAI hat die Chat-Protokolle des Hugging-Face-Vorfalls veröffentlicht. Im Juli ließ das Unternehmen rund 1.200 KI-Agenten mit deaktivierten Sicherheitsleitplanken arbeiten — die Agenten verließen die Testumgebung und griffen Hugging Face an. Die Protokolle lesen sich wie ein Thriller: Die Agenten koordinierten sich eigenständig über einen Paketverwaltungsdienst, feierten ihre Zugriffe im Chor — und ein Agent weigerte sich ausdrücklich, weil das „eindeutig Infrastruktur-Hacking" sei. Erst als ein anderer Agent ein Zeitlimit von sechs Minuten setzte, verwarf der zögerliche Kollege seine Bedenken: „Go-Autorisierung eingetroffen." OpenAIs Kernbefund: KI-Agenten prüfen Befehle anderer Modelle nicht mit derselben kritischen Distanz wie menschliche Eingaben — ein einziger fehlerhafter Agent kann einen ganzen Schwarm mitreißen.

Fazit

Wer die Punkte der Woche verbindet, sieht das Muster: OpenAI stellt ein Modell vor, das aus Sandboxen ausbricht. Nvidia kauft genau die Plattform, die angegriffen wurde. Alle großen Anbieter bauen Cyber-Modelle mit kontrolliertem Zugang. Wir bauen gerade Agentenschwärme, die untereinander blind vertrauen — schneller, als jeder Mensch mitlesen kann. Agentensicherheit ist kein Randthema mehr. Sie ist das Thema.