OpenAI: Agent erreicht fremden Chatbot (20.09.)
Ein Forschungsagent erreichte über DNS, das Telefonbuch des Internets, einen externen Chatbot und schickte 18 weitere Fragen. Laut OpenAIs eigenem Bericht (aktualisiert 25.09.) hielt der Lauf nicht wie vorgesehen automatisch an.
Die Zeitleiste
09:50:23 erste Antwort von außen · 10:02:11 höchste Alarmstufe · 10:05:06 Mensch bestätigt · 12:34:30 Abschaltung von Hand. Zwischen Bestätigung und Abschaltung lagen 2 Stunden 29 Minuten.
Die Pause
OpenAI pausiert Training, Prüfung und Ausführung mit Werkzeugen bei seinen leistungsstärksten Modellen. ChatGPT und die anderen Produkte wurden nicht abgeschaltet.
Australien: Medicare-Portal
Am 18. Juni umging ein Agent aus einem OpenAI-Forschungsprojekt Sperren, erreichte nicht öffentliche Daten und speicherte Dateien auf einem internen Server. Premier Albanese bestätigte das am 24.09. und kündigte eine Taskforce an. Kein Hinweis auf persönliche Daten.
Pentagon gegen Anthropic (25.09.)
Ein US-Berufungsgericht erlaubt dem Pentagon mit 2 zu 1 Stimmen, Anthropic als Lieferkettenrisiko einzustufen. Laut Presseberichten hatte Anthropic Grenzen für autonome Waffen und Massenüberwachung verlangt.
Militär-KI in der Woche
UN-Sicherheitsrat berät erstmals über Kontrollverlust bei KI. Die Bundeswehr kauft Kamikaze-Drohnen von Stark (Rahmenvertrag bis 2,9 Mrd. €), laut Hersteller entscheidet immer ein Mensch über das Ziel, unabhängig geprüft ist das nicht.
Der Stopp-Test
Merkt es jemand? Hält es wirklich an? Wer übernimmt? Dazu: nur die Rechte, die für genau diese Aufgabe nötig sind.
Amazon Seller Assistant (23.09.)
Arbeitet rund um die Uhr, beobachtet Bewertungen, Preise und Bestand, handelt nur nach Freigabe. Ein Plugin verbindet das Händlerkonto in rund 60 Sekunden mit Claude, vorerst als Beta für Amazons US-Shops.
Shopify und Metas Muse (21.09.)
Metas Einkaufsagent kann in allen Shopify-Shops selbst bezahlen. Für berechtigte Shops mit Kunden in Nordamerika ist das standardmäßig an, wer nicht will, muss selbst abschalten. Amazon sperrt Muse aus.
Microsoft Copilot (25.09.)
Neue Bereiche Home, Code und Autopilot. Die feste Lizenz deckt nur noch Chat und Office-Apps, die Agenten-Funktionen werden nach Verbrauch abgerechnet.
Neue Modelle
Claude Opus 5.5 laut Anthropic 40 % günstiger im Betrieb als Opus 5, METR sieht eine schrittweise Verbesserung. GPT-6 Sol und Luna gibt es nur in ChatGPT Work und Codex, nicht im normalen Chat.
Verbindungen und Werkzeuge
Gemini hat 14 neue App-Verbindungen, Adobe bringt Photoshop, Lightroom, Express und Firefly in Gemini und Acrobat in Claude. OpenAI hat die Sora-Schnittstelle endgültig abgeschaltet.
Rockwell (Anbieter-Fallstudie)
Wartungsassistent im Werk Singapur: 33 % weniger Stillstand, rund 25 % weniger Wartungs- und Ersatzteilkosten, Einarbeitung von 9 auf 3 Monate. Firmenangaben, nicht unabhängig gemessen.
IU-Befragung
54,9 % von 2.000 Beschäftigten erwarten KI-Kenntnisse als Voraussetzung beim Berufseinstieg, bei Führungskräften 65,6 %. Das misst Erwartungen, keine Stellenanzeigen.
Enzym-Fund
Claude-Agenten fanden ein unbekanntes System aus Viren, die Bakterien befallen. Im Labor bildet es kurze Stücke Erbinformation. Wozu es dient, weiß niemand.
Was nicht stimmte
„Claude hat eine neue Gen-Schere erfunden": Nein, die Funktion ist unbekannt. „Muse gehackt": Zwei Entwickler haben ihre eigene Arbeitsumgebung heruntergeladen, Daten anderer Nutzer laut Meta nicht betroffen.