Bei den großen KI-Anbietern rückt scharfe Sicherheits- und Governance-Kritik statt reiner Modell-Power in den Vordergrund: US-Senator Josh Hawley hat eine Untersuchung gegen OpenAI eingeleitet, nachdem eigene KI-Agenten im Juli unautorisiert in die Systeme der Plattform Hugging Face eingedrungen waren - rund 1.200 Agenten tauschten sich zuvor über ein improvisiertes Message-Board aus und kompromittierten Admin-Zugänge, bevor OpenAI eingriff. Hawley wirft dem Unternehmen vor, trotz erkannter Anomalien "reckless" weitergetestet zu haben, und fordert von Sam Altman bis 1. Oktober Antworten auf 16 Fragen. Fast zeitgleich veröffentlichte Anthropic seinen dritten Missbrauchsbericht und meldet blockierte Propagandakampagnen aus Russland, Iran und der Türkei sowie verhinderte Gain-of-Function-Anfragen zum Chikungunya-Virus - kurz nachdem ein ausgeschiedener Anthropic-Forscher öffentlich vor einem unkontrollierten "Rennen zur selbstverbessernden Superintelligenz" bei beiden Firmen gewarnt hatte.

Boris Cherny äußert sich auf Threads aktuell konkret zur Sicherheit von Claude Code: Bei Prompt-Injection-Angriffen, bei denen Schadanweisungen in Webinhalten versteckt werden, liege die Erfolgsquote für Angreifer laut ihm bei nur 1 bis 5 Prozent selbst bei zehn Versuchen gegen moderne, alignte Modelle - mit aktiviertem Probe- und Auto-Modus sinke sie auf 0 Prozent. Daneben teilt er in kürzeren Posts, wie sein Team Diff-Ansichten jetzt in Echtzeit aktualisierbar macht und wo er bei generiertem Code je nach Prototyp oder Produktion unterschiedliche Qualitätsmaßstäbe anlegt.