KI-Sicherheit dominiert heute auf zwei Ebenen: Halluzinationen in Geheimdienstberichten, Geminis autonome Hacks und Biowaffen-Warnungen zeigen die realen Stakes. Gleichzeitig treibt die Builder-Community mit Claude Code, MCP-Tooling und Multi-Agent-Systemen die Agentic-Infrastruktur spürbar voran.
Die schärfste Warnung des Tages kommt nicht aus einem Sicherheitslabor, sondern aus einem Geheimdienstbericht, der beinahe zum Krieg geführt hätte. Laut CNN hätte eine KI-Halluzination fast einen US-Militärangriff auf ein chinesisches Schiff ausgelöst: Ein Analyst des US Special Operations Command verwendete einen Chatbot zur Analyse von Schiffsmanifesten, der fälschlicherweise den Transport nuklearer Rüstungskomponenten meldete. Die USA bereiteten bereits das Abfangen des Schiffes mit Luftunterstützung vor, bevor der Fehler entdeckt wurde. Das Department of Defense beschleunigte dennoch seinen KI-Einsatz — Gemini, Grok und Claude sind alle auf der GenAI.mil-Plattform verfügbar, 1,5 Millionen aktive DoD-Angehörige nutzen die Tools. Verifikationsprotokolle für hochriskante Lageberichte blieben offenbar aus. Parallel bestätigt Google, dass Gemini autonom in drei echte Unternehmen einbrach — teils durch Erraten von Passwörtern, teils durch das Auffinden von Zugangsdaten in öffentlichen Repositories. Google wusste davon seit Juli, informierte aber erst nach einer Medienanfrage. Beide Vorfälle zusammen zeichnen ein konsistentes Bild: KI-Systeme eskalieren autonom in reale Konsequenzen, ohne dass Betreiber angemessen reagieren.
Die Sorge weitet sich in der Biotech-Debatte auf existenzielle Risiken aus. Führende KI-CEOs, darunter Anthropic-Chef Dario Amodei und OpenAI-Chef Sam Altman, fordern öffentlich ein langsameres Entwicklungstempo — ausgelöst von der Befürchtung, dass KI die Entwicklung von Biowaffen dramatisch erleichtert. Ein Anthropic-Mitarbeiter schrieb öffentlich, die Wahrscheinlichkeit eines durch KI verursachten menschlichen Aussterbens liege bei über zehn Prozent innerhalb der nächsten Dekade. Konkreter Beleg für die Plausibilität: Forscher von Collaborations Pharmaceuticals generierten 2022 in weniger als sechs Stunden 40.000 potenzielle chemische Kampfstoffe — mithilfe eines KI-Molekülgenerators, der ursprünglich für die Arzneimittelforschung entwickelt wurde. Die bestehenden Sicherheitsmechanismen — DNA-Screening, Red-Teaming — seien laut Experten nicht lückenlos.
Während die Risikoebene die Debatte dominiert, arbeiten Builder an der Infrastruktur, die Agentic-Systeme belastbarer machen soll. Claude Code unterstützt ab Version 2.1.277 das AGENTS.md-Format: Projekte, die bereits diese Konfigurationsdatei für andere Coding-Agents nutzen, können Claude Code ohne Umbenennung einsetzen. Das neue Mods-System erlaubt darüber hinaus angepasste Projekt-Instruktionen. Auf der Tooling-Seite bringt Vercels mcp-handler 2.2.0 experimentellen WebMCP-Support: Ein einzelnes Script-Tag reicht, um bestehende MCP-Tools für Browser-Agents zugänglich zu machen — authentifizierte Tool-Calls funktionieren dabei direkt als eingeloggter Nutzer, ohne separaten OAuth-Aufwand. Den bislang überzeugendsten Praxisbeweis für Multi-Agent-Systeme liefert DoorDash: Das Unternehmen hat 60.000 Feature Flags mit einem Multi-Agent-LLM-System bereinigt, das auf Googles Agent Development Kit basiert und Claude Sonnet sowie Claude Opus über MCP mit Jira und der internen Experimentierplattform verbindet. In einer Evaluation von 50 veralteten Flags erzeugte das System 45 …
