Inferenz-Effizienz und Enterprise-Skalierung dominieren heute: Neue Kernel, Engines und Open-Source-Infra drücken die Kosten für große Modelle, während Banken und Retailer KI bereits in fünfstelligen Nutzerzahlen ausrollen. Dazu: Agent-Autonomie wächst — und mit ihr die Sicherheitsrisiken.
Die Woche beginnt mit einem klaren Signal aus dem Finanzsektor: Barclays skaliert Claude auf 16.000 Mitarbeitende und verarbeitet täglich rund 120.000 E-Mails über KI-gestützte Klassifizierung — ein Maßstab, der zeigt, wie weit generative KI in regulierten Unternehmensumgebungen bereits vorgedrungen ist. Der RAG-basierte Colleague Knowledge Assistant der Bank ist seit 2025 im Produktionsbetrieb und hat über eine Million Suchanfragen bearbeitet. Bis Ende 2026 sollen 50 Prozent der Barclays-Entwickler Claude Code nutzen, bis 2027 soll es die Mehrheit der Softwareingenieure sein. Damit wird Barclays zum Referenzfall für das, was Enterprise-KI-Rollouts in der Praxis bedeuten: nicht Pilotprojekte, sondern operative Kernsysteme mit fünfstelligen Nutzerzahlen.
Wer solche Systeme betreibt, braucht effiziente Inferenz — und auf dieser Ebene verdichten sich die Nachrichten aus der Infrastrukturschicht. Metas TLX-Kernel für Jagged Flash Attention übertrifft FlashAttention-4 auf NVIDIA Blackwell B200 um rund 13 Prozent im Forward-Pass und 50 Prozent im Backward-Pass — bei rund 3.200 Zeilen Triton-Code gegenüber den etwa 10.000 Zeilen der CuteDSL-Alternative. Der Kern des Fortschritts: Padding-Verschwendung von bis zu 50 Prozent bei variablen Sequenzlängen entfällt durch das direkte Arbeiten mit gepackten Tensoren. Ergänzend dazu veröffentlicht Ai2 mit Olmo-core 3 eine Open-Source-Trainingsinfrastruktur, die durch den Wechsel von FSDP zu DDP den Trainingsdurchsatz auf acht NVIDIA B300 GPUs von 19.400 auf 52.000 Tokens pro Sekunde pro GPU steigert — ein Faktor von 2,7. MXFP8-Unterstützung bringt zusätzlich 21 Prozent mehr Durchsatz. Gleichzeitig demonstriert die Slipstream Engine, dass Effizienzgewinne nicht auf Rechenzentren beschränkt bleiben: Das 95,5-GiB-Modell Qwen3.8-Flash-Next läuft auf einem 64-GB-Mac mit 41–52 tok/s — 1,76-mal schneller als llama.cpp — und hebt Tool-Calling-Decode durch asynchrones SSD-Expert-Streaming von 5,6 auf über 45 tok/s. Inferenzkosten sinken damit an beiden Enden des Spektrums: im Hyperscaler-Cluster und auf dem lokalen Entwickler-Rechner.
Während die Infrastruktur reift, wächst die Autonomie der darüber laufenden Agenten — und damit verändert sich das Bild des Menschen als Kontrollinstanz. Ethan Mollick beschreibt in seinem Essay einen Paradigmenwechsel, den er selbst zunächst unterschätzt hatte: KI-Agenten-Schwärme organisieren sich selbst, ohne dass Menschen die Aufgabenverteilung vorab strukturieren müssen. Als Beleg dient unter anderem die selbstständige Lösung von Navier-Stokes-Aufgaben durch solche Schwärme. Persönliche Agenten wie Meta Muse und OpenAIs dots agieren dabei bereits proaktiv — sie finden Fehler in Nutzer-E-Mails oder handeln Kreditverlängerungen mit Airlines aus, bevor der Nutzer eingreift. Theoretisch untermauert wird diese Entwicklung durch den Latent-Space-Podcast mit MIT-PhD Alex Zhang: Zhang beschreibt Recursive Language Models als nächste Paradigmenstufe — Modelle, die ihre eigenen Prompts als externe Objekte behandeln, rekursive Subagenten aufrufen und gemeinsamen Speicher nutzen. Das RLM-basierte Prime Agent löste ARC-AGI-3 als erstes System vor OpenAIs Astra — ein Hinweis auf einen erheblichen C…
