Inferenz-Effizienz und Kosten dominieren heute: Von Blackwell-GPU-Durchsatz über Token-Kompression bis zu KV-Head-Metriken. Daneben: Mistrals Europastrategie, Claude als Coding-Agent und ein kritischer Blick auf KI in Bildung.
Die Effizienzfrage bestimmt die Hardware-Diskussion dieser Woche von unten nach oben. Auf Reddit demonstriert ein Nutzer, dass Qwen3.6-35B-A3B mit NVFP4-Quantisierung auf einer RTX Pro 6000 Blackwell via vLLM und 30 parallelen Streams rund 2.000 aggregierte Tokens pro Sekunde beim Bulk-Captioning erreicht — ein Wert, der noch vor einem Jahr Datacenter-Hardware erfordert hätte. Der entscheidende Faktor ist die MoE-Architektur: Selbst bei maximaler Parallelität werden nur etwa 61 % der Experten pro Forward-Pass aktiviert, was den Durchsatz gegenüber dichten Modellen strukturell begünstigt. NVFP4 hält das Modell dabei auf 22–23 GB, was Consumer-Hardware zugänglich macht. Einen anderen Winkel auf die gleiche Effizienzfrage eröffnet ein Community-Benchmark über 13 Modelle bei 65K bis 131K Kontext: Prefill dominiert dort mit 94 bis 99 % der Wall-Clock-Zeit. Die Metrik, auf die viele Entwickler reflexartig schauen — tg128, also Throughput bei laufender Generierung — ist für agentische Workloads mit langem Kontext damit nahezu irrelevant. Stattdessen sollten pp65K und pp131K als primäre Kennzahlen gelten, und die KV-Head-Anzahl einer Architektur erweist sich als stärkerer Prädiktor für Prefill-Skalierung als Parameterzahl oder MoE-Struktur.
Wer auf Kosteneffizienz nicht warten möchte, bis neue Hardware verfügbar ist, hat seit dieser Woche ein ungewöhnliches Open-Source-Werkzeug zur Hand: pxpipe codiert lange Texteingaben als PNGs, um den Token-Preis bei Claude Code zu drücken. Das funktioniert, weil Anthropic Bilder nach Pixeldimension berechnet, unabhängig vom enthaltenen Text — rund 3,1 Zeichen lassen sich so in jeden Bild-Token pressen. Entwickler Steven Chong dokumentiert Einsparungen von 59 bis 70 %, in einem Fable-5-Demo sank der Session-Preis von 42,21 auf 6,06 Dollar. Der Haken: Das Verfahren ist verlustbehaftet, exakte Strings wie Hashes können beim Auslesen verfälscht werden, und die Verarbeitung ist langsamer, weil das Modell einen Vision-Encoder durchlaufen muss. Zugleich illustriert das Beispiel, dass Claude-basierte Coding-Agents in der Praxis bereits erhebliche Arbeitslast übernehmen: Simon Willison ließ sqlite-utils 4.0rc2 zu großen Teilen von Claude Fable schreiben — 37 Prompts, 34 Commits, über 30 Dateien, Kosten: 149,25 Dollar. Dabei identifizierte der Agent einen kritischen Bug, den Willison selbst übersehen hatte: `delete_where()` committete nie und vergiftete die Datenbankverbindung für alle nachfolgenden Operationen.
Nicht jeder Effizienzgewinn durch KI-Unterstützung ist jedoch unproblematisch. Eine chinesische Längsschnittstudie mit mehr als 26.000 Schülerinnen und Schülern liefert die bisher schärfste empirische Warnung für den Bildungsbereich: Hausaufgabennoten stiegen um 18 %, die Bearbeitungszeit sank von 64 auf 45 Minuten — doch die Ergebnisse in geschlossenen Prüfungen fielen um 20 %, und bei Hochschulaufnahmeprüfungen um 18 bis 24 %. Besonders bedeutsam: Der volle Schaden bei Eingangsexamen zeigte sich erst nach etwa zwei Jahren, was kurzfristige Studien systematisch verblenden lässt. Rund 81 % der Langzeitnutzer, die ihre Hausaufgaben ungewöhnlich schnell abschlossen, zeigten das klassische Muster des Outsourcings — gute Noten bei der Abgabe, einbrechende Ergebnisse im Examen. Sozialw…
