KI-Missbrauch für Betrug und Desinformation dominiert heute – gleichzeitig liefern neue Tools für MCP, Evals und Kostensteuerung konkreten Builder-Nutzen. Dazu: Warum Multi-Agent-Architekturen Kosten explodieren lassen und was Aschenbrenners Hedgefonds-Crash über AI-Investitionswetten lehrt.
Die Woche endet mit einem doppelten Signal aus der KI-Sicherheitswelt: Während OpenAI eine in Kambodscha ansässige kriminelle Operation trockenlegte, die ChatGPT für Investment-, Liebes-, Glücksspiel- und Identitätsbetrug einsetzte, musste Google ein neues Feature für Google Earth bereits nach einem Tag wieder zurückziehen. Das KI-Bildgenerator-Feature auf Basis von Nano Banana 2 erlaubte es Nutzern, per Prompt beliebige Bilder über echte Satellitenkarten zu legen — ein Tool, das Journalisten und Forscher als verlässliche Evidenzquelle nutzen. Google begründete den Rückzug damit, dass Menschen Screenshots der generierten Bilder teilten, die gegen die eigenen Nutzungsrichtlinien verstoßen. Beide Vorfälle verdeutlichen dieselbe strukturelle Schwäche: Missbrauchsrisiken werden zu oft erst nach dem Launch antizipiert, nicht davor.
Auf der Infrastrukturseite schärft sich das Bild, wie teuer unkontrolliertes KI-Scaling werden kann — und wer dafür zahlt. Leopold Aschenbrenners Hedgefonds Situational Awareness LP, der zeitweise auf bis zu 45 Milliarden Dollar angewachsen war, musste nach erheblichen Verlusten aus konzentrierten AI-Infrastruktur-Wetten — darunter SK Hynix und Micron — alle öffentlichen Aktienpositionen liquidieren; Ken Griffins Citadel übernahm die Bestände. Parallel dazu plant die EU mit bis zu 30 Milliarden Euro den Aufbau von sieben KI-Gigafabriken — wobei US-Technologiekonzerne allein in diesem Jahr mehr als 600 Milliarden Dollar für Rechenzentren veranschlagen, also rund das Zwanzigfache. Für AI-Builder in Europa bedeutet das: lokale Rechenkapazitäten bleiben knapp, Abhängigkeiten von US-Cloud-Anbietern strukturell vorprogrammiert. Die erste Bauphase der EU-Fabriken soll frühestens 2027 beginnen; Bewerbungen laufen bis November 2026.
Wer heute Systeme baut, kämpft indes an einer anderen Front: unkontrollierte Token-Kosten in Multi-Agent-Architekturen. Ein Team, das seinen Pipeline-Abschnitt von einem Single-Agent-Setup auf eine Multi-Agent-Architektur via LangGraph migrierte, berichtete von einer Verdreifachung der LLM-Ausgaben — ohne Änderung am tatsächlichen Arbeitsvolumen. Die Ursache war nicht, wie zunächst vermutet, übermäßiges Fan-out, sondern stille Retry-Schleifen durch fehlgeschlagene Validierungsschritte sowie redundante Kontextweitergabe zwischen Agenten. Damit korrespondiert eine Erkenntnis aus der Praxis von Manifest: Das Unternehmen deprecierte seinen LLM-Router nach vier Monaten und 7.000 Nutzern mit der Begründung, dass Prefix-Caching — mit 75 bis 90 Prozent günstigeren Cache-Reads — und explizite Modellwahl je Use-Case in den meisten Fällen überlegen sind. Routing, so das Fazit, verlagere Kosten nur, ohne sie zu eliminieren, und erzeuge zusätzliche Unvorhersehbarkeit in Evals und Observability.
Auf der Tooling-Seite verdichten sich hingegen praktisch nutzbare Fortschritte. Vercel liefert gleich zwei Bausteine: DeepSeek V4 Flash auf dem AI Gateway läuft jetzt auf aktualisierten Weights mit einem Terminal-Bench-Score von 82,7 — ein Sprung von 25,8 Punkten gegenüber der April-Vorschau — ohne dass Entwickler die Model-ID oder ihren Code ändern müssen. Gleichzeitig erlaubt Vercels neues Spend-Budget-System die Kostenk…
