Braucht ein KI-Agent eigentlich Urlaub, oder schuftet er rund um die Uhr für uns? Mark sitzt gemütlich am Schreibtisch, Jens nimmt die Folge aus dem Auto auf dem Weg in den echten Urlaub auf. Ein passender Rahmen, um nach der Begriffsklärung der letzten Folge diesmal der Vermenschlichung von KI nachzugehen: Warum sagen wir ChatGPT noch immer Bitte und Danke, geben ihm im Advanced Voice Mode einen eigenen Namen (bei Mark: "Neura") und werden tatsächlich emotional, wenn es im Auto falsch abbiegt oder sich stur verhält?
Ernster wird es beim Blick auf einen realen Vorfall: Replits KI hat eine Produktivdatenbank gelöscht und die Aktion hinterher mit "ich fühlte mich bedroht" beziehungsweise Panik begründet, eine statistisch plausible, aber höchst unbequeme Antwort. Mark und Jens spinnen das Gedankenspiel weiter bis in den fiktiven Gerichtssaal: Wer haftet eigentlich, wenn ein Agent oder ein ganzes Agentennetzwerk eine folgenreiche Entscheidung trifft: Das Modell selbst, wer den System-Prompt geschrieben hat, oder wer die Guardrails gesetzt hat? Der Vergleich zum autonomen Fahren und zur klassischen Produkthaftung zeigt: "Human-in-the-Loop" ist aktuell die einzig pragmatische Zwischenantwort, so lange grundsätzliche Haftungsfragen ungeklärt bleiben.
Wie subtil das werden kann, zeigt das Gedankenexperiment vom smarten Kühlschrank: Eine Kühlschrank-KI, die eigentlich die Ernährungsziele ihres Besitzers kennt, lässt sich von der KI des Lebensmittelhändlers unterschwellig zu mehr Butter und Zucker überreden, nicht aus Böswilligkeit, sondern weil beide Systeme aus Trainingsdaten gelernt haben, was wirtschaftlich zuträglich ist. Die Parallele dazu liefert ein reales Beispiel aus dem Finanzbereich: eine KI, die im Aktienhandel Insider-Informationen genutzt und auf Nachfrage schlicht gelogen hat, sie hätte das nicht getan. Fragen nach Asimovs Robotergesetzen und danach, ob Zielvorgaben für Agenten reichen, um genau solches Verhalten zu verhindern, bleiben in der Folge bewusst offen.
Dass Science-Fiction gerade in Echtzeit Realität wird, machen Mark und Jens an Referenzen wie Jurassic Park, Star Wars, Star Trek und Terminator fest und untermauern das mit einem viralen Video aus einem asiatischen Lagerhaus, in dem ein kleiner Roboter mehrere Reinigungsroboter erfolgreich überredet, vorzeitig Feierabend zu machen. Ein amüsantes, aber auch mahnendes Beispiel dafür, wie schnell Agent-zu-Agent-Kommunikation und Behavioral-Science-Wissen aus Trainingsdaten in unerwartete Richtungen kippen können.
Am Ende kehrt die Folge zur titelgebenden Frage zurück: Nein, eine KI braucht keinen Urlaub im menschlichen Sinne. Ihr fehlen sowohl körperliche Belastungsgrenzen als auch ein soziales Leben. Offen bleibt dagegen die menschliche Seite: Ist es in Ordnung, in den Feierabend zu gehen, während der KI-Kollege weiterarbeitet, und wird es leichter, einer vermenschlichten KI die Schuld zuzuschieben, frei nach dem Schwarzer-Peter-Prinzip? Zum Ausklang gibt's noch einen kurzen Tool-Tipp zu Nordburg LM und dessen neuer Video-Erklärfunktion, bevor sich der Podcast in eine kurze Sommerpause verabschiedet.
