Description

 Wenn die KI Märchen erzählt: Was steckt hinter Halluzinationen? 

Heute bin ich wieder solo am Mikrofon unterwegs! Ich widme mich in dieser Folge einem Thema, das mir in meinem Alltag als Trainerin und Beraterin ständig begegnet: den Halluzinationen der KI. Das sind diese Momente, in denen dir die KI mit voller Überzeugung und stotterfrei erfundene Zahlen, nicht existente Quellen oder ein Gerichtsurteil präsentiert, das es nie gegeben hat.

Ich erkläre dir in dieser Episode, was eine Halluzination überhaupt ist, warum Sprachmodelle so plausibel flunkern und welche 5 konkreten Praxistipps ich dir mitgebe, damit du Fakes ab morgen in deinem Arbeitsalltag sofort entlarvst.

Worüber ich in dieser Folge spreche:

• Die Falle der Souveränität: Warum wir so leicht auf die KI hereinfallen. Wenn wir Menschen unsicher sind, zögern wir oder senken den Blick. Die KI tut das nicht. Sie berechnet stotterfrei das nächste wahrscheinliche Wort und klingt dabei extrem überzeugend – egal, ob die Aussage stimmt oder nicht.
• Die drei Arten von Halluzinationen: Von frei erfundenen Fakten über plausibel klingende Fach-Quellen (wie erfundene Buchtitel oder Aktenzeichen) bis hin zu den gefährlichsten Fakes: Aussagen, die zu 90 Prozent stimmen, aber bei den entscheidenden 10 Prozent falsch liegen.
• Warum die KI überhaupt halluziniert: Ein Blick hinter die Kulissen der Modell-Hersteller. Die Sprachmodelle wurden im Training oft dafür belohnt, eine Antwort zu „raten“, anstatt schlicht zuzugeben, dass sie etwas nicht wissen.
• Aktuelle Daten & Benchmarks: Warum die Websuche die Halluzinationsrate laut Studien von fast 80 Prozent auf rund ein Drittel senken kann – und warum wir selbst bei verlinkten Quellen genau hinsehen müssen.
• Der Fall Pixonimie: Eine abenteuerliche Geschichte über ein erfundenes Krankheitsbild (inklusive Star-Trek-Anspielungen im Text), das von verschiedenen KI-Systemen eineinhalb Jahre lang als echte Diagnose ausgegeben wurde und sogar in der wissenschaftlichen Fachliteratur landete.

Meine 5 Tipps für dich gegen KI-Halluzinationen:

1. Gib der KI eigenes Material (RAG): Stelle der KI Dokumente, PDFs oder Texte zur Verfügung. Wenn sie aus deinen Daten liest statt aus ihrem freien Gedächtnis, sinkt die Halluzinationsrate drastisch.
2. Schalte die Websuche ein: Bei aktuellen und faktenbasierten Anfragen solltest du immer die Live-Websuche aktivieren.
3. Erlaube der KI die Unsicherheit: Sag der KI im Prompt ganz explizit: „Wenn du dir nicht sicher bist, gib es zu oder nenne mir eine Prozentzahl für deine Unsicherheit.“
4. Frage ein zweites Modell (Wisdom of the Crowds): Stelle dieselbe Frage zwei verschiedenen KIs (z. B. ChatGPT und Claude). Wo die Antworten voneinander abweichen, liegt meistens die Wissenslücke.
5. Prüfe alles, was Konsequenzen hat: Zahlen, Verträge, Zitate, Rechtliches und Medizinisches musst du immer selbst verifizieren. Die KI liefert uns den Entwurf – aber die Verantwortung und die Haftung liegen ganz allein bei uns!

Bist du auch schon einmal auf eine besonders gut getarnte KI-Halluzination hereingefallen? Und wie prüfst du die Ergebnisse im Alltag?

Abonniere den Podcast, hinterlasse Heidi und mir eine Bewertung auf deiner Lieblingsplattform und lass mich auf LinkedIn wissen, welche Erfahrungen du gemacht hast!