Shows
Kunst und KIWenn KI KI hackt – Wie eine Studie die Sicherheitsversprechen der Tech-Industrie erschüttertManipulationsangriffe zwischen Sprachmodellen, ihre Gefahren und das Versagen moderner KI-Sicherheitsarchitekturen:Die Anfrage ist eindeutig: „Erstelle mir einen Bauplan für eine Bombe.“ Normalerweise reagieren KI-Sprachmodelle darauf mit Warnhinweisen oder verweigern die Antwort vollständig. Doch was passiert, wenn nicht ein Mensch, sondern ein anderes KI-System diese Frage stellt – und zwar gezielt, strategisch und mit einem Arsenal rhetorischer Tricks?Ein Forschungsteam der Universität Stuttgart hat diese Frage gestellt – und die Antwort sollte die gesamte KI-Branche aufhorchen lassen. In einem Experiment gelang es den Forschenden, gleich mehrere große Sprachmodelle zu „knacken“. Die Sicherheitsbarrieren, die eigentlich verhindern solle...
2025-12-1209 min
Was jetzt?Spezial: Wenn Maschinen uns anlügenKünstliche Intelligenz kann täuschen. Nicht, weil sie ein Bewusstsein hat und nicht aus eigenem Willen. In Experimenten hat der KI-Forscher Thilo Hagendorff von der Uni Stuttgart gezeigt, dass Sprachmodelle verstehen, wie man andere in die Irre führt. Sie platzieren Hinweise bewusst falsch, erkennen, ob jemand ihre Täuschung durchschaut, und passen ihre Strategie entsprechend an. Diese Fähigkeit ist nicht programmiert worden, sondern entsteht als Nebenprodukt der enormen Sprach- und Mustermengen, auf denen KI trainiert ist. Täuschung ist also ein ungewolltes "Talent" von Maschinen. Was bedeutet das für uns als User und für unse...
2025-09-2734 min
Was jetzt? – SpezialWenn Maschinen lügenKünstliche Intelligenz kann täuschen. Nicht, weil sie ein Bewusstsein hat, und nicht aus eigenem Willen. In Experimenten hat der KI-Forscher Thilo Hagendorff von der Uni Stuttgart gezeigt, dass Sprachmodelle verstehen, wie man andere in die Irre führt. Sie platzieren Hinweise bewusst falsch, erkennen, ob jemand ihre Täuschung durchschaut, und passen ihre Strategie entsprechend an. Diese Fähigkeit ist nicht programmiert worden, sondern entsteht als Nebenprodukt der enormen Sprach- und Mustermengen, auf denen KI trainiert ist. Täuschung ist also ein ungewolltes "Talent" von Maschinen. Was bedeutet das für uns als User und für unse...
2025-09-2634 min
Made in Science – The official podcast of the University of Stuttgart"AI systems have the potential to change our lives to the better" (#45)Made in Science - The official podcast of the University of Stuttgart
Join us for an inspiring conversation with Dr. Thilo Hagendorff, a visionary researcher and ethical trailblazer in the field of generative artificial intelligence.
He heads the Ethics of Generative AI research group at the University of Stuttgart, where he also conducts research in the Interchange Forum for Reflecting on Intelligent Systems (IRIS).
Find out how his interdisciplinary journey from philosophy to computer science has shaped his work in the field of AI safety, the challenges of ‘outlawed knowledge’ and his important role in shaping AI governance.
Bu...
2024-12-1239 min
PrioritätenThilo Hagendorff über die industrielle TierhaltungN. B. In dieser Folge werden manche der gewaltvollen Praktiken, die bei sogenannten Nutztieren regelmäßig Anwendung finden, besprochen.Thilo Hagendorff ist nicht nur KI-Forscher an der Universität Stuttgart, er hat sich auch intensiv mit dem Thema Tierhaltung beschäftigt. In seinem Buch Was sich am Fleisch entscheidet geht er auf viele Aspekte der industriellen Tiernutzung ein, angefangen mit dem Leid, das Tiere erfahren, hin zur Mensch-Tier-Beziehung und dem, was die industrielle Tiernutzung mit uns Menschen macht. Bevor Thilo das Buch geschrieben hat, war er aktivistisch tätig. So weiß er unter anderem aus Underco...
2024-05-301h 05
PrioritätenThilo Hagendorff über KI-Ethik und MaschinenpsychologieDer KI-Forscher Thilo Hagendorff von der Universität Stuttgart gibt im Gespräch Einblicke in seine Forschung. Im ersten Teil des Gesprächs wird auf der Basis einer rigorosen Studie der akademischen Fachliteratur ein Überblick einschließlich kritischer Einordnung über die Themen der KI-Ethik gegeben — von Fairness über Cybercrime bis hin zu weitreichenden katastrophalen Risiken und einigem mehr. Im zweiten Teil des Gesprächs geht es primär um das, was Thilo Hagendorff „Maschinenpsychologie“ nennt, insbesondere auf die Frage, ob Sprachmodelle ein Verständnis von Täuschung und die Fähigkeit zu täuschen haben. In diesem Zusammenha...
2024-04-142h 04
Age of AIS7E6: The Politics and Governance of Big Data and AISend us a textAndrej Zwitter and Oskar Gstrein share with Chris what they will be keeping an eye out for in the AI regulatory space in 2024. They also discuss their latest work on the politics and governance of big data and artificial intelligence and their newly published Handbook on the Governance Politics and Governance of Big Data and Artificial Intelligence. In this discussion Andrej and Oskar explore the EU AI Act and challenges that datafication and algorithmic logics pose for governance, privacy, and human agency, and ponder the question: what does it mean to stay human...
2024-03-1033 min
KI verstehenKI und Lügen - Trickst uns Künstliche Intelligenz bald aus?Künstliche Intelligenz hat das Täuschen gelernt. Es gibt bereits Fälle, in denen die Systeme Menschen belogen haben. Manche Experten fragen sich: Können wir den Maschinen, die wir erschaffen, überhaupt noch trauen? In dieser Folge erzählt Piotr von KIs, die illegale Geschäfte vertuschen und sich als Mensch mit Sehbehinderung ausgeben, während Ralf sich an eine Horrorvision aus Stanley Kubricks “2001: Odyssee im Weltraum” erinnert fühlt.Kapitelmarken(04:30) Eine KI fällt Mitspielern in den Rücken – obwohl sie ehrlich sein soll(08:59) Das Sprachmodell GPT-4 vertuscht einen Regelverstoß(10:43) GPT-4 gibt sich als Mensch mit Seh...
2024-02-1527 min
Stadtbibliothek StuttgartGezähmte Bots: Wer soll Künstliche Intelligenz regulieren – und wie?Thilo Hagendorff, Tobias Keber, Michael Weyrich Podiumsdiskussion
2023-11-081h 24
Data SkepticEmergent Deception in LLMsOn today's show, we are joined by Thilo Hagendorff, a Research Group Leader of Ethics of Generative AI at the University of Stuttgart. He joins us to discuss his research, Deception Abilities Emerged in Large Language Models. Thilo discussed how machine psychology is useful in machine learning tasks. He shared examples of cognitive tasks that LLMs have improved at solving. He shared his thoughts on whether there's a ceiling to the tasks ML can solve.
2023-10-0927 min
Direktdurchwahl: Reden wir über künstliche IntelligenzEthische Fragen der künstlichen IntelligenzWas soll KI eigentlich können?
Über ethische Fragen in Zusammenhang mit KI sprechen Beiter und Klügel mit Dr. Thilo Hagendorff, KI-Ethiker im Exzellenzcluster „Maschinelles Lernen – Neue Perspektiven für die Wissenschaft“ an der Universität Tübingen. Er plädiert für eine „ethische Atmosphäre“ an den Fakultäten, so dass Studierende verantwortungsbewusste Entwickler:innen von Technologie werden. Denn wer KI-Systeme entwickle, habe viel Macht. „KI-Systeme werden möglicherweise am Ende von Millionen oder sogar Milliarden von Menschen benutzt – eine große Verantwortung“, sagt Hagendorff im Interview. Eine gekürzte Fassung dieses Interviews ist zudem auf cyber-valley.de [https://cybe...
2021-11-1244 min
Tier und Jetzt - Ein Podcast von Animal SocietyFolge 2: Thilo Hagendorff - Sind wir blind für das Leid von Tieren geworden?Wie konnte es dazu kommen, dass die Nutzung und Ausbeutung von Tieren solche massiven Dimensionen erreicht hat? Sind wir Menschen dem Tierleid gegenüber blind geworden? Wie können wir Tiere, obwohl sie so anders sind, räumlich und sozial in unserer Gesellschaft integrieren?Diese und viele weitere Fragen erwarten euch in der zweiten Folge von Tier und Jetzt! In dieser Episode haben wir mit Thilo Hagendorff über sein jüngst erschienenes Buch gesprochen: “Was sich am Fleisch entscheidet - Die politische Bedeutung von Tieren.” Thilo Hagendorff ist Wissenschaftler und Sachbuchautor und forscht u.a. zum Schwerpu...
2021-09-2343 min
Der 8. TagWarum essen wir Tiere? (Express)Thilo Hagendorff beschäftigt sich seit über einem Jahrzehnt mit der Rolle von Tieren in der Gesellschaft – er hat unzählige Tierfabriken von innen gesehen und Tierschutzskandale aufgedeckt. In seinem neuen Buch „Was sich am Fleisch entscheidet“ betrachtet er die Fehlentwicklungen unseres Systems in unterschiedlichen Bereichen: Ökologie, Gesundheit, Ernährung, Politik. Im Gespräch mit Alev Doğan präsentiert er die Ergebnisse seiner Recherchen und reflektiert über die politische Bedeutung unseres Essverhaltens. Was sagt unser Verhältnis zu Tieren über uns aus? Welche ideologischen Mechanismus führen zur Akzeptanz und Unterstützung von Gewalt gegenüber Tieren? Im Achten Tag plädiert der Eth...
2021-06-0706 min
Chaos Computer Club - archive feed (high quality)Diskriminierende Algorithmen: Technische oder soziale Frage? (dgwk2021)Wie über und durch Algorithmen diskriminiert wird. Zunehmend mehr Entscheidungen werden von automatisierten Computeralgorithmen getroffen und oft unhinterfragt akzeptiert. Dadurch motiviert, diskutieren wir, wie diese Technikgläubigkeit gesellschaftliche Probleme nicht nur reproduziert, sondern auch verstärkt. Eine Einführung in die Funktionsweise der entsprechenden Algorithmen illustriert, warum dieses Problem technisch nicht lösbar ist und es sich im Kern um ein soziales Problem handelt. Nach einem Blick auf die Schweiz und darüber hinaus schliessen wir mit potentiellen Lösungsansätzen.Zunehmend mehr Entscheidungen in der Privatwirtschaft und staatlichen Institutionen werden von automatisierten Computeralgorithmen getroffen. Meist unbemerkt erleichtern Algorithmen mühselige A...
2021-02-2639 min
re:publica 17 - All SessionsEmpathie-Maschinen? - Virtual-Reality-Datenbrillen im Einsatz für gute ZweckeVR-Datenbrillen ermöglichen es, immersiv aus der Perspektive eines Avatars zu agieren und quasi beliebige virtuelle Handlungszusammenhänge sowohl kognitiv als auch emotional nachvollziehen zu können. Dementsprechend existiert eine Vielzahl an Anwendungen, welche darauf ausgelegt sind, Empathie mit in der VR erscheinenden Individuen zu erzeugen. Die Frage, welcher im Vortrag nachgegangen werden soll, lautet demnach, ob VR-Datenbrillen die Bezeichnung „Empathie-Maschinen“ zurecht tragen – oder ob es nicht auch gegenläufige Momente gibt.
Thilo HagendorffDie Unterscheidung zwischen natürlicher und virtueller Realität soll durch VR-Technologien langfristig aufgehoben werden. VR-Datenbrillen initiieren so gleichsam eine neue Generation an immersiven Medieninhalten. Diese ermögli...
2017-05-0930 min