Heute ging es in der zweiten medianet KI-Sprechstunde des Jahres mit Paul Probst (CEO & Gründer von Gistable) um das Thema "KI gegen Hate Speech". Diesmal zu Gast war Jonas Al-Nemri vom Startup Penemue, das sich auf die präzise Erkennung toxischer Inhalte spezialisiert hat und Tools bietet, die besonders für Moderator*innen, Journalist*innen und öffentliche Personen geeignet sind. Danke, dass du dabei warst! 🩵
🤬 Hass im Netz wird zur Norm
Trollfarmen, Normalisierung des Tons, fehlende Moderation – Hate Speech ist allgegenwärtig und nimmt stetig zu.
🙅 Plattformen könnten mehr tun – wollen aber nicht
Laut Meta wollen Big Techs nicht "der große Zensor" sein. Verantwortung wird bewusst ausgelagert – z. B. an Startups wie Penemue.
⛔️ Blacklists reichen nicht
Wortfilter sind leicht zu umgehen. Moderne KI muss Kontext, Ironie und codierte Sprache verstehen – z. B. bei subtilen Suizidaufforderungen.
👼 Digitale Schutzengel per KI
Penemue erkennt und moderiert automatisch Hassbotschaften – inklusive Rechtsbewertung und direkter Anbindung an die Justiz.
⚠️ Hate Speech ist kein Kollateralschaden – sondern eine Gefahr für den demokratischen Diskurs
Schutz ist nicht nur Selbstschutz, sondern stärkt unsere Debattenkultur.
💡 Fazit: Hass wird lauter – aber KI kann helfen, ihn leiser zu stellen.
Es braucht Mut, Technologie und klare Haltung, um das Netz zu einem besseren Ort zu machen.
