Zum Hauptinhalt springen

Studierende bekämpfen Hate Speech

Pin It

Studierende und Wissenschaftler der HM haben einen „KI-HateSpeech
Detector“ entwickelt, um Hass und Hetze im Netz zu bekämpfen – für ein
effizientes und kostengünstiges Community Management

Am internationalen Tag für Betroffene von Hasskriminalität stellt die
Hochschule München (HM) eine innovative Lösung gegen Hasskommentare im
Internet vor. Studierende sowie wissenschaftliche Mitarbeiter der Fakultät
für Wirtschaftsinformatik entwickelten gemeinsam einen „KI-HateSpeech
Detector“. Dieser hilft insbesondere Internet-Foren mit begrenzten
Ressourcen, Hass und Hetze effektiv einzudämmen. Denn das erarbeitete
Konzept ermöglicht eine automatisierte und kostengünstige Unterstützung
der Moderation von Kommentaren.

Mit Teamwork zum Ziel: Hassrede eindämmen
Die Studierenden konzipierten die Anwendung über zwei Semester in mehreren
Teams. Ein Team konzentrierte sich beispielsweise auf die Entwicklung
eines „Webcrawlers“, der Foreninhalte effizient durchsucht und
Leserkommentare selektiert – und das besonders schnell, ohne die
Funktionalität des Forums zu beeinträchtigen. Besonders wichtig waren
dabei die Benutzerfreundlichkeit und der Datenschutz: Der Webcrawler ist
so gestaltet, dass auch Nutzer und Nutzerinnen ohne technisches Fachwissen
ihn einfach bedienen können und sensible Daten sicher verarbeitet werden.
Andere Teams entwickelten das Tool weiter, um die markierten Texte für
eine KI-basierte Analyse vorzubereiten und schließlich nach „Hassrede“
oder „Nicht-Hassrede“ zu klassifizieren.

Webanwendung für die Kommentarmoderation
Die Studierenden arbeiteten in diesem Schritt an einer Webanwendung, um
Hasskommentare so präzise wie möglich zu erkennen und richtig einzuordnen.
Grundlage dafür bildete ein neuartiges KI-Modell, das mit einem eigens
erstellten Datensatz von über 34.000 Beispielen trainiert wurde. Wollen
Betreibende ein Online-Forum moderieren, geben sie dafür die URL der zu
überprüfenden Webseite ein und erhalten eine Übersicht der klassifizierten
Hasskommentare. Mitarbeitende können diese dann sichten, überprüfen,
löschen oder melden. Mit der neuesten Version können Zuständige außerdem
den Kommentarbereich nach bestimmten Regeln eingrenzen und ein
übersichtliches Monitoring erhalten.

Erfolgreiche Testphase mit Praxispartner
Der in der Anwendung verwendete KI-Klassifikator wurde im Rahmen des
Forschungsprojekts HSDetector (gefördert Freistaat Bayern, Fördernummer
DIK-2104-0033// DIK0278/01) in enger Zusammenarbeit mit der Ippen Digital
GmbH & Co. KG und der Bival GmbH entwickelt und getestet. Dabei begleitete
ein Projektteam der HM auch die Implementierung in bestehende
Arbeitsprozesse. Der auf diesem Projekt aufsetzende „KI-HateSpeech
Detector-Prototyp“ stellt eine für die Praxis benutzerfreundliche
Oberfläche bereit, die eine effiziente Moderationsunterstützung der
Online-Foren ermöglicht. Die Anwendung sowie der KI-Klassifikator werden
ständig weiterentwickelt und sollen in Zukunft auch die Vorgaben des neuen
Digital Service Act für Online-Anbieter berücksichtigen