Heute ist der Internationale Aktionstag für Betroffene von Hasskriminalität. Grund genug, das Thema Hatespeech noch einmal genauer zu beleuchten. In der digitalen Welt begegnet es uns täglich: Beleidigungen, Diskriminierungen und Hassbotschaften verbreiten sich rasant. Die Folgen? Viele ziehen sich aus Online-Diskussionen zurück und der Diskurs geriet aus dem Gleichgewicht. Doch wie wirkt sich Hatespeech auf Betroffene aus und welche Rolle spielt KI? Die Antworten findet ihr in unserem Beitrag.
Auswirkungen von Hatespeech
Psychische Gesundheit: Opfer von Hatespeech leiden oft unter erheblichen psychischen Belastungen. Studienergebnisse zeigen, dass Menschen während der Perzeption von Hassrede unwillkürlich und selbst in Labor-Settings verstärkt Stress und negative Emotionen empfinden (Neitsch & Niebuhr 2020 c,d.)
Gesellschaftlicher Zusammenhalt: Hassbotschaften spalten und schaffen ein Klima der Feindseligkeit und Intoleranz. Dies steht im Widerspruch zu den Werten einer offenen und respektvollen Gesellschaft.
Rechtliche Konsequenzen: Hatespeech ist in vielen Ländern strafbar. Unternehmen und Einzelpersonen können rechtlich zur Verantwortung gezogen werden, wenn sie sich an der Verbreitung von Hassbotschaften beteiligen.
KI & Hate Speech
Aufgrund der fehlenden Moderation treten problematische Inhalte besonders oft in sozialen Netzwerken auf. Durch die große Anzahl an Nachrichten können solche Inhalte oftmals nur automatisch erkannt werden, z. B. durch Methoden des maschinellen Lernens und der automatischen Sprachverarbeitung (Mandl, 2023).
Wie Trainingsdaten helfen können
Bei der Bewertung von menschlichen Texten durch Computer rücken die ethische Dimension und vor allem der schmale Grat zwischen Meinungsfreiheit und Zensur in den Fokus (Mandl, 2023). Algorithmen erstellen Klassifikationsverfahren anhand vieler Beispiele, um nach ähnlichen Beiträgen zu suchen. Die für das Training verwendeten Texte sind für die Entwicklung von KI-Verfahren entscheidend.
Warum der Kontext so wichtig ist
Eine der großen Herausforderungen bei der Annotation von Hassrede für den Aufbau von Trainingsdaten ist der fehlende Kontext. In einer Studie befragten Forscher*innen sowohl die Sender als auch die Empfänger von problematischen Inhalten, beide Gruppen bewerteten die jeweilige Äußerung völlig unterschiedlich. Während die Empfänger diese teilweise als psychologisch sehr belastend wahrnahmen, hielten die Sender ihre Botschaften für eher unproblematisch und empfanden empfindliche Reaktionen darauf als überzogen und nicht nachvollziehbar (Jhaver et al., 2018).
Was können wir tun?
Aufklärung: Sensibilisierung und Aufklärung über die Auswirkungen von Hatespeech sind entscheidend. Nur wer die Folgen versteht, kann sich aktiv dagegen einsetzen.
Verantwortung übernehmen: Jeder von uns hat die Verantwortung, gegen Hatespeech vorzugehen. Das bedeutet, nicht wegzusehen, sondern aktiv zu handeln – sei es durch das Melden von Hassbotschaften oder durch Unterstützung der Betroffenen.
Positive Kommunikation fördern: Wir sollten uns für eine respektvolle Kommunikationskultur aussprechen. Worte haben Macht, und wir sollten sie weise und zum Wohl aller einsetzen.)
Du möchtest dein digitales Umfeld sicherer und fairer gestalten und etwas gegen Hatespeech tun? Dann erfahre mehr über conversario und engagently und besuche unsere Websites oder kontaktiere uns unter contact@conversar.io.
Quellen:
Jhaver, S., Ghoshal, S., Bruckman, A., & Gilbe, E. (2018). Online harassment and content moderation: The case of blocklists.ACM Transactions on Computer-Human Interaction (TOCHI) 12. https://doi.org/10.1145/3185593
Mandl, T. (2023). KI-Verfahren für die Hate Speech Erkennung: Die Gestaltung von Ressourcen für das maschinelle Lernen und ihre Zuverlässigkeit. In: Jaki, S., Steiger, S. (eds) Digitale Hate Speech. J.B. Metzler, Berlin, Heidelberg. https://doi.org/10.1007/978-3-662-65964-9_6
Neitsch, J., & Niebuhr, O. (2020c). Assessing hate-speech perception through bio-signal measurements: A pilot study. In Proc. Biosignale 2020, Kiel, Germany (S. 66–67).
Neitsch, J., & Niebuhr, O. (2020d). Hassrede und ihr direkter Einfluss auf die menschlichen Biosignale. In Proc. 16. Phonetik und Phonologie Konferenz, Trier