CounterSpeech - Young People Against Online Hate

Computergestützte Strategien zur Unterstützung von Gegenrede in sozialen Medien

Hintergrund

Hass-Postings, Cyberbullying oder andere Arten von Übergriffen in den sozialen Medien treffen überwiegend die Jüngeren. Studien aus Deutschland und Österreich zeigen, dass vor allem die Altersgruppe der 12- bis 19-jährigen entweder bereits selbst Ziel von bösartigen, beleidigenden und herabwürdigenden Kommentaren war oder davon Zeuge geworden ist. Die Betreiber*innen sozialer Netzwerke reagieren auf das Problem zumeist mit Sanktionen, wie das Löschen von Kommentaren oder das Blockieren von Personen. Gegen diese Maßnahmen gibt es jedoch aus verschiedenen Gründen Vorbehalte: 1) Die Suchalgorithmen für das Aufspüren von Hasskommentaren hinken aufgrund der Vielfalt der Ausdrucksformen und weil sich die Inhalte und Sprache der Kommentare ständig wandeln immer etwas hinterher; 2) Die schiere Anzahl an böswilligen Inhalten ist allein durch menschliche Moderator*innen oder Vermittler*innen nicht zu bewältigen. Abgesehen davon ist es sehr belastend sich ständig mit Hasspostings auseinanderzusetzen. Wenig verwunderlich daher, dass es oft zu widersprüchlichen und schwer nachzuvollziehenden Maßnahmen und Entscheidungen kommt; 3) Zensur beschneidet die Meinungsfreiheit und bringt Hassposter mitunter nur dazu auf Plattformen mit weniger strengen Regeln zu wechseln (wie Gab oder Parler).

Projektinhalt

Weil Maßnahmen wie das Entfernen von Kommentaren oder das Ausschließen von Personen aus sozialen Netzwerken nicht die gewünschten Erfolge bringen, sind neue Wege anzudenken dem Hass im Netz beizukommen. Eine Methode ist die Förderung von “citizen-generated counter speech”, also Gegenrede. Dabei werden Internet-User*innen mobilisiert und dazu ermutigt Zivilcourage zu zeigen und Hassposter*innen deutlich zu signalisieren, dass ihr Verhalten nicht unwidersprochen hingenommen wird. Junge Leute sind sich darüber im Klaren, dass Online-Hass ein schwerwiegendes Problem darstellt, aber es gibt einige Hürden, die sie davon abhalten aktiv dagegen anzugehen. Zum Beispiel erachten sie es für wenig wirkungsvoll Kommentare zu schreiben oder die „Übeltäter*innen“ der jeweiligen Plattform zu melden (flagging). Sie fühlen sich machtlos und/oder verfügen nicht über die nötigen Fähigkeiten auf unangemessene Äußerungen angemessen zu reagieren oder fürchten selbst zum Opfer zu werden. Keine Rückmeldung darüber zu erhalten, ob Erwiderungen oder eine Gegenrede Wirkung zeigen, ist ein weiterer Hemmschuh.

Um junge Leute darin zu bestärken Widerspruch zu erheben, setzt das Projektteam auf automatischen Methoden zur Datensammlung, Datenanalyse und Datengenerierung. Die Sichtbarkeit von engagierten jungen Nutzer*innen, die gegen Hass-kommentare auftreten, soll erhöht und die Wirksamkeit ihrer Botschaften messbar gemacht werden. Es werden aber nicht nur Rückmeldungen darüber gegeben, inwieweit die Bemühungen fruchten, sondern auch kontextspezifische Vorschläge für eine angemessene Gegenrede gemacht. Das Projektteam stützt sich dabei nicht allein auf verbale Inhalte (Text) sondern betrachtet Gegenrede als multimodales Konzept, das neben Text auch Bilder, Symbole und Memes einschließt.

Ziel

Unser Projektteam umfasst Leute aus der Zielgruppe (aus der Jugendszene) und Expert*innen aus den Bereichen Informatik und Datenanalyse sowie den Sozialwissenschaften. Das übergeordnete Ziel ist es mit Hilfe von technischen Mitteln Gegenrede von Jugendlichen als Reaktion auf Hasspostings in sozialen Netzwerken sichtbarer zu machen und zu fördern bzw. dazu zu ermutigen öfter gegen Hasskommentare aufzutreten. Um dieses Ziel zu erreichen, entwickeln wir Datenanalysemethoden, die es möglich machen erfolgreiche Gegenrede automatisch aufzuspüren. Typische Muster von Gegenrede, die verschiedenen Verhaltensmuster der Nutzer*innen aber auch Einflussfaktoren wie Ausbildungsgrad und Genderaspekte werden dabei erfasst. Darüber hinaus untersuchen wir wie visuelle oder textuelle Information zusammenspielen und unter welchen Umständen eine dieser Ausdrucksformen bevorzugt wird oder nutzbringender ist. Aufbauend auf den gewonnenen Erkenntnissen, ermitteln wir Indikatoren für erfolgreiche Gegenrede und entwickeln semi-automatische Methoden mit denen sich kontextspezifischen Vorschläge für Gegenrede generieren lassen.

Methodik

Das Projekt ruht im Wesentlichen auf zwei Säulen. Zum einen kommen Methoden der Sozialwissenschaften zum Einsatz, die von qualitativen (z.B., Inhaltsanalysen) und quantitativen Analysen (e.g., Statistik) bis hin zur Feldforschung in einer Webumgebung reichen. Zum anderen werden Methoden des maschinellen Lernens (deep learning) für die Analyse, Klassifizierung und Modellierung von Sprache eingesetzt sowie Modelle zur Erzeugung von Gegenrede untersucht. Die Analyse stützt sich dabei nicht nur auf textuelle Daten, sondern bezieht auch Bildmaterial mit ein (multimodale Daten). Darüber hinaus integrieren wir Methodik, die bei Empfehlungssystemen bereits zum Einsatz kommt.

Ergebnis

Das Projektteam erprobt neue Methoden, um Beiträge junger Internetnutzer*innen, die sich gegen Hassposting stellen, aufzuspüren und zu klassifizieren. Die gesammelten Daten bilden die Grundlage, um erfolgreiche Strategien und kontextabhängig Vorschläge für Gegenrede zu entwickeln. Der Fokus der Untersuchungen umfasst dabei nicht nur textuelle, sondern auch auf visuelle Inhalte (z.B., Bilder). Die interdisziplinäre Ausrichtung des Projektteams sorgt dafür, dass der Untersuchungsgegenstand aus verschiedenen Blickwinkeln ausgeleuchtet wird und ein tieferes Verständnis für die Zusammenhänge zwischen Hass- und Gegenrede erreicht wird. Außerdem hilft es bei der Erstellung von Leitlinien darüber, wie Nutzer*innen, die Widerspruch äußern, aber auch dem digitalen Humanismus insgesamt, mehr Aufmerksamkeit verschafft werden kann.

Sie wollen mehr wissen? Fragen Sie nach!

Forschungsgruppenleiter
Forschungsgruppe Media Computing
Institut für Creative\Media/Technologies
Department Medien und Digitale Technologien
Arbeitsplatz: A - Campus-Platz 1
M: +43/676/847 228 652
Externe Projektleitung
Ulrike Zartler (lead)
Christine Atzmüller
PartnerInnen
  • Universität Wien
  • Österreichisches Institut für angewandte Telekommunikation
Finanzierung
WWTF
Laufzeit
01.09.2021 – 31.08.2024
Projektstatus
laufend
Beteiligte Institute, Gruppen und Zentren
Forschungsgruppe Media Computing
Institut für Creative\Media/Technologies