Warum automatische Verfahren bei der Detektion von Hate Speech nur die halbe Miete sind

Zusammenfassung

In diesem Kapitel wird die diskursive Aushandlung des Phänomens Hate Speech aufgezeigt. Zwar gibt es eine eindeutige Definition, die die verbale Gewalt und die diskriminierende Dimension hervorhebt. Ein Blick in Soziale Medien zeigt jedoch, dass diskriminierende, hetzerische Äußerungen von ihren Urheber*innen als Kritik oder Ausagieren von Meinungsfreiheit ausgewiesen werden. Solche metakommunikativen Rahmungen könnten die Identifizierung von HateSpeech ebenso erschweren wie die Tatsache, dass menschenverachtendes, diskriminierendes Potenzial nicht notwendigerweise auf der sprachlichen Oberfläche sichtbar wird. Darüber hinaus muss auch beachtet werden, dass es Äußerungen gibt, die anhand ihres expliziten sprachlichen Materials den Anschein erwecken Hate Speech zu sein. De facto handelt es sich aber um von allen Interagierenden akzeptierte Formen der Ingroup-Kommunikation. An Fallbeispielen wird veranschaulicht, wie die qualitative Analyse in solchen Fällen für Klarheit sorgen kann, und weshalb sie – dafür wird plädiert – zusätzlich zur automatischen Detektion von Hate Speech durchzuführen ist.