{"id":415,"date":"2021-10-21T14:39:56","date_gmt":"2021-10-21T12:39:56","guid":{"rendered":"https:\/\/blog.zhaw.ch\/digital-futures-lab\/?p=415"},"modified":"2021-10-21T16:09:46","modified_gmt":"2021-10-21T14:09:46","slug":"wie-viel-schweizer-hate-speech-gibt-es-auf-social-media","status":"publish","type":"post","link":"https:\/\/blog.zhaw.ch\/digital-futures-lab\/2021\/10\/21\/wie-viel-schweizer-hate-speech-gibt-es-auf-social-media\/","title":{"rendered":"Wie viel Schweizer Hate Speech gibt es auf Social Media?"},"content":{"rendered":"\n

Schweizer Jugendliche treffen im Internet h\u00e4ufig auf Hate Speech. Das geht aus dem JAMESfocus-Bericht der ZHAW in Zusammenarbeit mit Swisscom hervor. Aber \u00fcber die Verbreitung von Hate Speech und Fake News in der Schweiz gibt es nur wenige Daten. <\/strong>Pius von D\u00e4niken<\/strong><\/a> vom ZHAW Centre for Artificial Intelligence (CAI) erkl\u00e4rt, warum das so ist.<\/strong><\/p>\n\n\n\n

Seit 2010 erhebt die ZHAW im Auftrag von Swisscom im Rahmen der JAMES-Studie den Medienumgang von Jugendlichen in der Schweiz. Im JAMESfocus-Bericht 2021 befragte die ZHAW Jugendliche in der Schweiz zu Hate Speech<\/a>. Herausgegeben wird die JAMES-Studie von der Fachgruppe Medienpsychologie des ZHAW Departements Angewandte Psychologie. Aber auch andere ZHAW-Departemente sind an dem Thema interessiert.<\/p>\n\n\n\n

Natural Language Processing zur Analyse der Daten<\/strong><\/p>\n\n\n\n

In der Umfrage kam heraus, dass rund die H\u00e4lfte der befragten Jugendlichen mehrmals pro Woche oder h\u00e4ufiger auf Hasskommentare im Internet trifft. Betroffen sind besonders die 16- bis 19- J\u00e4hrigen. \u00abIn der Umfrage sieht man klar, dass das ein Thema ist, dass die Jugendlichen betrifft\u00bb, sagt Pius von D\u00e4niken. Er ist wissenschaftlicher Assistent am Centre for Artificial Intelligence (CAI) der ZHAW School of Engineering. \u00abAber es ist eine offene Frage, wie hoch der Anteil an Hate Speech im Verh\u00e4ltnis zu anderen Inhalten auf Social Media ist\u00bb, sagt Pius. Genau das will er in seinem DFF-Projekt<\/a> erarbeiten.<\/p>\n\n\n\n

Um diese Relation abzubilden k\u00f6nne n\u00e4mlich Natural Language Processing (NLP) helfen. Der Schwerpunktbereich NLP am CAI besch\u00e4ftigt sich mit dem maschinellen Verstehen von menschlicher Sprache in gesprochener und schriftlicher Form. Um mithilfe von NLP den Anteil von Hate Speech auf Social Media zu quantifizieren, braucht es Datens\u00e4tze, also eine grosse Menge an Schweizer Social-Media-Posts, die klassifiziert und anschliessend analysiert werden k\u00f6nnen. Dabei gibt es mehrere Herausforderungen, wie die Sprachenvielfalt in der Schweiz und die unklare Definition von Hate Speech.<\/p>\n\n\n\n

Sprachenvielfalt und Schweizer Dialekte<\/strong><\/p>\n\n\n\n

Die bestehende Forschung, um mit NLP Hate Speech zu identifizieren ist zu einem Grossteil auf Englisch, einschliesslich der Datens\u00e4tze. Auch auf Hochdeutsch gibt es Datens\u00e4tze, die bereits von Universit\u00e4ten in Deutschland aufbereitet werden. Auf die Schweiz sind diese Daten aber nur bedingt anwendbar. \u00abIn der deutschen Sprachregion der Schweiz verfassen die Jugendlichen ihre Social-Media-Posts in ihrem jeweiligen Dialekt. Und es gibt nur eine begrenzte Datengrundlage auf Schweizerdeutsch\u00bb, erkl\u00e4rt Pius. Viele W\u00f6rter werden beispielsweise je nach Dialekt anders geschrieben, da es keine einheitliche Orthografie gibt.<\/p>\n\n\n\n

Hinzu kommt die abweichende Verwendung der Sprache in den sozialen Medien. Wenn ein System mit journalistischen Texten trainiert wird, greift man hier auf standardisierte Texte zu, die von einem Lektor auf ihre Rechtschreibung und Grammatik hin \u00fcberpr\u00fcft wurden. \u00abDie Sprachverarbeitung in den sozialen Medien ist besonders schwierig. Dort postet jeder, wie er will\u00bb, sagt Pius. Auf Plattformen wie Twitter, deren Textl\u00e4nge pro Tweet beschr\u00e4nkt ist, werden die Userinnen und User besonders kreativ. \u00abDie Userinnen und User nutzen wegen der Textbeschr\u00e4nkung kreative Abk\u00fcrzungen. Ein Twitter-Korpus beinhaltet also viel mehr W\u00f6rter, da er Fehler enth\u00e4lt sowie Emojis und ein spezielles Vokabular von Subkulturen. Es ist immer schwierig, mit Text aus den sozialen Medien zu arbeiten, egal in welcher Sprache. In der Schweiz kommen die Sprachvielfalt und die vielen Dialekte noch hinzu\u00bb, erkl\u00e4rt Pius.<\/p>\n\n\n\n

Wer entscheidet, was Hate Speech ist?<\/strong><\/p>\n\n\n\n

Eine weitere Herausforderung ist die Definition von Hate Speech. Um das System zu trainieren, ist es zun\u00e4chst n\u00f6tig, die Textbestandteile als Hate Speech zu kennzeichnen \u2013 oder eben nicht. Diese Annotation wird von Menschen vorgenommen, um sie anschliessend dem System beizubringen. \u00abWenn wir Texte annotieren lassen, ist es wichtig, sehr pr\u00e4zise Annotation-Guidelines zu haben. Es gibt zwar eine allgemeine Definition f\u00fcr Beleidigung, aber was die Leute schliesslich als beleidigend empfinden ist breiter als die legale Definition des Ph\u00e4nomens\u00bb, sagt Pius. Darum werden die Texte auch von verschiedenen Personen annotiert. \u00abDie Menschen sind auf verschiedene Arten von Hate Speech unterschiedlich sensibilisiert. So empfinden Frauen manche Posts beispielsweise als sexistisch, aber M\u00e4nner w\u00fcrden das m\u00f6glicherweise nicht als Hate Speech erkennen.\u00bb<\/p>\n\n\n\n

K\u00fcnftig k\u00f6nnten die Erkenntnisse aus dem Projekt auch im Rahmen der JAMES-Studie verwendet werden. So k\u00f6nnte noch genauer abgebildet werden, wie weit verbreitet Hate Speech unter Jugendlichen in der Schweiz ist.<\/p>\n\n\n\n

Diskutiert mit am Event von ZHAW digital zum Thema Hate Speech!<\/em><\/strong><\/p>\n\n\n\n

In der Veranstaltung von ZHAW digital \u00abHass via Messenger: Hate Speech, politische Polarisierung und Demokratie\u00bb sprechen wir mit <\/em>Sophie Achermann<\/em><\/a>, <\/em>Judith M\u00f6ller<\/em><\/a> und <\/em>C\u00e9line K\u00fclling<\/em><\/a> dar\u00fcber, wie Hass im Internet und politische Polarisierung in Filterblasen nicht nur den Menschen schaden, sondern auch unsere Demokratie gef\u00e4hrden k\u00f6nnen, was dagegen unternommen wird, worauf man achten sollte und wie man die Technologie zur Unterst\u00fctzung einsetzen kann. <\/em>Jetzt anmelden f\u00fcr das Event am 18. November 2021!<\/em><\/a><\/p>\n\n\n\n