Neue Wege gegen Cybermobbing und Hatespeech - BMBF-Projekt CYLENCE startet unter Führung der TU Darmstadt

Darmstadt. Das Bundesministerium für Bildung und Forschung (BMBF) fördert seit dem 1. August 2023 das für drei Jahre ausgelegte Konsortialprojekt „Entwicklung von Strategien und Werkzeugen zur medien-übergreifenden Meldung, Erkennung und Behandlung von Cybermobbing und Hassbotschaften in Ermittlungs- und Strafverfolgungsbehörden“ (CYLENCE) mit 1,6 Mio. Euro. Koordiniert wird der Verbund aus Forschungs-, Entwicklungs- und Anwendungspartnern vom Lehrstuhl Wissenschaft und Technik für Frieden und Sicherheit (PEASEC) der Technischen Universität Darmstadt.

Ziel des interdisziplinären Projekts ist es, Ermittlungs- und Strafverfolgungsbehörden (ESBs) und zugehörige Meldestellen durch neue Strategien und Technologien bei der Erkennung, Meldung und Behandlung von Cybermobbing und Hassbotschaften zu unterstützen. Es entstehen Strategien und Werkzeuge, die einerseits unter Zuhilfenahme von künstlicher Intelligenz (KI) die Erfassung und Auswertung öffentlicher Daten durch ESBs ermöglichen, andererseits die Meldung von Cybermissbrauch durch neuartige Kanäle für die Bevölkerung unterstützen. „Umfragen aus den letzten Jahren zeigen, dass die Betroffenheit durch Cybermobbing und Hassbotschaften in Deutschland kontinuierlich gestiegen ist – sowohl im beruflichen als auch privaten Umfeld. Neben den körperlichen und psychischen Beschwerden der Betroffenen entstehen wirtschaftliche Schäden in Unternehmen, etwa durch Krankheitstage und Produktionsausfälle“, erklärt Christian Reuter, Professor an der TU Darmstadt und Koordinator des Projekts.

Auf Bundes- und Länderebene fungieren ESBs und Meldestellen als wichtige Anlaufstellen für präventive und reaktive Maßnahmen bei Cybermissbrauch. „Die Meldestelle Hessen gegen Hetze hat in den letzten drei Jahren nahezu 9.000 Hassbotschaften aufgenommen, die sich zumeist auf bestimmte Berufsgruppen, die Nationalität, politische Einstellungen, Religion und ethnische Zugehörigkeit beziehen. Seit Februar 2022 betrifft dies auch immer wieder strafbare und extremistische Inhalte im Kontext des russisch-ukrainischen Konflikts“, erklärt Dr. Marc-André Kaufhold, Postdoktorand der TU Darmstadt und CYLENCE-Projektmanager, der im engen Austausch mit der Meldestelle des Hessen CyberCompetenceCenter steht.

„Zur Stärkung der zivilen Sicherheit müssen daher zunächst organisationale und zukunftssichere Strategien zur Erfassung und Reaktion auf Cybermissbrauch in den zuständigen Behörden und Meldestellen geschaffen werden“, ergänzt Prof. Milad Mirbabaie, der zu Projektbeginn eine Markt- und Anforderungsanalyse für den organisationalen Einsatz automatisierter Detektionswerkzeuge an der Universität Paderborn durchführen wird. Aufgrund der unübersichtlichen Informationslage im Internet ist die Auswertung und Behandlung der Vorfälle nämlich eine große Herausforderung. „In den nächsten drei Jahren möchten wir Methoden und Technologien zur flexiblen und effizienten Erkennung von Cybermissbrauch entwickeln“, erklärt Kaufhold.

„Mit der Automatisierung aufwendiger Bearbeitungsprozesse wird der geplante Demonstrator Behörden und Meldestellen befähigen, Cybermissbrauch effizient aus öffentlichen Medien zu extrahieren, Meldungen von Betroffenen aus unterschiedlichen Kanälen zu bündeln und diese unter Nutzung von KI-Methoden zu analysieren“, konkretisiert Christoph Fuchß, Vorstand der Virtimo AG, die als Unternehmen für Softwareentwicklung und IT-Beratung die technische Entwicklung der Plattform verantwortet. „Auf strategischer Ebene fließen die Ergebnisse zudem in präventive Informations- und Sensibilisierungsmaßnahmen, aber auch nachbereitende Beratungs- und Unterstützungsangebote ein, die von den ESBs für die Kommunikation mit der Bevölkerung verwendet werden“, resümiert Prof. Stefan Stieglitz, der an der Universität Potsdam Strategien und Werkzeuge zur Meldung, Kommunikation und Sensibilisierung von Cybermissbrauch erforschen wird.

Dem Projektkonsortium gehören drei Forschungspartner und ein Entwicklungspartner an: Neben dem Lehrstuhl Wissenschaft und Technik für Frieden und Sicherheit (PEASEC) der Technischen Universität Darmstadt (Prof. Dr. Dr. Christian Reuter) ist die SAP-Stiftungsprofessur Wirtschaftsinformatik und Digitale Transformation (DIGICAT) der Universität Potsdam (Prof. Dr. Stefan Stieglitz), die Juniorprofessur Wirtschaftsinformatik, insbesondere Digital Society (DISCIETY), der Universität Paderborn sowie die Virtimo AG als Konsortialpartner am Projekt beteiligt. Als assoziierte Partner wirken die Meldestelle „Hessen gegen Hetze“ des Hessen Cyber Competence Center (Hessen3C), die Stabstelle „Gemeinsam Sicher in Hessen“ des Hessischen Ministeriums des Innern und für Sport (HMdIS), die Initiative „Präventiv und offensiv gegen Hasskriminalität, Antisemitismus und Extremismus des Landespolizeipräsidium Baden-Württemberg (LBW), die HateAid gGmbH und die Digitalstadt Darmstadt GmbH mit. Das Projekt wird im Rahmen des Programms „Forschung für die zivile Sicherheit 2018 –2023“ gefördert.

Über die TU Darmstadt
Die TU Darmstadt zählt zu den führenden Technischen Universitäten in Deutschland und steht für exzellente und relevante Wissenschaft. Globale Transformationen – von der Energiewende über Industrie 4.0 bis zur Künstlichen Intelligenz – gestaltet die TU Darmstadt durch herausragende Erkenntnisse und zukunftsweisende Studienangebote entscheidend mit.
Ihre Spitzenforschung bündelt die TU Darmstadt in drei Feldern: Energy and Environment, Information and Intelligence, Matter and Materials. Ihre problemzentrierte Interdisziplinarität und der produktive Austausch mit Gesellschaft, Wirtschaft und Politik erzeugen Fortschritte für eine weltweit nachhaltige Entwicklung.
Seit ihrer Gründung 1877 zählt die TU Darmstadt zu den am stärksten international geprägten Universitäten in Deutschland; als Europäische Technische Universität baut sie in der Allianz Unite! einen transeuropäischen Campus auf. Mit ihren Partnern der Rhein-Main-Universitäten – der Goethe-Universität Frankfurt und der Johannes Gutenberg-Universität Mainz – entwickelt sie die Metropolregion Frankfurt-Rhein-Main als global attraktiven Wissenschaftsraum weiter.
www.tu-darmstadt.de

MI-Nr. 34/2023, mih

Wissenschaftlicher Ansprechpartner:
Technische Universität Darmstadt
Wissenschaft und Technik für Frieden und Sicherheit (PEASEC)
https://peasec.de/

Dr. Marc-André Kaufhold
E-Mail: kaufhold@peasec.tu-darmstadt.de
Tel.: 06151/16-2094-2

Prof. Dr. Dr. Christian Reuter
E-Mail: reuter@peasec.tu-darmstadt.de

Weitere Informationen:
http://Weitere Informationen zu CYLENCE unter: https://peasec.de/cylence