Mit Künstlicher Intelligenz gegen Hasskriminalität im Internet
Forscher der TU Berlin entwickeln ethische Anforderungen für den Einsatz von KI-Modellen in Polizeibehörden
Im Rahmen des Forschungsprojekts „KISTRA – Einsatz von Künstlicher Intelligenz (KI) zur Früherkennung von Straftaten“ hat die Technische Universität Berlin gemeinsam mit Verbundpartner*innen neue Erkenntnisse zur Anwendung von KI-gestützten Lösungen in der Strafverfolgung gewonnen. Ziel des vom Bundesministerium für Bildung und Forschung geförderten Projekts war es, KI-Modelle zu entwickeln, die Polizeibehörden dabei unterstützen, strafrechtlich relevante Hassrede wie Volksverhetzung in großen Datenmengen effizienter zu identifizieren.
Ethische Fragestellungen
Neben der technischen Entwicklung stand die Untersuchung ethischer und rechtlicher Fragestellungen im Fokus, auf die sich das Teilprojekt an der TU Berlin bezogen hat. „Unsere Forschung hat einen umfassenden Anforderungskatalog für den ethisch verantwortungsvollen Einsatz von KI in der Strafverfolgung hervorgebracht. Diese Anforderungen adressieren Aspekte wie Diskriminierungsfreiheit, Transparenz und die Wahrung der menschlichen Entscheidungsautonomie“, so Michael Hahne, Mitverantwortlicher des Projekts.
Erfahren Sie im ausführlichen Interview (https://www.tu.berlin/go269101/) mit Dr. Robert Pelzer und Michael Hahne mehr das Projekt.
Die Ergebnisse des Projekts tragen zur aktuellen Diskussion um den Einsatz von KI im sicherheitsbehördlichen Kontext bei und bieten wertvolle Ansätze für eine ethisch und rechtlich einwandfreie Implementierung solcher Systeme. „Zukünftige Herausforderungen bestehen vor allem in der Schaffung der notwendigen Infrastruktur und der Sicherstellung der Qualität der eingesetzten KI-Modelle“, betont Robert Pelzer, Projektleiter an der TU Berlin.
Technische Hilfe
Die Forschungspartner*innen haben KI-Modelle trainiert, die Beiträge aus Online-Plattformen nach potenziell strafrechtlich relevanten Äußerungen durchsuchen und diese vorsortieren. So können Strafverfolgungsbehörden schneller und gezielter Maßnahmen ergreifen. Das System ermöglicht es den Behörden, die manuelle Vorauswahl großer Datenmengen zu umgehen und sich direkt auf die strafrechtliche Einzelfallbetrachtung zu konzentrieren. Dies führt zu einer erheblichen Zeitersparnis und erhöht die Effizienz bei der Verfolgung von Straftaten.
Weitere Informationen erteilt Ihnen gern:
Dr. Robert Pelzer
Zentrum Technik und Gesellschaft TU Berlin
E-Mail: robert.pelzer@tu-berlin.de
Die semantisch ähnlichsten Pressemitteilungen im idw
