Das Wissensnetzwerk Rassismusforschung (WinRa) und das Forschungsnetzwerk Antisemitismus im 21. Jahrhundert (FoNA21) laden daher zu einem gemeinsamen Fachtag ins DeZIM-Institut ein. Wir wollen die problematischen Dynamiken von KI-Technologien sichtbar machen – und zugleich über Gestaltungsräume und Lösungsansätze diskutieren.
Denn das Problem beginnt oft dort, wo KI ihre Grundlage hat: in den Daten. Historische und aktuelle gesellschaftliche Ungleichheiten schreiben sich in Trainingsdaten ein – und mit ihnen rassistische und antisemitische Stereotype. Das zeigt sich etwa in diskriminierenden Gesichtserkennungssystemen, in automatisierten Recruiting-Tools, die People of Color systematisch benachteiligen, oder in der Verbreitung von antisemitischen und rassistischen Inhalten durch KI-generierte Texte und Bilder.
Gleichzeitig eröffnen KI-Technologien auch Chancen: für die Sichtbarmachung von Diskriminierung, für Monitoring und Intervention sowie für gerechtere technische und gesellschaftliche Lösungen. Welche Bedingungen es dafür braucht, ist eine der Leitfragen des Fachtags.
Im Mittelpunkt stehen unter anderem folgende Fragen:
- In welchen Bereichen tritt KI-gestützte Diskriminierung besonders deutlich zutage?
- Wie lassen sich rassistische und antisemitische Verzerrungen in KI-Systemen erkennen und verhindern?
- Welche politischen, rechtlichen und technologischen Weichenstellungen sind nötig, um KI diskriminierungssensibel und gerecht zu gestalten?
Der Fachtag bietet Raum für interdisziplinären Austausch zwischen Wissenschaft, Technik, Politik, Zivilgesellschaft und Medien. Ziel ist es, Debatten anzustoßen, Expertise zu bündeln – und gemeinsam an tragfähigen Lösungen zu arbeiten.
(vorläufiges) Programm
Ab 9:30 Registrierung
10:00 Begrüßung und Eröffnung Noa K. Ha und Aisha-Nusrat Ahmad
10:15 Jan Fillies: Zwischen Algorithmen und Sprache: Wie KI Hassrede erkennen (und wo sie scheitern) kann
10:45 Jessica Wulf: KI-Systeme und Diskriminierung – Herausforderungen durch Bildgenerierung, Algorithmen und Gesichtserkennung
11:15 Diskussion
11:30 Matthias J. Becker: Decoding Antisemitism – Linguistik trifft auf Machine Learning
12:15 Kaffeepause
12:30 Elisabeth Steffen: Mit KI gegen Antisemitismus in den Sozialen Medien
13:00 Özen Odağ: KI in der politischen Bildung: MATE als interaktive App gegen antisemitische Online-Codierungen
13:30 Jobst Paul/ Frederick Paul: KI als Instrument der kontextbasierten Analyse herabsetzender Rhetorik
14:00 Mittagspause
15:00 Serhat Karakayali: Die Grammatik des Bias: Über Maschinen, Sprache und Rassismus
15:45 Said Haider: KI gegen Rassismus?! Wie ein Chatbot Betroffene stärkt und neue Wege aufzeigt
16:15 Kaffeepause
16:30 Özgür Özvatan: KI und communitybasierte Anspracheformate
17:15 Abschlussdiskussion
17:30 Ende der Veranstaltung