Workshop 08: Diskriminierung durch Algorithmen. Erkennen – sensibilisieren – austricksen (Raum: U2-205)

Beschreibung:

Aus der Forschungsliteratur zu selbstlernenden Systemen wissen wir, dass diverse KI-basierte Systeme oftmals Bias (re-)produzieren und somit Ungleichheit und Exklusion verstärken (Tulodziecki 2020). Lopez (2021) beschreibt, wie bestimmte Gruppen aufgrund eines ‚ racial bias‘  unsichtbar, übermäßig sichtbar oder verzerrt abgebildet werden. Gleichzeitig werden gesellschaftliche Bias und Stereotype (re-)produziert, indem strukturelle Ungleichheiten, die in der Gesellschaft vorherrschen, von Algorithmen und künstlicher Intelligenz (KI) abgebildet, betont und verstärkt werden. Studien zeigen, dass die Nutzer*innen oft die algorithmische Kuratierung diverser KI-getriebenen Dienste nicht wahrnehmen, bzw. nicht als problematisch und diskriminierend einschätzen (MeMo:Ki 2021; Overdiek & Petersen, 2022). Für ein selbstbestimmtes (souveränes) Leben mit digitalen Medien ist jedoch ein informierter, reflektierter, kritischer – kompetenter – Umgang mit KI notwendig (Digitales Deutschland 2021). Dies trifft insbesondere für Gruppen zu, die von (digitaler) Ungleichheit besonders geprägt sind, wie beispielsweise Migrant*innen, Frauen oder Menschen im hohen Lebensalter (Neag et al., 2022; Gruber & Hargittai 2023).

Das Ziel des Workshops ist im Dialog mit Akteuren der Wissenschaft, aktivistischer Netzwerke und Medienpraxis Herangehensweisen zu erarbeiten, wie algorithmenvermittelte Diskriminierung, bzw. Diskriminierung durch KI-Systeme im Alltag erkennbar gemacht werden kann und wie digitaler Ungleichheit ausgesetzte Gruppen dafür sensibilisiert und zum kompetenten Umgang ermächtigt werden können.

Der Workshop startet mit einem kurzen wissenschaftlichen Input über aktuelle Studien zur algorithmischen Diskriminierung und gesellschaftlichen Wahrnehmung der Diskriminierung durch KI-Systeme. Der Einstieg liefert eine Ausgangsbasis der problemzentrierten Gruppenarbeit, bei der Anstöße für die Förderung des kompetenten Umgangs mit KI erarbeitet werden.

Dr. Anne Mollen berichte aus Ihrer Forschung und politischen Arbeit bei AlgorithmWatch und an der Universität Münster im Bereich Automatisierung und Algorithmen. Der Kurzimpuls skizziert, die Ursachen von algorithmenbasierter Diskriminierung, warum diese oft unerkannt bleibt und welche Schutzmaßnahmen es gibt. Es wird um die Frage gehen, welche Rolle die Zivilgesellschaft spielen kann, um Menschen für algorithmenbasierte Diskriminierung zu sensibilisieren, an welchen Stellen im Prozess der Automatisierung Handlungsbedarf besteht, um algorithmenbasierte Diskriminierung zu verhindern, und welche Perspektiven dies für medienpädagogische Arbeit eröffnet?

Durchführende:

• Dr. Anne Mollen, WWU Münster, AlgorithmWatch
• Maximilian Schober, JFF München

Moderation:

• Moderiert wird die Veranstaltung durch Dr. Laura Sūna und Univ.-Prof. Dr. phil. Dagmar Hoffmann. Gemeinsam mit den Teilnehmenden des Workshops wird anhand interaktiver Beteiligungsformate das Thema Diskriminierung durch Algorithmen verhandelt und Förderbedarfe für Politik, Zivilgesellschaft sowie Anregungen für medienpädagogische Arbeit erarbeitet.

Eine Kurz-Vita zu allen Beteiligten finden Sie auf der Personen-Seite.

Bookings