GEWINN Fachtag, 25. Mai 2019, München: Gender in algorithmischen Systemen

Ziel des Verbundprojekts GEWINN ist es, Forschung zu Gender und Informatik in der Praxis nutzbar zu machen, “um weibliche Young Professionals in der Informatik auf ihrem Weg in Spitzenpositionen zu unterstützen.”¹ Im Mittelpunkt steht deshalb der Transfer von Wissen zwischen Unternehmen und Forschung. Das Projekt leistet so einen deutlichen Beitrag zu mehr Chancengerechtigkeit und ermöglicht eine Mitgestaltung des digitalen Wandels, die Diversität ernst nimmt.

Algorithmen – Fluch oder Segen?

Thema des Fachtags in München war das Verhältnis von algorithmischen Systemen und Gender. Algorithmen-basierte Bewertungsprozesse können grundsätzlich dabei helfen, persönliche Entscheidungen zu erleichtern. Im Alltag nutzen wir sie in Form von Einkaufs- oder Nachrichtenempfehlungen, doch die Anwedungsgebiete können auch komplexer sein als eine bloße Kaufempfehlung von Laufschuhen oder Büchern. Viele Unternehmen setzen bereits im Recruitingprozess auf automatisierte Matching-Verfahren. Der Wunsch dabei ist, dass ein Algorithmus die besten Bewerber*innen für das Unternehmen vorsortiert und sich die menschlichen HR-Mitarbeiter*innen auf die Ausgewählten konzentrieren können. Doch wie zuverlässig ist diese Auswahl? Denn selbstlernende Algorithmen nutzen zwar Daten aus der realen Welt, um zu lernen, doch lernen sie dabei vor allem, innerhalb des bestehenden Systems zu entscheiden. Heißt: Wenn ein Unternehmen bisher hauptsächlich männliche Bewerber mit dem Namen “Thomas” eingestellt hat, würde der Algorithmus das wahrscheinlich als funktionierende Einstellungspraxis bewerten und Bewerber*innen, die diesem Kriterium nicht entsprechen, direkt aussortieren. Dadurch würde der Einstellungsprozess vielleicht effizienter, aber das Unternehmen würde Potentiale, die aus der Diversität und Heterogenität von Teams entstehen, verlieren.

Wie kann also ein verantwortungsvoller Umgang mit algorithmischen Systemen aussehen? Welche Möglichkeiten können und müssen wir nutzen, um Menschen fair und neutral zu behandeln? Wenn wir eine gerechte Gesellschaft wollen, müssen wir auch darüber diskutieren, welche Daten für welchen Kontext relevant sind und welche Kriterien “Gerechtigkeit” und “Fairness” beinhalten. Diese und weitere spannenden Fragen wurden im Rahmen des 4. GEWINN-Fachtags „Gender in algorithmischen Systemen“ vorgestellt und diskutiert.

Vielfalt beginnt mit der Ansprache

Die Vielfalt der Vortragsthemen zeigte dabei, an wie vielen Stellen Gender eben doch eine Relevanz hat und wie auch, aber nicht nur, Informatiker*innen damit umgehen können oder sollten. Ganz handfeste Beispiele zeigten RyLee Hühne (FH Südwestfalen) und Cornelia Breitenstein (msg systems ag) mit der Angabe von Geschlechtsbezeichnungen in Formularen. Obwohl das dritte Geschlecht “divers” mittlerweile offiziell aufgenommen wurde, wird es in vielen Formularvorlagen – auch online – weiterhin nicht angeboten; ebenso für Anreden bleibt es oft bei der (begrenzten) Auswahl zwischen “Herr” und “Frau”. An dieser Stelle müssten auch die Programmierer*innen Verantwortung übernehmen und voranschreiten mit einer technischen Umsetzung, die Diversität unterstützt.

Sind wir in Zukunft alle Opfer des Systems?

Kreativ und interaktiv wurde es im Workshop “Designing Speculative Futures – A Feminist Approach” von Nushin Yazdani (Transformationsdesignerin, KI Ethik Researcherin). In unterschiedlichen fiktiven Szenarien konnten Teilnehmer*innen gemeinsam spekulieren, welche Auswirkungen Algorithmen auf ihre selbst entwickelten Personas haben, inwiefern sie von ihnen betroffen sind (z. B. durch Vorhersagen über eine wahrscheinliche Rückfälligkeit nach einer Gefängnisentlassung), wie diese Techniken auch missbraucht werden können, um zu diskriminieren und marginalisieren und was für Auswirkungen diese Entscheidungen für die Individuen, aber auch für die ganze Gesellschaft haben könnten. Sie trat sehr deutlich für einen feministischen Ansatz ein, um unsere Zukunft zu denken und zu gestalten, wobei “feministisch” für Gleichberechtigung, soziale Gerechtigkeit, Menschenwürde und Selbstbestimmung stehe.

Insgesamt zeigten die Beiträge und Diskussionen, wie wichtig es ist, jetzt das Thema anzugehen und dafür zu sorgen, dass die Basis der Einsatzgebiete Diversität, Gleichstellung, Gleichberechtigung, soziale Gerechtigkeit fördert und nicht bestehende Systeme kopiert und verstärkt. Ein positives Beispiel zeigten die Gewinnerinnen des ersten Telekom Hackathons (präsentiert von Kenza Ait Si Abbou) mit ihrem Projekt A(I)THENA, das für mehr Chancengleichheit im Bewerbungsprozess sorgt.

Einen Überblick über das gesamte Programm finden Sie hier.

Jetzt vormerken!

Vorname:*
Nachname:*
E-Mail:*
Verifikation: