Der Landesvorstand der Frauen Union Nordrhein-Westfalen befasste sich jüngst mit Diskriminierungsrisiken für Frauen durch Algorithmen im Internet. Zu Gast war Nadine Schlenzka von der Antidiskriminierungsstelle des Bundes, die über eine neue Studie berichtete und Handlungserfordernisse aufzeigte.

Ina Scharrenbach, Landesvorsitzende der Frauen Union Nordrhein-Westfalen: „Nahezu alle Menschen nutzen täglich das Internet. Zunehmend werden Dienstleistungen über das Netz angeboten, Daten werden gesammelt und ausgewertet, Personen und Personengruppen differenziert. Aus Sicht der Frauen Union Nordrhein-Westfalen muss den Diskriminierungsrisiken von Frauen bei der Verwendung von Algorithmen besondere Aufmerksamkeit gewidmet werden. Die zunehmende Digitalisierung der Lebenswelt darf nicht dazu führen, dass Errungenschaften in der analogen Welt in der digitalen Welt nicht gelten oder die strukturelle Diskriminierung von Frauen wieder Raum greift.“

Nadine Schlenzka, Antidiskriminierungsstelle des Bundes, nannte Beispiele in denen Algorithmen zu Ungleichbehandlung von Personen geführt haben, die als potenzielle Diskriminierungsrisiken diskutiert werden oder die als Diskriminierung gerichtlich festgestellt wurden.

• ŸIm August 2019 wurde die „Apple-Card“ (Kreditkarte des Unternehmens Apple) auf dem US-Markt eingeführt. Einem Mann wurde ein 20-mal höherer Kreditrahmen bei gemeinsamer Steuererklärung und gemeinsamen Bankkonto als seiner Frau eingeräumt. Die Untersuchung läuft.
• Ÿ Das Unternehmen Amazon nutzte seit 2014 ein in der Entwicklung befindliches Softwaresystem zur Suche und Bewertung von im Web aufzufindenden Lebensläufen potenzieller Mitarbeiterinnen und Mitarbeiter. Das maschinelle Lernverfahren wurde an Lebensläufen trainiert, um nach Wortmustern zu suchen, die auf erfolgreiche Mitarbeitende schließen sollten. Während der Entwicklungszeit habe man bemerkt, dass das System nicht geschlechterneutral bewertet. Das System stufte Begriffe mit ‚women’s‘ und Namen von zwei ausschließlich weiblichen (Hoch-)Schulen herab. Auch mit Anpassungen des Systems konnte man nicht sicherstellen, dass das System nicht andere Wege entwickelt hätte, mit denen Bewerbende diskriminiert worden wären. Das Entwicklerteam wurde 2017 aufgelöst.
• Ÿ 2018 klagten gegen das Unternehmen Facebook auf unrechtmäßige Diskriminierung nach dem Merkmal Geschlecht, da Stellenanzeigen auf Facebook nur an männliche Adressaten geschaltet wurden und dadurch alle Frauen und nicht-männliche Nutzende vom Erhalt der Anzeigen ausgeschlossen wurden.

Die Frauen Union Nordrhein-Westfalen wird die gewonnenen Erkenntnisse auswerten und im Anschluss daran auf die politischen Entscheidungsträgerinnen und –träger zugehen, um eine höhere Sensibilität dieser in Bezug auf zu Diskriminierungsrisiken im Internet für Frauen und andere gesellschaftliche Gruppen zu erreichen.

Hintergrund:
Algorithmen sind grundlegende, formalisierte und präzise festgelegte Berechnungsvorschriften bzw. Regeln für eine Abfolge von Berechnungsschritten, die eine vorgegebene Aufgabe bewältigen sollen. Sie basieren auf menschlicher Logik und auf Regeln der Korrelation, die durch Auswertung von Daten erzeugt werden (data mining).

Dabei gibt es zwei Formen von Entscheidungen:

1. Algorithmen zur Datenanalyse, deren Ergebnisse als Empfehlungen und Unterstützung von menschlichen Entscheidungen verwendet werden (halb-automatisierte Entscheidungen)

und 2. Entscheidungsregeln und vollautomatisierte Entscheidungen. Die zweite Variante – die vollautomatisierten Entscheidungen – gelten gemäß Artikel 22 Datenschutzgrund-Verordnung nicht für Entscheidungen, die auf besonderen Kategorien personenbezogener Daten beruhen.

Quelle zur Studie der Antidiskriminierungsstelle des Bundes: https://www.antidiskriminierungsstelle.de/SharedDocs/Downloads/DE/publikationen/Expertisen/Studie_Diskriminierungsrisiken_durch_Verwendung_von_Algorithmen.pdf?__blob=publicationFile&v=4