MEHR KI – WENIGER DISKRIMINIERUNG

Schon heute entscheiden Algorithmen

An unzähligen Stellen treffen wir als Bürger*innen und Menschen auf bestimmte und vordefinierte Entscheidungsprozesse. Bei der Beantragung staatlicher Leistungen (z.B. Kitagutschein, ALG aber auch Asylgesuch) genau wie in der Privatwirtschaft (z.B. Jobbewerbung, Kreditvergabe, Handyvertrag). Diese Entscheidungen werden anhand spezifischer Verfahrensanweisungen getroffen, die derzeit meist noch von Menschen ausgeführt werden.

Diese Verfahrensanweisungen, oder auch Algorithmen, an einen Computer zu übertragen, könnte nicht nur die Bearbeitungszeit stark beschleunigen, sondern potentiell auch Diskriminierung und subjektive Entscheidungen eliminieren.

Selbstverständlich ist es dazu essentiell, den Algorithmus diskriminierungsfrei und so machtkritisch wie möglich zu programmieren.

Zukunftstechnologien diskriminierungsfrei gestalten

Wir Grüne, gerade wir Grüne Frauen*, sind stark im Einsatz gegen jede Form der Diskriminierung und Benachteiligung marginalisierter Menschen. Daher wollen wir auch Zukunftstechnologien wie algorithmen-basiertes Entscheiden (Algorithmic Decision Making, ADM) so gestalten, dass sie unsere Welt gerechter und inklusiver macht.

Diskriminierungsfreiheit als Bestandteil der Berliner KI-Strategie

Wir fordern daher, dass im Rahmen der Berliner Digitalstrategie die Förderung diskriminierungsfreier ADM- und KI-Technologien explizit berücksichtigt wird.

Forschungsvorhaben und Start-Ups, die entsprechende Schwerpunkte haben, sollen besonders gefördert werden können.

Dafür soll ein Gremium aus Expert*innen Qualitätsstandards definieren, die ADM und KI auf ihre Diskriminierungsfreiheit hin bewertbar machen. Diese Qualitätsstandards müssen fortlaufend beobachtet, evaluiert und optimiert werden. Dabei soll ein Fokus auf die anzustrebenden Standards beim Einsatz von ADM und KI in der Verwaltung und anderen öffentlichen Stellen liegen.

Vorbild ist hier die Stadt New York, die mit der New York City Automated Decision Systems Task Force (ADS Task Force) per Gesetz eine eigene Institution geschaffen hat, die als eine Art “Algorithmen-TÜV” agiert. Die ADS Task Force überprüft alle in der Verwaltung eingesetzten Tools auf ihre Diskriminierungsfreiheit.

Solche Qualitätsstandards könnten sich beispielsweise auf die Entwicklung der Algorithmen, die Zusammensetzung des Entwicklungsteams, die verwendeten Trainingsdaten (insbesondere bei KI), die Überprüfbarkeit und Transparenz (bspw. Open Source) beziehen.

Die Sprecher*innen der LAG Digitales und Netzpolitik bieten gerne an, ihre Kompetenzen in diesen Prozess einzubringen.