Skip to content

Können Algorithmen besser Entscheidungen treffen als Menschen?

Algorithmen können die Kreditwürdigkeit einer Person einschätzen oder im Bewerbungsprozess Personen filtern, die besonders gut für eine Stelle geeignet sind. Macht das solche Prozesse fairer? Oder führt eine automatische Selektion eher zu sozialer Ungerechtigkeit? Corinna Hertweck von der ZHAW School of Engineering stellt dazu am Schweizer Digitaltag ein Projekt vor.

Am Schweizer Digitaltag am 10. November stellt die ZHAW verschiedene Projekte vor. Eins davon ist von Corinna Hertweck von der ZHAW School of Engineering. Sie ist Doktorandin am Institut für Datenanalyse und Prozessdesign und arbeitet zum Thema «Socially Acceptable and Fair AI», das heisst, Systeme, die datenbasierte Entscheidungen treffen und somit vermehrt im Alltag von Menschen zu spüren sind. «Am Schweizer Digitaltag geht es bei uns um die Fairness von Algorithmen. Es geht also darum, wie wir Algorithmen heute schon einsetzen, um datenbasierte Entscheidungen zu treffen und um die Frage, ob diese auch fair sind», erklärt Corinna.

Kreditvergabe durch eine KI?

In Zusammenarbeit mit AlgorithmWatch Schweiz, der Universität Zürich, dem Museum für Gestaltung Zürich und der Schweizer Produktionsfirma Tristesse hat sie mit ihrem Team einen Film produziert. Darin geht es um «credit scores», also wie mit Algorithmen die Kreditwürdigkeit von Personen eingeschätzt werden kann. Wie gehen solche Algorithmen mit Menschen um, zu denen quasi keine Datenpunkte vorliegen, weil sie zum Beispiel aus dem Ausland zugezogen sind? Was, wenn der Algorithmus aus Daten lernt, die mit Vorurteilen gespickt sind?

Testet selbst, wie eine KI euch einschätzen würde

Auch in Bewerbungsprozessen werden häufig Algorithmen eingesetzt, um bei einer grossen Anzahl von Bewerbenden eine erste Auswahl zu treffen. «Es handelt sich hierbei beispielsweise um Tools, die Lebensläufe automatisch lesen und bewerten. Mitarbeitenden in Personalabteilungen werden dann nur die geeigneten Kandidatinnen und Kandidaten angezeigt», erklärt Corinna. Es gibt auch Videotools, die Videos der Bewerbenden automatisch auswerten. So ein Videotool kann am Schweizer Digitaltag selbst getestet werden.

«Firmen bemühen sich oft fair zu sein und möchten sich dahingehend verbessern», sagt Corinna. Aber auch hier gebe es einiges zu beachten, um dafür zu sorgen, dass das Tool auch wirklich zu mehr Fairness führt. «Es gibt allgemein bekannte Probleme bei der Nutzung dieser Tools. Beispielsweise werden von manchen Tools Personen mit Brille anders bewertet als ohne. Auch untypische Lebensläufe, Sprechmuster oder Verhaltensweisen werden von KI-Tools nicht immer richtig eingeordnet und sorgen unter Umständen für verzerrte Ergebnisse».

Die Besuchenden am Schweizer Digitaltag können so ein Videotool selbst ausprobieren. Corinna und ihr Team stellen dazu in einem separaten Raum eine Kamera auf, vor der sich Interessierte in einem simulierten Bewerbungsgespräch wenige Minuten lang filmen lassen können. Anschliessend erhalten sie eine Bewertung in Form eines PDF-Dokuments. «Alle Daten und Aufzeichnung werden im Anschluss an die Veranstaltung natürlich gelöscht», versichert Corinna.

Diskutiert mit am Schweizer Digitaltag!

Am Schweizer Digitaltag präsentiert die ZHAW mehrere Projekte, darunter «Fairness von Alorithmen», rund ums Thema Künstliche Intelligenz. Anfassen und diskutieren sind ausdrücklich erwünscht. Getränke werden von der neuen Roboterbar ausgeschenkt. Die Veranstaltung findet in der neuen Eventlocation von ZHAW digital statt, dem Nüü. Einfach am 10. November zwischen 16 und 22 Uhr an der Lagerstrasse 45 in Zürich vorbeischauen und ins Staunen geraten. Eine Anmeldung ist nicht nötig. Der Eintritt ist kostenlos und bedingt ein Covid-Zertifikat.

Leave a Reply

Your email address will not be published. Required fields are marked *