Wie funktionieren automatisierte Entscheidungssysteme durch Algorithmen?
Algorithmen sortieren und ordnen nicht nur, sie entscheiden. Zum Teil, ohne dass Menschen in den Entscheidungsprozess eingreifen. Das nennt man automatisierte Entscheidung. Wenn Algorithmen entscheiden, beeinflusst das unser Leben - manchmal ganz unmittelbar. Wenn ein großer Onlinehändler Ihnen ein unpassendes Buch oder Kleid empfiehlt, dann hält sich die Auswirkung auf Ihr Leben in Grenzen.
Aber Algorithmen entscheiden noch viel mehr. Sie können darüber verfügen, ob Sie einen Kredit bekommen. Sie entscheiden mit, ob Sie als tatverdächtig gelten. Sie bestimmen, wie teuer Ihre Versicherung wird und ob Ihre Bewerbung im Rahmen eines Auswahlprozesses berücksichtigt wird. Am Universitätskrankenhaus in Stanford (USA) war ein Algorithmus damit betraut, die Reihenfolge der Corona-Impfungen für das Klinikpersonal festzulegen. Das Ergebnis war ein Debakel. Diese Beispiele zeigen, dass Algorithmen komplexe Entscheidungen treffen können, die sich erheblich auf Ihr Leben auswirken können.
Warum bleiben Algorithmen für uns oft eine Blackbox?
Wie Algorithmen funktionieren und entscheiden, ist für uns nicht immer nachvollziehbar. Zum einen, weil es – je nach eingesetzter Technik – nicht möglich ist. Das ist zum Beispiel beim Deep Learning der Fall. Bei diesem Verfahren nutzt der Computer neuronale Netze, um Datensätze zu analysieren und selbstständig zu lernen.
Zwischen den Informationen, die der Mensch der Maschine "füttert" und dem Output, den der Computer uns liefert, liegt ein Prozess, den der Mensch nicht kennt. Beim Deep Learning wissen wir nicht, wie der Computer lernt und wie er zu seinem Ergebnis kommt. Deshalb gleichen manche algorithmenbasierte Prozesse einer Blackbox.
Warum wissen wir oft nicht, wie Algorithmen entscheiden?
Es gibt noch einen weiteren Grund, warum wir oft nicht wissen, wie Algorithmen arbeiten: Sie fallen in vielen Fällen unter das Geschäftsgeheimnis. Das bedeutet, dass die Funktionsweise eines bestimmten Algorithmus für Außenstehende prinzipiell nachvollziehbar wäre. Aber weil er durch das Geschäftsgeheimnis besonderen geschützt ist, können Dritte keine Einsicht in den Code nehmen. Ein Beispiel: Sie suchen in einem Vergleichsportal nach günstigen Urlaubsangeboten und bekommen eine Trefferliste.
Bei genauerem Hinsehen stellen Sie fest, dass das günstigste Angebot gar nicht an erster Stelle steht. Wie die Ergebnisliste zustande kommt, erfahren Sie nicht – es fällt unter das Geschäftsgeheimnis. Genauso wie der Algorithmus, der online über Ihren Kreditantrag entscheidet. Oder der Algorithmus, der den Monatsbeitrag für Ihre Versicherung berechnet.
Algorithmen folgen den Regeln und Anweisungen ihrer Entwickler. Sie verarbeiten die Daten, die ihnen zur Verfügung gestellt werden, und treffen Entscheidungen, die auf diesen Daten basieren. Algorithmen sind nicht objektiv oder wissenschaftlich.
Sie können genauso fehlerhaft oder diskriminierend sein wie die Menschen, die sie programmiert und mit Daten versorgt haben, oder gegen Gesetze verstoßen, wie etwa das Diskriminierungsverbot. Das gilt insbesondere für KI-Systeme wie ChatGPT oder ähnliche Anwendungen.
