Robot diskriminiert Frau – und fliegt raus

Wer gegen grundsätzliche Regeln verstößt, fliegt raus. So ging es auch einem Robot, der bei amazon dafür „eingestellt“ wurde, die Vorauswahl von Bewerbern vorzunehmen. Der Robot war intelligent und durfte eigenständig lernen. Recht schnell hat er aus irgend einem Grund festgestellt, dass männliche Bewerber in seinem Bewertungskontext besser performen. Seine Algorithmen optimierten die Auswahl entsprechend und recht schnell wurden weibliche Bewerber im Vorfeld aussortiert. Bis amazon dieser Umstand auffiel, wurden bereits viele weibliche Bewerber einfach im Vorfeld aussortiert.

Auch Roboter machen Fehler

… allerdings nur dann, wenn sie intelligent sind und selber lernen dürfen. Die alte These, dass Roboter genau das tun, was man ihnen sagt, gilt für den alten Kollegen in der Produktionsstraße, der keine einzige Schweißnaht selbständig setzen kann (noch), aber nicht für die intelligente Kollegen/innen, die an wichtigen humanen Schnittstellen arbeiten und ihren Dienst verrichten. Die Zeiten, in denen Roboter fehlerfrei arbeiten gehen zuneige. Je intelligenter sie werden, desto häufiger werden sie Fehler machen. Wir wollen Maschinen, die uns ähneln, uns ähnlich sind und werden und das hat nicht nur positive Seiten. Je intelligenter unsere Geschöpfe werden, desto eigenständiger werden sie Entscheidungen treffen und desto höher wird die Rate für Fehleranfälligkeit.

Mögliche Fehler aus Optimierungsalgorithmen 

Ein Robot, der in der Buchhaltung auf Optimierung getrimmt wird, könnte durchaus Steuerlücken identifizieren und für seinen Arbeitgeber die Buchungen so vornehmen, dass der Cashflow am Ende stimmt. Möglicherweise könnte er aber auch über das Ziel hinaus schießen und auch illegale Handlungen durchführen. Ich höre schon die ersten Menschen, die an der Stelle sagen: „Und genau deshalb muss man Maschinen kontrollieren“, aber ganz im Ernst, das passt dann nicht zu einer selbstbestimmten Entwicklung einer künstlichen Intelligenz. Wir sortieren ja auch keine Menschen sofort aus, nur weil sie Fehlentscheidungen treffen. Das passiert immer und jeden Tag. Wir sind als Menschen komplett fehlbar, auch wenn wir noch so geschliffen sozialisiert wurden. Wir machen Dinge heimlich, damit keiner was davon erfährt. Warum sollen Maschinen sich in Zukunft anders verhalten? Provokant? Ne, dahin werden die Diskussionen in Zukunft laufen, wenn wir in dem Tempo weiter machen wie bisher.

Roboter sind oft weiblich

Es ist schon schizophren. Auf der einen Seite werden Roboter entlassen, weil sie Fehler machen, wie bei amazon und auf der anderen Seite sind alle Schnittstellenroboter weiblich. Alexa, Siri, Cortana und auch quasi jedes Auto spricht mit weiblicher Stimme zum Fahrer oder der Fahrerin. Die Hersteller der Systeme legen allesamt Studien zugrunde, in denen belegt wird, dass weibliche Stimmen vertrauensvoller und fürsorglicher sind. Das ist nicht ganz unproblematisch. Denn wird ein Gerät beschimpft, weil es nicht wie gewünscht funktioniert, dann wird es oftmals sehr wüst niedergemacht. Hier melden sich zu Recht die ersten Frauenrechtler.

Der Geschlechterkampf bei den Robotern ist eröffnet. Grundsätzlich ein gutes Zeichen, denn das ist nur allzu menschlich.

Ähnliche Beiträge