Wie objektiv ist ein Algorithmus?
Zur Filmvorführung von „Coded Bias“ diskutierten Studierende über die Grenzen der Neutralität und Objektivität von Künstlicher Intelligenz und Algorithmen.
Am 9. November hatten MINT-Koordination, Hessen-Technikum und Café 1 zum Filmabend eingeladen: ca. 35 Studierende und Technikantinnen kamen zusammen, um die Dokumentation "Coded Bias" zu schauen. Algorithmische Systeme und Künstliche Intelligenz steuern und unterstützen heute viele Vorgänge, die wir im Alltag und in der Berufswelt nutzen. So wird – basierend auf Berechnungen von Algorithmen – beispielsweise Frauen bei gleichen Vermögensverhältnissen eine schlechtere Kreditwürdigkeit zugeordnet als Männern wie auch straffälligen Schwarzen Personen strengere polizeiliche Auflagen als straffälligen Weißen Personen. Auch bei der Überwachung von öffentlichen Räumen spielt KI eine wichtige Rolle. Sie ist ein zentrales Beispiel für die Frage, wie demokratische Rechte wie auch Persönlichkeitsrechte in Widerspruch mit Algorithmischen Systemen stehen könn(t)en. Gleichzeitig erscheinen solche algorithmisch gestützten Ergebnisse als neutral und objektiv und prägen die Wahrnehmung und die Praxis in allen denkbaren Bereichen.
Wie kann man mit diesen Logiken und Effekten umgehen? Wie können Anforderungen und Bedürfnisse verschiedener Gruppen in der Entwicklung von algorithmischen Systemen berücksichtigt werden? In welchen Bereichen brauchen wir diese überhaupt und gibt es Grenzen des Einsatzes, vor allem bei selbstlernenden Systemen? Der Film stellt viele Fragen dazu, wie unsere Welt und unser Miteinander in Daten und Software verarbeitet, repräsentiert und – teilweise ungleich – gestaltet werden. Dies wurde wir mit den Studierenden der Fachbereiche 1 und 2, den angehenden Technikentwickler/-innen, im Anschluss diskutiert. Bedeutet Gesichtserkennung im öffentlichen Raum mehr Sicherheit, gerade für Frauen*? Wenn KI in demokratischen Staaten gutgeheißen, aber in autoritären Systemen negativ bewertet wird, wie kann der Einsatz von KI dauerhaft sicher sein, auch bei Regierungswechseln?
Klar ist, dass es keine einfachen Antworten gibt. Sich solche Fragen zu stellen und eine Haltung als Ingenieur/-in zu entwickeln, sind neben Sachkenntnissen in Mathematik, Programmieren und Co aber notwendige Kompetenzen für die Zukunft unserer Gesellschaft.
