Stichwortsuche

Im Peternoster der IHK Köln: Lorena Jaume-Palasí Foto: Astrid Piethan
Porträt

Ethik- und Technikforscherin Lorena Jaume-Palasí

Automatisierung bestimmt den Alltag. Doch Algorithmen vereinfachen das Leben nicht nur, sie können auch zur Manipulation oder Diskriminierung von Menschen führen. Es ist Zeit für einen öffentlichen Diskurs, ist die Forscherin Lorena Jaume-Palasí überzeugt. Ihren Standpunkt vertrat sie auch auf dem 11. DigitalTalk der IHK Köln. Mit ihr sprach Patrick Schroeder.

Warum ist es nötig, Algorithmen ethisch zu hinterfragen?

Viele Menschen sind der Ansicht, dass Automatisierungstechnologie immer sachlich und neutral ist. Doch das stimmt nicht. Sie ist eine vom Menschen gemachte Technologie. Genau wie Sprache sind Algorithmen somit Spiegel gesellschaftlicher Vorstellungen und Ideen. Software kann Vorurteile transportieren und Menschen diskriminieren. Klammheimlich im Verborgenen. Entsprechend defizitär ist es, dass im Umgang mit Softwares fast ausnahmslos das Thema Sicherheit im Vordergrund steht, nicht aber das Thema Ethik. Automatisierungen beherrschen unseren Alltag, doch wir wissen wenig über die sozialen und ethischen Folgen der Digitalisierung. Dabei zeigen viele Beispiele, wie wichtig der Diskurs ist.

Welche Algorithmen diskriminieren Menschen?

Personaler nutzen beispielsweise Softwares, die Bewerbungsunterlagen mit Künstlicher Intelligenz bewerten. Die Algorithmen halten sich stur an vorgegebene Parameter. Das kann dazu führen, dass Topkandidaten im Mülleimer landen, nur weil sie nicht einer vorgegebenen Norm entsprechen. Und das ist eine Form der Diskriminierung.

Wie wollen Sie die digitale Zukunft fairer gestalten?

Wir müssen eine Debatte anstoßen. Es darf nicht passieren, dass in Zukunft Programmierer einer Künstlichen Intelligenz oder Datenwissenschaftler alleine am Bildschirm ethische Grundsatzentscheidungen treffen. Die Entscheidungen gehören in den gesamtgesellschaftlichen Diskurs. Ganz wichtig dabei: Wir brauchen mehr Sachlichkeit und mehr Forschung über die Interaktion zwischen Mensch und Software. Mit den Ergebnissen gilt es dann, Normen, Standards und Methoden zu entwickeln, mit denen sich ethische Lücken in Algorithmen identifizieren lassen. Daran arbeite ich auch mit der neugegründeten Nichtregierungsorganisation The Ethical Tech Society.

2014 startete die IHK Köln die Initiative Digital Cologne. Seitdem informiert, diskutiert, mahnt und begeistert die IHK mit den und für die Unternehmen rund um die Digitalisierung. Themen und Veranstaltungen auf digitalcologne.de.

WEITERE THEMEN