Medienmitteilung

Neue Podcast-Folge: Unconscious Bias - warum Künstliche Intelligenz diskriminieren und Vorurteile verschärfen kann

Potsdam (ots) -

KI-Anwendungen sind längst fester Bestandteil unseres Alltags und treffen etwa in der Gesundheitsversorgung, in der Rechtsprechung oder im Recruiting immer mehr Entscheidungen für den Menschen. Doch auch Algorithmen entscheiden nicht immer neutral, obwohl sie Entscheidungsprozesse wertfreier und fairer gestalten sollen. Denn Menschen haben unbewusste Vorurteile, die in die Entwicklung von Algorithmen einfließen.

In einer neuen Folge des Wissenspodcasts Neuland zum Thema "Unconscious Bias - Warum KI-basierte Technologien diskriminieren und Vorurteile verschärfen können" sprechen Professorin Katharina Hölzle, Leiterin des Fachgebiets IT-Entrepreneurship und Frauenbeauftragte des Hasso-Plattner-Instituts (HPI), und Rea Eldem, Gründerin des Unternehmens IN-VISIBLE BERLIN, mit Moderator Leon Stebe darüber, wie und warum Algorithmen unbewusste Voreingenommenheiten reproduzieren und welche Maßnahmen ergriffen werden müssen, um künftig diskriminierende Entscheidungen zu verhindern oder maximal zu minimieren.

"Menschen programmieren ihre Lebenswelt in den Algorithmus und die ist oft sehr homogen. Das, was ich heute sehe, übertrage ich auf die Zukunft und das kann durch die homogene Welt der IT sehr gefährlich werden", betont Professor Katharina Hölzle. Seien Biases erst einmal implementiert, ließen sich diese nur sehr schwer wieder eliminieren.

Die Sensibilisierung der Entwickler für unbewusste Verzerrungen zu Beginn der Entwicklungs- und Design-Phase einer KI-Anwendung sei entscheidend. "Die Aufklärung, wie Algorithmen funktionieren, ist sehr wichtig sowie die frühzeitige Bildungsarbeit über diverse Rollenbilder. Das sollte am besten schon in einem Alter passieren, in dem Voreingenommenheit und Stereotypen noch gar nicht so gefestigt sind", fordert Rea Eldem.

Fundiertes Wissen über die digitale Welt, anschaulich und verständlich erklärt - das bietet der Wissenspodcast "Neuland" mit Experten des Hasso-Plattner-Instituts (HPI) unter: https://podcast.hpi.de, bei iTunes und Spotify. Einmal im Monat sprechen sie bei Neuland über aktuelle und gesellschaftlich relevante Digitalthemen, ihre Forschungsarbeit und über Chancen und Herausforderungen digitaler Trends und Entwicklungen.

Kurzprofil Hasso-Plattner-Institut

Das Hasso-Plattner-Institut (HPI) in Potsdam ist Deutschlands universitäres Exzellenz-Zentrum für Digital Engineering (https://hpi.de). Mit dem Bachelorstudiengang "IT-Systems Engineering" bietet die gemeinsame Digital-Engineering-Fakultät des HPI und der Universität Potsdam ein deutschlandweit einmaliges und besonders praxisnahes ingenieurwissenschaftliches Informatikstudium an, das von derzeit rund 700 Studierenden genutzt wird. In den vier Masterstudiengängen "IT-Systems Engineering", "Digital Health", "Data Engineering" und "Cybersecurity" können darauf aufbauend eigene Forschungsschwerpunkte gesetzt werden. Bei den CHE-Hochschulrankings belegt das HPI stets Spitzenplätze. Die HPI School of Design Thinking, Europas erste Innovationsschule für Studierende nach dem Vorbild der Stanforder d.school, bietet jährlich 300 Plätze für ein Zusatzstudium an. Derzeit sind am HPI 22 Professorinnen und Professoren und über 50 weitere Gastprofessuren, Lehrbeauftragte und Dozenten tätig. Es betreibt exzellente universitäre Forschung - in seinen IT-Fachgebieten, aber auch in der HPI Research School für Doktoranden mit ihren Forschungsaußenstellen in Kapstadt, Haifa, Nanjing und Irvine. Schwerpunkt der HPI-Lehre und -Forschung sind die Grundlagen und Anwendungen großer, hoch komplexer und vernetzter IT-Systeme. Hinzu kommt das Entwickeln und Erforschen nutzerorientierter Innovationen für alle Lebensbereiche.

Pressekontakt:

presse@hpi.de
Christiane Rosenbach, Tel. 0331 5509-119, christiane.rosenbach@hpi.de
und Carina Kretzschmar-Weidmann, Tel. 0331 5509-177,
carina.kretzschmar@hpi.de

Permalink:

https://www.presseportal.ch/de/pm/100007820/100880837