KI und Ethik: Können wir Künstlicher Intelligenz vertrauen?

Shownotes

In vielen Gesellschaftsbereichen sind KI-Systeme bereits etabliert und werden dort insbesondere für automatisierte Entscheidungsprozesse eingesetzt: in der Polizeiarbeit, bei Bewerbungsverfahren, im Finanz-, Bildungs- oder Gesundheitssektor. Bereits jetzt entscheidet Künstliche Intelligenz also darüber, ob jemand einen Kredit erhält und wer in der Bewerbungsrunde weiterkommt. KI-Systeme werden in der EU z.B. auch eingesetzt, um vorherzusagen, ob ein Kind gefährdet ist, in einer Familie Missbrauch zu erfahren oder ob straffällige Jugendliche rückfällig werden. KI kann damit nicht nur das Leben von Individuen bestimmen, sondern hat auch enorme gesamtgesellschaftliche Auswirkungen.

In dieser Folge von RESET Radio schauen wir uns an, wo und wie solche KI-Systeme eingesetzt werden, welchen Zweck sie verfolgen und welche Daten eigentlich dahinterstecken. Denn wenn KI-basierte Systeme nicht richtig funktionieren oder aber den von ihnen getroffenen Entscheidungen die falschen Daten zugrunde liegen, dann kann das verheerende Auswirkungen haben. Außerdem beschäftigen wir uns damit, was wir diskriminierenden algorithmischen Bias entgegensetzen können. Um Antworten auf diese Fragen zu finden, haben wir mit der Expertin Kristina Penner gesprochen, Referentin bei der gemeinnützigen Organisation AlgorithmWatch.

Grundlage der Podcastfolge ist unsere Publikation „Greenbook (1): Können wir mit Rechenleistung den Planeten retten?“ Das Greenbook (1) steht hier zum kostenlosen Download zur Verfügung: https://reset.org/greenbook

Links und Hintergründe

• Das Trolley-Problem: https://de.wikipedia.org/wiki/Trolley-Problem

• Das autonom fahrende Auto als „Moral Machine“ - internationale MIT-Untersuchung in Nature: https://www.nature.com/articles/s41586-018-0637-6; Artikel zu den Ergebnissen in ZEIT: https://www.zeit.de/digital/2018-10/autonomes-fahren-kuenstliche-intelligenz-moralisches-dilemma-unfall

• RESET Publikation – Greenbook(1) „KI und Nachhaltigkeit – Können wir mit Rechenleistung den Planeten retten?“ zum Download: www.reset.org/greenbook

• Profil von Kristina Penner auf AlgorithmWatch: https://algorithmwatch.org/de/team/kristina-penner/

• Infos zu AlgorithmWatch: https://algorithmwatch.org/de/was-wir-tun/

• Automating Society Report von 2019: https://algorithmwatch.org/de/automating-society-available-now/

• Automating Society Report von 2020: https://algorithmwatch.org/de/automating-society-2020/

• Artikel zu Wildlife Insights auf RESET.org: https://reset.org/blog/google-ki-hilft-beim-schutz-wildtieren-–-und-wirft-ethische-fragen-06022020

• Artikel zu Leanheat auf RESET.org: https://reset.org/blog/leanheat-machine-learning-heizkosten-und-energie-sparen-02042020

• Interview mit Kristina Penner zum Nachlesen auf RESET.org: https://reset.org/blog/interview-koennen-wir-kuenstlicher-intelligenz-vertrauen-03312020

Sprecherinnen in dieser Episode: Maureen Welter, Lydia Skrabania

Wir danken der Deutschen Bundesstiftung Umwelt (DBU) für die Förderung dieser Podcastfolge. Mehr zur Projekt-Förderung hier: https://reset.org/blog/reset-nachhaltigkeit-und-digitalisierung-dossier-dbu-projekt-foerderung

Alle Folgen unter: https://reset.podigee.io. Wir freuen uns, wenn ihr unseren Podcast abonniert!