Matthias Spielkamp über Kontrolle Künstlicher Intelligenz

»Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sein werden«, so heißt es in einem offenen Brief, den zahlreiche Prominente aus der IT-Szene unterzeichnet haben. 

Doch was ist eigentlich damit gemeint, wenn von KI-Risiken die Rede ist? Geht es dabei um Horrorszenarien, die wir sonst aus Science-Fiction Romanen kennen, wo sich KIs selbstständig machen und der Menschheit den Kampf ansagen? Oder sind damit nicht eher ganz alltägliche Use-Cases beim Einsatz dieser Technologie gemeint?

Matthias Spielkamp ist Gründer und Geschäftsführer der Organisation Algorithm Watch. Er beschäftigt sich seit vielen Jahren mit dem Einfluss automatisierter Entscheidungssysteme auf unsere Gesellschaft. Von ihm will ich wissen: Müssen wir uns Sorgen machen? Und was können wir eigentlich tun, um Risiken beim Einsatz von KIs zu reduzieren?

Diesen Podcast unterstützen

IBAN: DE84100500001066335547
BIC: BELADEBEXXX
(Katharina Nocun)

Paypal: https://www.paypal.me/kattascha

Dauerauftrag einrichten über Steady: https://steadyhq.com/de/kattascha

Ihr könnt meine Arbeit auch unterstützen, indem ihr das neue Buch kauft!

Pia Lamberty & Katharina Nocun: Gefählicher Glaube. Die radikale Gedankenwelt der Esoterik (2022)

Weiterführende Quellen

Webseite von AlgorithmWatch

Zeit: Hunderte Unternehmer und Forscher fordern KI-Pause

Zeit: Alles unter Kontrolle (Offener Brief)

Nicholas Diakopoulos: Algorithmic Accountability: On the Investigation of Black Boxes

Vorgeschichte von Dune: Butlers Dschihad (ich habe im Podcast „Maschinen sind verboten“ gesagt – ich meinte natürlich KIs)

Diskriminierung bei Empfehlungssoftware für Gerichte

Netzpolitik.org: Die sechs größten Probleme im EU AI Act

AlgorithmWatch fordert Regulierung von „General Purpose AI“

Forderung nach einem Verbot biometrischer Überwachung

Offener Brief gegen algorithmenbasierte Diskriminierung

Ratgeber für Antidiskriminierungsstellen

KI & Folgen für Nachhaltigkeit

Bild: Julia Bornkessel, CC BY 4.0

Prof. Dr. Katharina Zweig über künstliche Intelligenz

In der aktuellen Folge des Denkangebot Podcast geht es um das Thema „Diskriminierung durch Technik“. Im Rahmen der Recherche habe ich mit Prof. Dr. Katharina Zweig gesprochen. Sie lehrt an der TU Kaiserslautern, leitet dort das Algorithmic Accountability Lab, und ist eine der führenden Expertinnen in Deutschland, wenn es um die Bewertung der Risiken und Chancen des Einsatzes von künstlicher Intelligenz geht. Das komplette Interview gibt´s als kleines Extra in ganzer Länge für Euch.

Diesen Podcast unterstützen:

IBAN: DE84100500001066335547
BIC: BELADEBEXXX
(Katharina Nocun)

Buch:

Katharina Zweig, „Ein Algorithmus hat kein Taktgefühl“ (2019)

Foto: Prof. Dr. Katharina Zweig

DA010: Diskriminierung durch Technik

Technik ist neutral. Code ist objektiv. Maschinen entscheiden immer gerecht – Ich sage dazu: Bullshit! Denn Diskriminierung hat viele Gesichter. Da gibt es etwa Jobsuche-Algorithmen mit einem Faible für Männer. Oder Software, die Richtern als Entscheidungshilfe dienen soll, bei der sich später rausstellte, dass sie höchstwahrscheinlich schwarze Menschen systematisch diskriminiert. Der Einsatz von Technik kann Ungerechtigkeit beseitigen – oder aber sie verstärken. Ich frage mich: Sind das alles nur bedauerliche Einzelfälle – oder gibt es da ein strukturelles Problem? Und wenn ja, was kann man dagegen tun?

In dieser Folge kommen folgende Gäste zu Wort: Dr. Andreas Bischof (TU Chemnitz), Prof. Dr. Katharina Zweig (Autorin: „Ein Algorithmus hat kein Taktgefühl“, TU Kaiserslautern), Ingrid Brodnig (Autorin: „Übermacht im Netz“, Journalistin), Frederike Kaltheuner (Mozilla Foundation Fellow) und Ulf Burmeyer (Gesellschaft für Freiheitsrechte & Lage der Nation).

Diesen Podcast unterstützen:

IBAN: DE84100500001066335547
BIC: BELADEBEXXX
(Katharina Nocun)

Paypal: https://www.paypal.me/kattascha

Dauerauftrag einrichten über Steady: https://steadyhq.com/de/kattascha

In eigener Sache

Das neue Buch erscheint am 29. Mai 2020 😀

Weiterführende Bücher

  • Katharina Zweig: Ein Algorithmus hat kein Taktgefühl (Heyne, 2019)
  • Ingrid Brodnig: Übermacht im Netz (Brandstätter, 2019)
  • Cathy O´Neil: Weapons of Math Destruction (Penguin, 2016)
  • Hannah Fry: Hello World (Black Swan, 2018)

Linkliste