Matthias Spielkamp über Kontrolle Künstlicher Intelligenz

»Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sein werden«, so heißt es in einem offenen Brief, den zahlreiche Prominente aus der IT-Szene unterzeichnet haben. 

Doch was ist eigentlich damit gemeint, wenn von KI-Risiken die Rede ist? Geht es dabei um Horrorszenarien, die wir sonst aus Science-Fiction Romanen kennen, wo sich KIs selbstständig machen und der Menschheit den Kampf ansagen? Oder sind damit nicht eher ganz alltägliche Use-Cases beim Einsatz dieser Technologie gemeint?

Matthias Spielkamp ist Gründer und Geschäftsführer der Organisation Algorithm Watch. Er beschäftigt sich seit vielen Jahren mit dem Einfluss automatisierter Entscheidungssysteme auf unsere Gesellschaft. Von ihm will ich wissen: Müssen wir uns Sorgen machen? Und was können wir eigentlich tun, um Risiken beim Einsatz von KIs zu reduzieren?

Diesen Podcast unterstützen

IBAN: DE84100500001066335547
BIC: BELADEBEXXX
(Katharina Nocun)

Paypal: https://www.paypal.me/kattascha

Dauerauftrag einrichten über Steady: https://steadyhq.com/de/kattascha

Ihr könnt meine Arbeit auch unterstützen, indem ihr das neue Buch kauft!

Pia Lamberty & Katharina Nocun: Gefählicher Glaube. Die radikale Gedankenwelt der Esoterik (2022)

Weiterführende Quellen

Webseite von AlgorithmWatch

Zeit: Hunderte Unternehmer und Forscher fordern KI-Pause

Zeit: Alles unter Kontrolle (Offener Brief)

Nicholas Diakopoulos: Algorithmic Accountability: On the Investigation of Black Boxes

Vorgeschichte von Dune: Butlers Dschihad (ich habe im Podcast „Maschinen sind verboten“ gesagt – ich meinte natürlich KIs)

Diskriminierung bei Empfehlungssoftware für Gerichte

Netzpolitik.org: Die sechs größten Probleme im EU AI Act

AlgorithmWatch fordert Regulierung von „General Purpose AI“

Forderung nach einem Verbot biometrischer Überwachung

Offener Brief gegen algorithmenbasierte Diskriminierung

Ratgeber für Antidiskriminierungsstellen

KI & Folgen für Nachhaltigkeit

Bild: Julia Bornkessel, CC BY 4.0

Ulf Buermeyer über Freiheitsrechte und strategische Klageführung

Egal ob es um Gewalt in der Partnerschaft, Hetze auf Social Media oder den Umgang mit Geflüchteten geht: Nur allzu oft gibts bei all diesem Themen einen Unterschied zwischen Recht und Gerechtigkeit. Und gerade in Krisenzeiten geraten Grund- und Menschenrechte infolge populistischer Debatten regelmäßig unter Druck. 

Das Bundesverfassungsgericht pfeift den Gesetzgeber immer wieder zurück, wenn Gesetze im Widerspruch zu grundgesetzlich verankerten Rechten stehen. Doch… wo kein Kläger, da kein Richter! Selbst wenn man weiß, dass man im Recht ist, sind die Hürden für viele unüberwindbar. Gerade bei Themen ohne eine finanziell starke Lobby im Hintergrund, droht die Gerechtigkeit manchmal auf der Strecke zu bleiben. Welche Betroffene hat schon die nötigen Kapazitäten, um sich allein durch alle Instanzen zu klagen? Wer juristisch gegen Missstände vorgehen will, braucht schließlich einen langen Atem.

Ulf Buermeyer ist ist nicht nur einer der beiden Hosts beim bekannten Podcast “Lage der Nation” und Richter am Landgericht Berlin, sondern auch einer der Gründer der Gesellschaft für Freiheitsrechte – kurz GFF. Mit ihm spreche ich über das Konzept der strategischen Klageführung, Hass im Netz, Chatkontrolle und die Arbeit des Vereins.

Diesen Podcast unterstützen

IBAN: DE84100500001066335547
BIC: BELADEBEXXX
(Katharina Nocun)

Paypal: https://www.paypal.me/kattascha

Dauerauftrag einrichten über Steady: https://steadyhq.com/de/kattascha

Ihr könnt meine Arbeit auch unterstützen, indem ihr das neue Buch kauft!

Pia Lamberty & Katharina Nocun: Gefählicher Glaube. Die radikale Gedankenwelt der Esoterik (2022)

Weiterführende Quellen

Gesellschaft für Freiheitsrechte (GFF)

American Civil Liberties Union (ACLU)

Verfassungsbeschwerde gegen das BND-Gesetz

Präventivhaft gegen ein Mitglied der Letzten Generation

Die Arbeit der GFF zu diversen Polizeigesetzen der Länder

Renate Künast und Streit um vermeintlich „hinnehmbare Äußerungen“

Eckpunkte für ein gesetz gegen Digitale Gewalt

Recherche vom „ZDF Magazin Royale“ zu Hass im Netz

Klarnamenpflicht in Südkorea

Justizminister Buschmann gegen Chatkontrolle

GFF zum Thema Handyauswertungen durchs BAMF

Foto: CC-BY-SA 3.0 Markus Beckedahl

Prof. Dr. Doris Weßels über ChatGPT und die Folgen für Bildung und Kunst

Auf TikTok geben Influencer Tipps, wie man seine Hausaufgaben per ChatGPT machen lassen kann. Und im Netz kursieren Anleitungen, mit welchen Befehlen man die besten Ergebnisse bekommt, wenn man z.B. einen nervigen Projektplan für die Arbeit verfassen muss. 

Gleichzeitig warnen Faktenchecker, dass neue KI-generierte Bilder das Problem mit Desinformation massiv verschärfen könnten. Gewerkschaften diskutieren darüber: Welche Jobs drohen in Zukunft durch Maschinen ersetzt zu werden? Dabei geht es wohlgemerkt nicht nur um einfache Aufgabenstellungen, sondern längst auch um das Verfassen komplexer Texte. Und über allem schwebt die Frage: Was macht das mit unserer Gesellschaft? Sollten wir diese neuen Technologien regulieren? Und wenn ja, wie?

Über all diese und noch viele weitere Fragen spreche ich heute mit Prof. Dr. Doris Weßels. Sie ist Wirtschaftsinformatikerin und lehrt an der FH Kiel. Seit 2018 liegt ihr Forschungsschwerpunkt dabei unter anderem auf den Entwicklungen im Bereich Natural Language Processing und den daraus resultierenden Folgen für den Bildungsbereich. 

Foto: Andreas Diekötter im Auftrage der FH Kiel

Diesen Podcast unterstützen

IBAN: DE84100500001066335547
BIC: BELADEBEXXX
(Katharina Nocun)

Paypal: https://www.paypal.me/kattascha

Dauerauftrag einrichten über Steady: https://steadyhq.com/de/kattascha

Ihr könnt meine Arbeit auch unterstützen, indem ihr das neue Buch kauft!

Pia Lamberty & Katharina Nocun: Gefählicher Glaube. Die radikale Gedankenwelt der Esoterik (2022)

Termine

31.05.23 Falkensee – Lesung/Vortrag „Fake Facts. Wie Verschwörungstheorien unser Denken bestimmen“

01.06.23 Rathenow – Lesung/Vortrag „Gefährlicher Glaube. Die radikale Gedankenwelt der Esoterik“

Weiterführende Quellen

Italienische Datenschutzbehörde stellt Bedingungen für Betrieb von ChatGPT

Prof. Dr. Hoeren über Verwertungsgesellschaften

Google engineer warns it could lose out to open-source technology in AI race

Bewerbungsroboter: Künstliche Intelligenz diskriminiert (noch)

Netzpolitik.org: KI-Definition spaltet Fachleute

Free Software Foundation über Reguilierung von Freier Software im Bereich KI

Disclaimer: Es wird sicherlich in nächster Zeit noch eine weitere Episode zum Thema geben mit etwas anderem Schwerpunkt. In dieser Folge haben wir hauptsächlich über Anwendungsfälle im Bereich Textarbeit, Kunst und Bildung gesprochen – aber das Thema KI hat ja auch noch darüber hinausgehende Dimensionen. Daher hier noch einige Hintergrundinfos, die sich mit vielen kritischen Fragen in Bezug auf den EU AI Act beschäftigt:

Netzpolitik.org: Die sechs größten Probleme im AI Act

Algorithm Watch: Ein Leitfaden zum AI Act

Algorithm Watch zum Thema Regulierung von General Purpose AI

Frank Rieger über Freiheitsrechte in Zeiten der Pandemie

Es geht um ein brandaktuelles Thema: Freiheitsrechte in Zeiten der Pandemie. Und die Frage, was es eigentlich mit dieser ominösen Contact-Tracing-App auf sich hat, die ja irgendwann kommen soll.

Frank Rieger ist einer der Sprecher des Chaos Computer Clubs und kann daher ausgezeichnet erklären, wie so eine App funktioniert und welche Risiken es etwa in Punkto Datenschutz dabei gibt. Nicht zu vergessen sprechen wir auch über die ganz grundsätzliche Frage: Was macht diese Pandemie eigentlich mit unseren Freiheitsrechten? Und wie können wir sicherstellen, dass aus dem Pandemie-bedingten Ausnahmezustand keine langfristige Normalität wird?

Kleiner Disclaimer: Dieses Gespräch wurde Anfang Mai 2020 geführt. Seitdem gab es einige Neuigkeiten in Bezug auf die konkrete Ausgestaltung der App & Anwendungen in anderen Ländern.

Diesen Podcast unterstützen:

IBAN: DE84100500001066335547
BIC: BELADEBEXXX
(Katharina Nocun)

Buch:

Frank Rieger und Christiane Hütter: Gefährliche Menschen (2020)

Foto: CC BY-SA 4.0 wikimedia.org/wiki/User:Ot

Prof. Dr. Katharina Zweig über künstliche Intelligenz

In der aktuellen Folge des Denkangebot Podcast geht es um das Thema „Diskriminierung durch Technik“. Im Rahmen der Recherche habe ich mit Prof. Dr. Katharina Zweig gesprochen. Sie lehrt an der TU Kaiserslautern, leitet dort das Algorithmic Accountability Lab, und ist eine der führenden Expertinnen in Deutschland, wenn es um die Bewertung der Risiken und Chancen des Einsatzes von künstlicher Intelligenz geht. Das komplette Interview gibt´s als kleines Extra in ganzer Länge für Euch.

Diesen Podcast unterstützen:

IBAN: DE84100500001066335547
BIC: BELADEBEXXX
(Katharina Nocun)

Buch:

Katharina Zweig, „Ein Algorithmus hat kein Taktgefühl“ (2019)

Foto: Prof. Dr. Katharina Zweig

DA008: Urlaub auf dem Hackercamp

„Wer Visionen hat, sollte zum Arzt gehen.” Dieses berühmte Zitat stammt vom ehemaligen Bundeskanzler Helmut Schmidt. Ich weiß ja nicht wie ihr das seht, aber ich finde dieser Satz klingt ganz schön deprimierend. Er klingt nach Kapitulation. Und irgendwie auch nach: „Mach mal keinen Stress, lasst es uns lieber so machen, wie wir es immer gemacht haben.“

Ich frage mich ja: Ist nicht vielmehr ein Mangel an großen Visionen das, was Politik heute fehlt? Würde es unserer Gesellschaft nicht ganz gut tun, sich mal generell zu fragen, wo wir eigentlich langfristig hin wollen? Und zwar gerade bei komplexen Themen wie der Digitalisierung?

Diesen Sommer habe ich mich für ein verlängertes Wochenende an einen ganz besonderen Ort begeben. Alle vier Jahre kommen beim Chaos Communication Camp tausende Hackerinnen und Hacker aus aller Welt zusammen. Gemeinsam bauen sie dort an ihrer Vision einer Digitalisierung, die sich an den Bedürfnissen der Menschen und nicht nur den Vorstellungen der Wirtschaft ausrichtet. Aber was bedeutet das eigentlich?

In dieser Folge kommen unglaublich viele Gäste zu Wort, darunter Michael Hirdes (Vorsitzender des CCC), Markus Reuter (Netzpolitik.org), Elektra (Freifunk), Tim Pritlove (u.a. Logbuch Netzpolitik), Arne Semsrott (FragDenStaat / Open Knowledge Foundation Deutschland), Matthias Kirschner (Free Software Foundation Europe) und die Band Systemabsturz.

Diesen Podcast unterstützen:

IBAN: DE84100500001066335547
BIC: BELADEBEXXX
(Katharina Nocun)

Paypal: https://www.paypal.me/kattascha

Dauerauftrag einrichten über Steady: https://steadyhq.com/de/kattascha

Linkliste:

Mein Buch über das Thema Datenschutz & Überwachung

DA006: Gläserner Kunde

„Wenn Du für einen Dienst nicht bezahlst, bist Du nicht der Kunde, sondern das Produkt.“ So oder so ähnlich argumentieren viele Menschen, wenn man sich über Datenschutzprobleme bei Facebook & Co. beschwert. Aber wie sieht es eigentlich bei Diensten aus, bei denen wir Kunde sind und für die wir bezahlen? Was wissen beispielsweise Amazon und Netflix über uns? Und nach welchen Kriterien bewertet eigentlich die Schufa, ob wir kreditwürdig sind?

In dieser Folge kommen folgende Gäste zu Wort: Max Schrems (NOYB), Letty (Freakshow Podcast), Prof. Dr. Späth (Lehrstuhl für Digital Markets, Uni Hamburg), Lars Hohl (Information Security Manager), Jonas Breyer (Jurist & Datenschutzexperte) und Veronika Thiel (Algorithm Watch).

Diesen Podcast unterstützen:

IBAN: DE84100500001066335547
BIC: BELADEBEXXX
(Katharina Nocun)

Paypal: https://www.paypal.me/kattascha

Dauerauftrag einrichten über Steady: https://steadyhq.com/de/kattascha

Linkliste zu den Quellen: 

DA004: Nix zu verbergen

„Also ich habe ja nichts zu verbergen.“ So oder so ähnlich reagieren viele Menschen, wenn man in einem Gespräch irgendwie auf das Thema Überwachung kommt. Aber stimmen solche Aussagen denn überhaupt? Hat nicht jeder kleine und große Geheimnisse und ist das nicht irgendwie total menschlich und normal? Und überhaupt: Wäre das Leben nicht extrem langweilig, wenn wir alle nichts zu verbergen hätten?

Im Zuge meiner Recherchen für diese Folge habe ich mir einmal die Online-Werbebranche vorgenommen um herauszufinden, was Unternehmen eigentlich anhand unserer gesammelten Klicks über uns wissen. Dabei bin ich auch bei meinem eigenen Datenprofil auf beunruhigende Details gestoßen.

In dieser Folge kommen folgende Gäste zu Wort: Marit Hansen (Datenschutzbeauftragte des Landes Schleswig Holstein), Jonas Breyer (Anwalt mit Spezialisierung auf Datenschutzrecht), Florian Glatzner (Datenschutzexperte beim Verbraucherzentrale Bundesverband) und Frederike Kaltheuner (Privacy International).

Diesen Podcast unterstützen:

IBAN: DE84100500001066335547
BIC: BELADEBEXXX
(Katharina Nocun)

Paypal: https://www.paypal.me/kattascha

Dauerauftrag einrichten über Steady:https://steadyhq.com/de/kattascha

Linkliste zu den Quellen: 

DA001: Polizeigesetze

Bayern hat dank der CSU angeblich nun das härteste Polizeigesetz seit 1945. Grund genug sich zu fragen: Wie sieht es eigentlich in den anderen Bundesländern aus?

Was bedeuten die Pläne für neue Polizeigesetze in Niedersachsen, NRW, Sachsen, Brandenburg, Bremen, usw. für uns? Braucht die Polizei wirklich so dringend Taser, Bodycams und Handgranaten für Sondereinsatzkommandos? Oder haben die Kritiker recht, wenn sie vor einer Militarisierung der Inneren Sicherheit warnen?

In den neuen Polizeigesetzen ist immer öfter von sogenannten „Gefährdern“ und präventiven Befugnissen die Rede. Aber: Was ist eigentlich ein Gefährder? Und: Was macht eine “drohende Gefahr” aus?

Darum geht es in der ersten Folge des Denkangebot-Podcasts.

Viel Spaß beim Hören!

Linkliste