Überwachung – Denkangebot Podcast

Matthias Spielkamp über Kontrolle Künstlicher Intelligenz

kattascha

»Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sein werden«, so heißt es in einem offenen Brief, den zahlreiche Prominente aus der IT-Szene unterzeichnet haben.

Doch was ist eigentlich damit gemeint, wenn von KI-Risiken die Rede ist? Geht es dabei um Horrorszenarien, die wir sonst aus Science-Fiction Romanen kennen, wo sich KIs selbstständig machen und der Menschheit den Kampf ansagen? Oder sind damit nicht eher ganz alltägliche Use-Cases beim Einsatz dieser Technologie gemeint?

Matthias Spielkamp ist Gründer und Geschäftsführer der Organisation Algorithm Watch. Er beschäftigt sich seit vielen Jahren mit dem Einfluss automatisierter Entscheidungssysteme auf unsere Gesellschaft. Von ihm will ich wissen: Müssen wir uns Sorgen machen? Und was können wir eigentlich tun, um Risiken beim Einsatz von KIs zu reduzieren?

Diesen Podcast unterstützen

IBAN: DE84100500001066335547
BIC: BELADEBEXXX
(Katharina Nocun)

Paypal: https://www.paypal.me/kattascha

Dauerauftrag einrichten über Steady: https://steadyhq.com/de/kattascha

Ihr könnt meine Arbeit auch unterstützen, indem ihr das neue Buch kauft!

Pia Lamberty & Katharina Nocun: Gefählicher Glaube. Die radikale Gedankenwelt der Esoterik (2022)

Weiterführende Quellen

Webseite von AlgorithmWatch

Zeit: Hunderte Unternehmer und Forscher fordern KI-Pause

Zeit: Alles unter Kontrolle (Offener Brief)

Nicholas Diakopoulos: Algorithmic Accountability: On the Investigation of Black Boxes

Vorgeschichte von Dune: Butlers Dschihad (ich habe im Podcast „Maschinen sind verboten“ gesagt – ich meinte natürlich KIs)

Diskriminierung bei Empfehlungssoftware für Gerichte

Netzpolitik.org: Die sechs größten Probleme im EU AI Act

AlgorithmWatch fordert Regulierung von „General Purpose AI“

Forderung nach einem Verbot biometrischer Überwachung

Offener Brief gegen algorithmenbasierte Diskriminierung

Ratgeber für Antidiskriminierungsstellen

KI & Folgen für Nachhaltigkeit

Bild: Julia Bornkessel, CC BY 4.0

Ulf Buermeyer über Freiheitsrechte und strategische Klageführung

kattascha

Egal ob es um Gewalt in der Partnerschaft, Hetze auf Social Media oder den Umgang mit Geflüchteten geht: Nur allzu oft gibts bei all diesem Themen einen Unterschied zwischen Recht und Gerechtigkeit. Und gerade in Krisenzeiten geraten Grund- und Menschenrechte infolge populistischer Debatten regelmäßig unter Druck.

Das Bundesverfassungsgericht pfeift den Gesetzgeber immer wieder zurück, wenn Gesetze im Widerspruch zu grundgesetzlich verankerten Rechten stehen. Doch… wo kein Kläger, da kein Richter! Selbst wenn man weiß, dass man im Recht ist, sind die Hürden für viele unüberwindbar. Gerade bei Themen ohne eine finanziell starke Lobby im Hintergrund, droht die Gerechtigkeit manchmal auf der Strecke zu bleiben. Welche Betroffene hat schon die nötigen Kapazitäten, um sich allein durch alle Instanzen zu klagen? Wer juristisch gegen Missstände vorgehen will, braucht schließlich einen langen Atem.

Ulf Buermeyer ist ist nicht nur einer der beiden Hosts beim bekannten Podcast “Lage der Nation” und Richter am Landgericht Berlin, sondern auch einer der Gründer der Gesellschaft für Freiheitsrechte – kurz GFF. Mit ihm spreche ich über das Konzept der strategischen Klageführung, Hass im Netz, Chatkontrolle und die Arbeit des Vereins.

Diesen Podcast unterstützen

IBAN: DE84100500001066335547
BIC: BELADEBEXXX
(Katharina Nocun)

Paypal: https://www.paypal.me/kattascha

Dauerauftrag einrichten über Steady: https://steadyhq.com/de/kattascha

Ihr könnt meine Arbeit auch unterstützen, indem ihr das neue Buch kauft!

Pia Lamberty & Katharina Nocun: Gefählicher Glaube. Die radikale Gedankenwelt der Esoterik (2022)

Weiterführende Quellen

Gesellschaft für Freiheitsrechte (GFF)

American Civil Liberties Union (ACLU)

Verfassungsbeschwerde gegen das BND-Gesetz

Präventivhaft gegen ein Mitglied der Letzten Generation

Die Arbeit der GFF zu diversen Polizeigesetzen der Länder

Renate Künast und Streit um vermeintlich „hinnehmbare Äußerungen“

Eckpunkte für ein gesetz gegen Digitale Gewalt

Recherche vom „ZDF Magazin Royale“ zu Hass im Netz

Klarnamenpflicht in Südkorea

Justizminister Buschmann gegen Chatkontrolle

GFF zum Thema Handyauswertungen durchs BAMF

Foto: CC-BY-SA 3.0 Markus Beckedahl

DA007: Überwachung Made in China

kattascha

Ab 2020 soll in China flächendeckend ein Sozialkreditsystem ausgerollt werden. Damit soll bei jedem Bürger überprüfbar werden, wie vertrauenswürdig er oder sie eigentlich ist. Bei vorbildlichem Verhalten winken Bonus-Punkte und zahlreiche Vorzüge. Fehlverhalten wird hingegen mit Sanktionen bestraft.

So mancher Experte sagt: Hätte George Orwell seinen Roman 1984 heute geschrieben, wahrscheinlich hätte er die Geschichte über einen totalitären Überwachungsstaats nach China verlegt. Sind solche Aussagen berechtigt? Und was sind die Hintergründe der Proteste in Hong Kong? Genau darum soll es in dieser Folge gehen.

In dieser Folge kommen folgende Gäste zu Wort: Mario Sixtus (Autor & Journalist), Brusda (aus Hong Kong), Stephan Scheuer (Autor „Der Masterplan“), Anne Renzenbrink (Reporter ohne Grenzen, Dirk Pleiter (Amnesty International, VR China Koordinationsgruppe), Martin Haase (Linguist, Neusprech Podcast), Anwar Ahmad (World Uyghur Congress) und Stefan Schulz (Aufwachen Podcast, Talk Radio).

Diesen Podcast unterstützen:

IBAN: DE84100500001066335547
BIC: BELADEBEXXX
(Katharina Nocun)

Paypal: https://www.paypal.me/kattascha

Dauerauftrag einrichten über Steady: https://steadyhq.com/de/kattascha

Linkliste:

->Wie ihr die Proteste in Hong Kong unterstützen könnt<-

Update: Es gab tatsächlich einen Vorfall, bei denen Demoteilnehmer einen Journalisten aus Festlandchina bei einem Protest am Airport festgesetzt hatten. Die Bewegung hat sich danach jedoch dafür entschuldigt. Die Darstellung in den chinesischen Medien, nach denen Demoteilnehmer regelmäßig Journalisten angreifen würden, ist allerdings so nicht richtig.

Update2: In China wird schon über den Tag des Massakers am Platz des Himmlischen Friedens gesprochen, allerdings wird nur von den „Geschehnissen jenen Tages“ gesprochen und den Soldaten gedankt, die wieder Ruhe hergestellt hätten. Dass es zu einem Blutbad gekommen ist, darf nicht erwähnt werden.

Musik

Ein besonderer Dank geht an Hong Kong Hermit & Tobias Zuser & LO Kin-hei für die Erlaubnis, ihre Aufnahmen der Proteste zu nutzen.

Buchempfehlungen

Mein Buch über das Thema Datenschutz & Überwachung

Katharina Nocun: „Die Daten, die ich rief“ (Lübbe)

DA004: Nix zu verbergen

kattascha

„Also ich habe ja nichts zu verbergen.“ So oder so ähnlich reagieren viele Menschen, wenn man in einem Gespräch irgendwie auf das Thema Überwachung kommt. Aber stimmen solche Aussagen denn überhaupt? Hat nicht jeder kleine und große Geheimnisse und ist das nicht irgendwie total menschlich und normal? Und überhaupt: Wäre das Leben nicht extrem langweilig, wenn wir alle nichts zu verbergen hätten?

Im Zuge meiner Recherchen für diese Folge habe ich mir einmal die Online-Werbebranche vorgenommen um herauszufinden, was Unternehmen eigentlich anhand unserer gesammelten Klicks über uns wissen. Dabei bin ich auch bei meinem eigenen Datenprofil auf beunruhigende Details gestoßen.

In dieser Folge kommen folgende Gäste zu Wort: Marit Hansen (Datenschutzbeauftragte des Landes Schleswig Holstein), Jonas Breyer (Anwalt mit Spezialisierung auf Datenschutzrecht), Florian Glatzner (Datenschutzexperte beim Verbraucherzentrale Bundesverband) und Frederike Kaltheuner (Privacy International).

Diesen Podcast unterstützen:

IBAN: DE84100500001066335547
BIC: BELADEBEXXX
(Katharina Nocun)

Paypal: https://www.paypal.me/kattascha

Dauerauftrag einrichten über Steady:https://steadyhq.com/de/kattascha

Linkliste zu den Quellen:

DA001: Polizeigesetze

kattascha

Bayern hat dank der CSU angeblich nun das härteste Polizeigesetz seit 1945. Grund genug sich zu fragen: Wie sieht es eigentlich in den anderen Bundesländern aus?

Was bedeuten die Pläne für neue Polizeigesetze in Niedersachsen, NRW, Sachsen, Brandenburg, Bremen, usw. für uns? Braucht die Polizei wirklich so dringend Taser, Bodycams und Handgranaten für Sondereinsatzkommandos? Oder haben die Kritiker recht, wenn sie vor einer Militarisierung der Inneren Sicherheit warnen?

In den neuen Polizeigesetzen ist immer öfter von sogenannten „Gefährdern“ und präventiven Befugnissen die Rede. Aber: Was ist eigentlich ein Gefährder? Und: Was macht eine “drohende Gefahr” aus?

Darum geht es in der ersten Folge des Denkangebot-Podcasts.

Viel Spaß beim Hören!