dl011: menschen und maschinen – teil 1

Intro (00:00:00)

Thema des Podcasts (00:00:18)

Willkommen zu unserer elften Folge beim datenleben-Podcast, dem Podcast über Data Science. Wir sind Helena und Janine und möchten euch mitnehmen in die Welt der Daten. Was ist Data Science? Was für verschiedene Daten gibt es und wie gehen wir mit diesen um? Was können wir mit Daten lernen? Diesen Fragen gehen wir in unserem Podcast nach.

Thema der Folge (00:00:39 )

In dieser Folge sprechen wir über Künstliche Intelligenz. Aber wir wollen dabei nicht so sehr über den technischen Aspekt, sondern über die Frage: Können Maschinen denken?
Alan Turing stellte diese Frage der Beschreibung seines Turing-Test voran
Wie Turing seinen Test ursprünglich dachte, darum soll es heute unter anderem gehen
Es gibt ganz viele verschiedene Ansätze und Implikationen Künstliche Intelligenz zu denken, das sehen wir uns an einigen Beispielen der Populärkultur an

Warum ist Künstliche Intelligenz ein wichtiges Thema? (00:01:42)

KI ist im Data Science Feld sehr verbreitet, meistens ist hier damit Maschinelles Lernen gemeint
Bildklassifizierung, Texterfassung etc. - Aber heute geht es um denkende Maschinen
Technisch ist das noch nicht absehbar, ab wann es so weit ist, dass eine Maschine 'denken' kann
Aber viele Menschen gehen davon aus, dass wir diesen Punkt irgendwann erreichen werden
Daher gibt es zwei Fragen: Woher wissen wir dann, dass wir diesen Punkt erreicht haben? Und was bedeuted das für unsere Gesellschaft?
Weil es philosophischer zugehen wird, haben wir uns Unterstützung dazugeholt
Elisa hat bei den Datenspuren 2019 über Alan Turing, Gender und den Film Ex Machina gesprochen

Vorstellung Elisa (00:03:56)

Elisa (Twitter: @3lli_el oder E-Mail: 3lisa@mailbox.org erreichbar) macht ganz viele unterschiedliche Dinge, begreift sich als feminist killjoy
Studiert Medienwissenschaften und hat diese Arbeit über Turing in Ex Machina geschrieben
Verknüpfung mit Genderstudies lag hier — als eines von Elisas Kernthemen — auf der Hand

Einspieler: Von künstlichen Wesen (00:05:56)

Die Idee vom Künstlichen Menschen ist alt. Sehr alt.
Wann immer man sich mit diesem Thema befasst, stößt man auf zwei Urtypen des Künstlichen Wesens:
Der Golem aus der jüdischen Kultur und auf das Frankensteinsche Monster von Mary Shelley
Ausgehend von den Golem-Legenden prägte der Literat Josef Capek den Begriff Robot, der auf das tschechische robota zurückgeht, das mit Frondienst/Zwangsarbeit übersetzt werden kann
Sein Bruder Karel Capek machte den Begriff mit seinem Drama R.U.R. – Rossum’s Universal Robots von 1920 weltweit bekannt.
Mit solchen Entwicklungen in Literatur, Theater und mehr, hat sich die Erzählung über künstliche Wesen in alle Bereiche ausgedehnt
Dabei werden zwei Geschichten erzählt: Entweder die Geschichte einer Menschwerdung oder die Geschichte von Macht und Unterdrückung
Fragen: Können Maschinen denken? Können sie sogar Fühlen? Und welche Absichten haben sie?

Was ist Künstliche Intelligenz, oder wie Turing fragte: Können Maschinen denken? (00:08:53)

Turing veröffentlichte 1950 den Aufsatz Computing Machinery and Intelligence
Steigt mit der Frage ein: Können Maschinen denken?
Einfache Darstellung des Turing-Testes: Ein Interviewer soll bei einem textbasierten Interview unterscheiden, ob die Antwortenden Menschen oder Maschinen sind
Turing entwickelt sein Imitationsspiel, in der ersten Variante gibt es 3 Parteien
Partei A = Mann, B = Frau, C = interviewende Person; A muss so tun als sei er eine Frau, B soll C bei der Identifikation unterstützen
Frage: mit welcher Wahrscheinlichkeit entscheidet C, wer die Frau ist?
Im nächsten Schritt: Wenn A jetzt eine Maschine ist, was käme dann heraus, würde C bei der Identifikation genauso oft richtig oder falsch liegen?
Warum macht er das? In diesem Testaufbau geht es nur noch um das Beobachtbare Verhalten, nicht um die inneren Vorgänge (von Mensch oder Maschine)
Turing geht es um Maschinen als digitale Computer und dachte sie weiter, als sie seinerzeit existierten
Mit seinem Gedankenexperiment stellt er aber vor allem die Frage: Was ist menschliches Denken?
Das führt dazu zu fragen: Was meinen Menschen, dass sie können und welchen Anspruch haben sie an eine potentiell denkende Maschine?
Turing greift auch den genetischen Algorithmus schon vorweg: Man nimmt in den Tests erfolgreiche Komponenten, kombiniert diese und stellt mit einem Zufallselement dann Mutationen dar
Heute benutzt man genetische Algorithmen als Methode im Maschinellen Lernen
Turing ging es damals mehr um das philosophische Interesse an den kommenden Möglichkeiten
Er untergräbt die Trennung zwischen dem natürlichen Denken und der maschinellen Programmierung
Spannend ist, dass er in sein Imitationsspiel die Genderfrage diskutiert und wird oft selten beachtet
Die Frage stellt sich, wenn man davon ausgeht, dass männliches und weibliches Verhalten erlernbar ist
Sind die Verhaltensregeln nicht auch eine Form von Programmierung? (kulturelle Sozialisation)

Kritiken am Turing Test (00:30:42)

Kritiken, die Turing in seinem Aufsatz diskutiert:
Theologisches Argument: Denken ist Gottgegeben, und kann daher nicht vom Menschen auf eine Maschine übertragen werden
Dagegen spricht: Tiere als Wesen Gottes wird das Denken in der Form auch nicht zugesprochen
"Gott" wird durch Wissenschaft immer weiter aufgehoben als Erklärungsmodell
Verbindung hier zu Frankenstein sichtbar, der als Mensch den Hochmuth besitzt, Leben zu schaffen
Ada Lovelace wandte Mitte des 19. Jhs. ein, dass Maschinen nur können, was der Mensch hineingibt
Auch Menschen sind nur kreativ und erzeugen Fortschritte, indem sie sich auf Vorarbeiten berufen
Bewusstseins-Einwand: Nur als die Maschine, könnten wir wissen, ob sie denkt oder fühlt
Dagegen spricht: wir können auch nicht mit Sicherheit sagen , ob andere Menschen denken/ein Bewusstsein haben
Übernatürliche Fähigkeiten: Wenn der Interviewer per Telepathie die Gedanken der Menschen so mehr oder weniger lesen kann, dann könnte er schnell herausfinden wo die Maschine sitzt
Argument gegen den Bau denkender Maschinen: Sie könnten uns gefährlich werden
Turing sagt, dass Menschen gerne glauben möchten, dass sie überlegen wären
Daher auch das Pochen einiger darauf, dass nur Menschen zum Denken fähig wären
Rückt ein Konzept von Mensch ins Zentrum, der seine Vormachtsstellung bedroht sieht
Zeigt sich auch darin: Mensch ist Schöpfer, Maschinen können nicht kreativ schaffen
Verweis auf Platons Ideenlehre: Kreativität schon dem Menschen abgesprochen
Gegenentwurf: Der Mensch als künstlerisches Genie
Angst vor Kontrollverlust ist oft Thema in kulturellen Bearbeitungen des Themas Künstliche Intelligenz
Also die Angst davor die Schöpfung nicht beherrschen zu können und von ihr angegriffen zu werden

Moderne Kritiken (00:44:35)

Null-Hypothese: Beweis einer Nichtexistent nicht möglich, weil im Zweifel nur nicht die richtigen Fragen gestellt wurden
Zirkelschluss: Der Test definiert die Eigenschaft für die er ein Beweis sein soll
Intelligenz: Es wird nicht getestet, ob die Maschine intelligent ist, sondern ob sie gut betrügt
KI-Forschung: Turingtest als Ziel der KI-Forschung zu definieren, schadet dem Feld der Forschung, weils ein binärer Test ist; im Rahmem des Tests sieht es so aus, als gäbe es keinen Fortschritt
Alternative: Man sollte die Frage stellen, wie lange kann die KI den Menschen überlisten?
Erfahrungswissen: Können KIs ohne eigenen Körper Erfahrungswissen haben?
Frage: Könnte aber nicht eine Superintelligenz Erfahrungswissen durch Simulationen generieren?
Warum sollte es das Ziel sein den Menschen zu kopieren, statt spezialisierte KIs zu bauen die den Menschen unterstützen?
Vergleichbarkeit: Künstliche mit menschlicher Intelligenz vergleichen ist nicht zielführend.
Vorschlag: Turingtest abwandeln, nicht fragen ob es gelingt, sondern wie lange es der Maschine gelingt den Menschen überzeugend zu imitieren
Wir haben so große Fortschritte in Computer Vision gemacht, und der Turing Test ignoriert das!
Quellen zu den Kritiken: Does the Turing Test pass the test of time und Turing Test Considered Harmful
Auch spannend: Was passiert mit dem Imitationsspiel, wenn die Maschine vorwiegend mit einem weißen und männlichen Bias gespeist wird?

Zwischenfazit (00:58:24)

Turing selbst hilft uns nicht weiter, ob Maschinen denken können; sagt auch nichts über das Erreichen des Meilensteins Künstlicher Intelligenz
Er hat aber schon auf wesentliche Bedingungen in der Mensche-Maschine-Beziehung hingewiesen
Das Thema treibt viele um und mehr als Spekulieren ist bis heute immer noch nicht möglich
Auch deswegen ist das Thema Künstliche Intelligenz in kultureller Auseinandersetzung so präsent

Nächste Folge: Menschen und Maschinen — Teil 2 am 27.03.2021 (01:00:05)

Weil unser Gespräch überraschend lang und gehaltvoll geworden ist, haben wir uns dazu entschieden, dass wir das Thema über zwei Folgen behandeln.
Wir reden über die Beziehungen zwischen Menschen und Maschinen und wie sie in kulturellen Adaptionen stattfinden
Allen voran spielen natürlich Isaacs Robotergesetze eine Rolle.
Ausserdem sprechen wir über die Folge "Wiedergänger" von Black Mirror, über das Buch "Maschinen wie ich" von Ian McEwan und über den Film "Ex Machina"

Call to Action (01:00:58)

Wenn ihr den zweiten Teil und unsere anderen Folgen nicht verpassen möchtet, abonniert unseren Podcast, folgt uns auf Twitter unter @datenleben
Oder besucht unsere Webseite: www.datenleben.de
Hinterlasst uns gerne Feedback, wir würden uns darüber sehr freuen
Habt ihr Fragen oder Themen, die euch interessieren? Dann schreibt uns!

Outro (01:01:22)

Schlagworte zur Folge

Künstliche Intelligenz, KI, Alan Turing, Imitationsspiel, Gottesbeweis, Ada Lovelace,