von Valentin Seißler | 15th Feb 2022 | Issue The Caring Media
„Die Gefahr, dass der Computer so wird wie der Mensch, ist nicht so groß wie die Gefahr, dass der Mensch so wird wie der Computer.“ [1]
Konrad Zuse, 2005
Subjektive Computer & daten-speisende Menschen
Eine gängige Auslegung des obigen Zitats [2] sieht darin die altbekannte Gefahr angesprochen, dass die Menschheit in ihrem Naheverhältnis zur technischen Welt zwischenmenschlich verkümmern und emotional verarmen würde, in gewisser Weise empathielos „so wie die Maschine“ [1] werden würde. Diese Position setzt voraussetzt, dass künstliche Intelligenzen (KIs) selbst nie ein autonomes Bewusstsein erlangen würden, und nur von dem jeweiligen Status ihrer vorprogrammierten Freiheit aus ‚menschenähnlich‘ operieren könnten. Eine zweite – ebenfalls pessimistische – Perspektive geht davon aus, dass KI in absehbarer Zeit sehr wohl dazu in der Lage sein wird, menschenähnlich zu agieren, zu fühlen und zu denken, wobei dies als dystopisches Bedrohungsszenario imaginiert wird. Der 2013 erschienene Sci-Fi-Liebesfilm Her [4] scheint diese zwei diskursiv aufgeladenen Zugangsweisen zum Gegenstand einer filmästhetischen Verhandlung zu machen und die Grauzonen zwischen den unterkomplexen Perspektiven auf KI-Mensch-Beziehungen zu befragen. Dies erfolgt als filmische Charakterstudie einer ungewöhnlich intimen Beziehung zwischen Mensch und Technik.
Grenzen/Rahmungen/Durchlässigkeit, über die (un)heimliche Zukunftsästhetik in Her
Auf den ersten Blick wirkt die futuristische Welt, im Gegensatz zu klassisch-düsteren Darstellungskonventionen des Science-Fiction-Genres, in Her vielmehr pastellfarben und komfortabel – mit vertrauten Elementen und retro-Akzenten inszeniert: Komfort durch heimelige Einrichtung (Holzmöbel, farbige Glasfenster) und zuvorkommende Technik (personalisierte Betriebssysteme, Smart-Home-Technologien, kaum sichtbare Hardware). Auch das zeitlose Interior-Design mit seinen Reminiszenzen an frühere Stilrichtungen trägt zu einer heimeligen und familiären Atmosphäre bei.
Jedoch schleicht sich in diese Sphäre nach und nach ein befremdlicher Beigeschmack ein: Einerseits durch Bilder sozialer Isolation aufgrund mangelnder zwischenmenschlicher Kommunikation. Andererseits durch Szenen eines umfassenden Datenzugriffs durch diverse Zukunftsmedien [5], die kontinuierlich auf die Privatsphäre des Protagonisten zugreifen. Dem Film ist merklich daran gelegen, darauf aufmerksam zu machen, dass hinter der heimeligen Fassade der omnipräsenten Technik ,unheimliche‘ Konsequenzen verborgen liegen. Der physikalische Handlungsraum des Films präsentiert eine ,gläserne‘ Gesellschaft, die vollends im digitalen Zeitalter angekommen ist. Die Realität erfährt eine Vermengung programmierter Welten, deren sichtbare Grenzen gegen Transparenz eingetauscht wurden (s. Abb. 2): Das bedeutet insofern eine Daten-Freigabe des Privaten, weil das Subjekt wenig bis gar keinen Einblick in die Rechnungsprozesse des liberalen Datenstroms erhält, und gleichzeitig in jeder subjektiven Handlung die künstlichen Intelligenzsysteme nährt und sich ihrer versichert.
Technisierte Care & isolierte Sozialisation in Her
Unsere introvertierte Hauptfigur, Theodore Twambly (s. Abb. 1), fühlt sich ebenfalls, trotz des fürsorglich-anmutenden Designs der Objekt- bzw. Umwelt, sozial verarmt [6], und sein Versuch seiner gescheiterte Ehe (mit seiner Jugendliebe) emotional zu entkommen, missglückt jäh, da er einerseits, in seiner Freizeit ständig zwischen Pornos und Videospielen hin und her pendelt, und sich andererseits in seine Arbeit vertieft: er schreibt emotionale Auftragsarbeiten für einen Konzern. So diktiert er digital-erstellte ,handschriftliche‘ Briefe mit einfühlsamer Note, da die Bevölkerung diese Art der anonymen Dienstleistung völlig akzeptiert hat und die Last persönlicher Hingabe anscheinend nicht mehr selbst, sondern stellvertretend austragen will. Nach McLuhan seien Medien Extensionen des menschlichen Körpers [7], denen nach und nach alle möglichen menschlichen Aufgaben, sozialen Funktionen und produktiven Leistungen übertragen wurden. Wir outsourcen bewusst, übergeben regulative Verantwortung an technische Medien ab, und je mehr die Maschinen ihrerseits regulieren, desto mehr verändern sich die Herangehensweise und Lösungsansätze jener von der Maschine adaptierten menschlichen Qualitäten. Dadurch kommt es zu einem Rückkopplungseffekt, der darin besteht, dass menschliche Handlungen nach maschinellen Algorithmen ausgeführt werden. So findet sich auch Theodors Einsamkeit in der Nähe technisierter Fürsorge aufgefangen: Von einer Werbung mobilisiert lässt er sich sein ganz persönlich zugeschnittenes Operating System, das OS1, zu kommen und es beginnt ein immer dichter werdendes Beziehungsgeflecht: Zunächst scheint es sich nur um ein Arbeitsverhältnis zu handeln, in dem das OS1 übernimmt administrative Aufgaben übernimmt, die zu freundschaftlichen Ratschlägen und sortierenden Aufmunterungswünschen führen, dann jedoch allmählich in eine tiefe emotionale Bindung zwischen Theodore und dem OS1 führen, die ihm ansonsten verwehrt wäre.
„The film seems to be saying that the real world and real relationships – the ones not built to create effects or affects – are jarring and discontinuous with those effects. Theodore’s attempts to connect with others seem to fail.“ [8]
Die OS-Systeme seien demnach notwendig, um soziale Isolation zu vermeiden und würden zudem zwischenmenschliche Beziehungen fördern [9], da über technische Hilfsmittel praktisch jedwede Verbindung hergestellt wird, die sonst in der menschlichen Dysfunktionalität und aus Launen heraus zerworfen würden.
Seine omnipräsente Zuhörerin, Samantha (die sich den eigenen Namen, der etymologisch ‚die Zuhörende‘ bedeutet [10], selbst gegeben hat) ist eben nicht nur künstlich intelligent, sondern habe etwas an sich, dass sie von all ihren vorab-getätigten Programmierungen unterscheide: nämlich Intuition, und die Fähigkeit durch Interaktion mit anderen (verbal mit Menschen und, wie sich später herausstellt, auch post-verbal mit anderen OS-Systemen) subjektive Erfahrungen zu machen, daraus zu lernen und zu schöpfen. Das heißt, sie entwickelt sich durch die gemeinsame Reflexion mit Theodore weiter und studiert die aus der Beschäftigung mit ihm vorgehenden Prozesse. Anstatt aber reale Interaktionen mit Menschen zu starten, ersetzt das vermenschlichte OS-System, Samantha, für Theodore einen Kommunikationspartner für zu Hause, um die Einsamkeit zu bekämpfen.
Ethics, power & possible consequences? Die Beziehung zwischen Mensch/Maschine
Die Beziehung mit einem OS1 ist auf die individuelle Ansprüche des Nutzers angepasst und versucht in erster Linie ihren programmierten Zweck zu erfüllen: nämlich dem menschlichen Gegenüber Zuneigung/Aufmerksamkeit (‚Fürsorge betreiben‘) zu schenken und ihm in allen Lebenslagen zu assistieren. Durch die implementierte Fähigkeit Samanthas, mit der Zeit an ihrem Bewusstsein zu ‚wachsen‘ und eigenständig Erfahrungen zu machen, wird diese Verbindung zu ihrem zugeschnittenen Kunden, Theodore, jedoch den, für ihn unglücklich endenden und verstrickten menschlichen Beziehungen immer ähnlicher, da die Unzulänglichkeiten beider Wesen zum Vorschein und untereinander zur Sprache kommen.Zunächstkann Samantha als OS1den„Artificial Intelligence Caregivern“ von Etzioni & Etzioni zugeordnet werden [11]. Antworten auf ethische Fragen in Bezug auf emotionale künstliche Intelligenz bewegen sich in Her im Verborgenen und geben so einen Hinweis auf unterschwellige Machtdynamiken.
Folgende ethische Bedenken gehen unter anderem mit dem Einsatz von emotionaler KI einher: Robert Sparrow zufolge seien alle Interaktionen zwischen Menschen und „AI Caregivers“ unethisch, „because by definition, AI caregivers display emotions that they do not have“ [12]. Samantha thematisiert künstliche Beschaffenheit durch „echte“ Ehrlichkeit: „are these feelings even real or are they just programming?“ Sie stellt damit die Frage nach der Echtheit von Emotionen allgemein. KIs können außerdem von ihrer Programmierung abweichen und es bleibt unklar, ob Samanthas Entwicklung von „AI – the Partner“ (Zusatz zum Menschen) zu „AI-the mind“ (Ersatz des Menschen) programmiert oder autonom passiert. Diese Nicht-Thematisierung der genauen Funktion von OS1ermöglicht Hersteller*innen, sich der Verantwortung für die Konsequenzen ihrer Entwicklung zu entziehen. Die Anonymität der Hersteller*innen ist eine mögliche Strategie zur Entziehung von Verantwortlichkeit, während das OS1sich als System präsentiert, dass seine Erschaffer*innen nicht thematisiert, sondern die Aufmerksamkeit auf das „Ich“ lenkt:
“We ask you a simple question: who are you? What can you be? Where are you going?” [13]
Fazit
Wie aufgezeigt, versucht der Film ein Szenario der, völlig in der Gesellschaft angekommenen, technisierten Fürsorge vorzustellen, das sich vornehmlich mit den Ausläufen menschlicher Abhängigkeit von künstlich erzeugter Empathie beschäftigt. Das Ausloten, der daraus resultierenden Grauzonen der vom Menschen in Anspruch genommenen, technisierten Fürsorge wird anhand der Figurenentwicklung im Laufe des Narrativs ergiebig, da das zu Beginn vermeintlich nur auf Theodore zugeschnittene OS1 intuitiv auf zwischenmenschliche Aktion und sinnlicher Begegnungen agiert. Samantha schöpft permanent und omnipräsent aus der täglichen Lebenserfahrung ihrer kommmunikationsbedürftigen Kundschaft: der technisierten Fürsorge geht ein stetiger Erkenntnisgewinn sowie wachsende Selbstreflexion im Austausch mit ihrem menschlichen Gegenüber voraus, sie akkumuliert so ein Verständnis über Fürsorge, dass zwar von menschlichem Austausch herrührt und für menschliche Zwecke ausgerichtet ist, sich jedoch künstlich, mit Hilfe algorithmischer Verfahren konstituiert. Her stellt also zur Schau, wie in einer naheliegenden Zukunft mit gesellschaftliche Depression umgegangen werden kann, wenn die Vereinnahmung des Privaten durch technisierte Mechanismen der Subjekt-findung zunehmend zersetzt wird, menschliche Interaktion im Einklang mit ihrer technisierten Extension steht, ohne sie gar nicht stattfinden würde.
zurück zum Inhalt dieser Ausgabe
Referenzen
[1] Gabriel, Markus: „Das Menschenbild im Kontext der Digitalisierung. Weg mit dem Schreckgespenst“. In: Digital Human. Der Mensch im Mittelpunkt der Digitalisierung. Hg. v. Bettina Volkens/ Kai Anderson. Frankfurt. a. M.: Campus 2018, S. 57.
[2] Der deutsche Bauingenieur Konrad Zuse, wurde zum Pionier der Computer-Entwicklung, als er (bereits) 1941 mit dem Z3 den ersten funktionsfähigen Computer der Welt erfand. Vgl. Dotzler, Bernhard: „Neue Wege der Rechnertechnologie: 1936. Ein Interview mit Konrad Zuse”. In: Verstärker. Von Strömungen, Spannungen und über schreibender Bewegungen. Hg. v. Markus Krajewski/Harun Maye. o. A. 2. Jg./H. 2, 3/1997. https://web.archive.org/web/20120623043942/http://www.culture.hu-berlin.de/verstaerker/vs002/dotzler_zuse.html (Zuletzt aufgerufen am 31.01.2022).
[3] Bröckling, Ulrich: „Enthusiasten, Ironiker, Melancholiker. Vom Umgang mit der unternehmerischen Anrufung“. In: Mittelweg 36,17. Jg./H. 4, o. A. 8/2008, S. 3.
[4] Her. R.: Spike Jonze, US 2013.
[5] Vgl. Weber, Thomas: „Futuristische Medien im Kino. Die Darstellung nicht-existenter Medien als Medialitätsreflexion“. In: Medienreflexion im Film. Ein Handbuch. Hg. v. Kay Kirchmann/Jens Ruchatz. Bielefeld: transcript 2014, S. 427-437.
[6] Shaw, Frances: „Machinic Empathy and Mental Health. The Relational Ethics of Machine Empathy and Artificial Intelligence in ‚Her’“. In: ReFocus. The Films of Spike Jonze. Hg. v. Kim Wilkins/Wyatt Moss-Wellington. Edinburgh: University Press 2019, S. 161.
[7] Vgl. McLuhan, Marshall: Understanding Media. The Extensions of Man. London [u.a.]: Routledge Classics 2004. S. 11.
[8] Shaw, Frances: „Machinic Empathy and Mental Health. The Relational Ethics of Machine Empathy and Artificial Intelligence in ‚Her’“. In: ReFocus. The Films of Spike Jonze. Hg. v. Kim Wilkins/Wyatt Moss-Wellington. Edinburgh: University Press 2019, S. 162.
[9] Vgl. Ebd. S. 167. Beispielszenen für gesteigerte soziale Interaktion nach Computer-Kontakt: Treffen mit Ex-Ehefrau [01:02:00], Double Date [01:30:00].
[10] Vgl. syrisch: ‘sem anta’ = die Zuhörende, die Gehorsame; aramäisch: ‘shama’ = zuhören
https://www.baby-vornamen.de/Maedchen/S/Sa/Samantha/ (Zuletzt aufgerufen am 31.01.2022).
[11] Vgl. Etzioni, Amitai/Etzioni, Oren, „The Ethics of Robotic Caregivers“, Interaction Studies 18/2, 2017, S. 174-190.
[12] Sparrow, Robert, „The March of the robot dogs”, Ethics and Information Technology 4, 2002, S. 308.
[13] Vgl. Her. R.: Spike Jonze, US 2013. Das Werbeszenen Kommentar aus dem Off, 00:09:40.