→ NZZ Feuilleton, 21.07.2018

 

Der Kurator Hans Ulrich Obrist bringt Künstler mit Wissenschaftern und Computerexperten zusammen, um über die Chancen und Risiken von künstlicher Intelligenz zu diskutieren. Die wichtigsten Erkenntnisse fasst er hier zusammen.

Eine der wichtigsten Fragen von heute ist, wie umfangreich künstliche Intelligenz (KI) eingesetzt werden wird und welche Gefahren daraus entstehen können. Wenn wir diese neuen Techniken und ihre kulturellen und sozialen Auswirkungen besser verstehen wollen, dann sollten wir auch auf die Künstler hören. «Wissenschaft und Kunst ergänzen sich», wusste bereits der Physiker Heinz von Foerster.

Er arbeitete seit den 1940er Jahren mit dem Mathematiker Norbert Wiener zusammen, der die Kybernetik begründet und über die Folgen dieser neuen systematischen Selbstregulierung nachgedacht hatte: Maschinen, die unabhängige Entscheidungen treffen, bergen Risiken, prophezeite Wiener. Von Foerster wuchs in einer Künstlerfamilie auf und entwickelte ein tiefes Verständnis für die künstlerische Forschung: «Ein Maler muss wissen, wie er mit seinen Farben umgehen muss, wie ein bestimmtes Pigment mit anderen vermischt werden kann, um einen bestimmten Rot- oder Blauton zu erhalten», erzählte er mir einmal.

Für ihn ist die Beziehung zwischen Kunst und Wissenschaft tief in der Sprache verwurzelt, es geht um eine Art Grammatik, die sowohl der Wissenschafter als auch der Künstler erlernen muss. In unserem Gespräch sagte er sogar, dass Forscher wie Künstler arbeiten müssten, wenn sie ihre Ergebnisse mit anderen teilen wollten. «Ein Wissenschafter erfindet neue Dinge», letztlich komme es aber darauf an, «wie man sie beschreibt». Heinz von Foerster geht es mit anderen Worten auch um eine Übersetzung seiner Arbeit, und es ist genau diese, die im Rahmen der künstlichen Intelligenz sowohl für Künstler als auch für Computerexperten interessant ist – das zeigte sich im Austausch zwischen diversen Protagonisten beider Bereiche. Seit geraumer Zeit bemühe ich mich, Gespräche zwischen den Disziplinen zu moderieren; vieles von dem, was diskutiert wird, gibt einem zu denken.

Subgenre der Kunstgeschichte

Hito Steyerl, geboren 1966 in München, ist Professorin für Experimentalfilm und Video sowie Mitbegründerin des «Research Center for Proxy Politics» an der Universität der Künste Berlin. Sie erforscht Robotik, Überwachungssysteme und die massenmediale Verbreitung von Bildern. Ihre Video- und Filmarbeiten werden bis zum 2. Dezember in der Ausstellung «War Games» im Kunstmuseum Basel gezeigt. In diesem Video (2013) gibt sie fünf Tipps, wie man im 21. Jahrhundert unsichtbar bleibt.

In der Computertechnologie arbeiten die meisten Algorithmen schliesslich unsichtbar im Hintergrund; besonders die sogenannten neuronalen Netzwerke, die Deep Learning betreiben, kann niemand in den Systemen, die wir täglich benutzen, sichten oder gar verstehen. Seit geraumer Zeit wird daher der Versuch unternommen, künstliche Intelligenz durch künstliche Bilder sichtbar zu machen. «Deep-Learning-Systeme», erzählte der Computertechniker Mike Tyka der Künstlerin Hito Steyerl und mir jüngst, «besonders die visuellen, sind wirklich von der Notwendigkeit inspiriert, zu wissen, was in der Black Box passiert. Ihr Ziel ist es, diese Prozesse zurück in die reale Welt zu projizieren.»

Ein künstliches System sammelt Daten und kann diese ähnlich einem menschlichen Gehirn so abstrahieren, dass es Muster, Regeln und Gesetze erkennt, die es ihm erleichtern, neue Daten einzuordnen und zu beurteilen. Wenn nun aber umgekehrt Muster aus Daten entstünden und diese eine realistische Darstellung realer Prozesse sein sollten, werde dann die Wissenschaft nicht zu einem «Subgenre der Kunstgeschichte», fragte Hito Steyerl.

Steyerl beschäftigt sich seit vielen Jahren mit Computertechnologien – gegenwärtig stellt sie im Kunstmuseum Basel aus. «Wir haben viele abstrakte Muster, die erzeugt werden, die wie ein Paul-Klee-Bild oder ein Mark Rothko aussehen könnten», sagt sie, «oder alle möglichen anderen Abstraktionen, die wir aus der Kunstgeschichte kennen. Der einzige Unterschied besteht meines Erachtens darin, dass sie im gegenwärtigen wissenschaftlichen Denken als Repräsentation der Realität wahrgenommen werden, fast wie dokumentarische Bilder, während in der Kunstgeschichte ein sehr differenziertes Verständnis verschiedener Arten von Abstraktion, vom abstrakten Expressionismus, Suprematismus und so weiter, besteht.» Hito Steyerl sucht nach einem tieferen Verständnis dieser computergenerierten Bilder und der unterschiedlichen ästhetischen Form.

Sichtbarmachung des Unsichtbaren

Neben der kunsthistorischen Bildanalyse geht es Künstlern aber auch darum, selbst an der «Sichtbarmachung des Unsichtbaren» mitzuwirken – ein Kunstverständnis, das übrigens Paul Klee so formulierte. Trevor Paglen etwa nahm zu diesem Zweck ein Konzert des Kronos-Quartetts mit einer Reihe von Kameras auf, gefilmt wurden die vier Streicher, ihre Gesichter und Bewegungen. Dann liess er die Bilder von einer Software bearbeiten, die zur Gesichtserkennung, Objektidentifikation oder sogar zur Raketenführung eingesetzt wird. Für «Sight Machine», 2017, projizierte er dann das Ergebnis dieser Algorithmen in Echtzeit zurück auf Bildschirme über der Bühne, so dass der Effekt entstand, man sähe gewissermassen durch die Brille der Maschine. Man erlebte, wie unterschiedliche Programme die Bilder der Musiker interpretieren – in Farbfelder, flirrende Linien oder Raster – und was sie einfangen – einzelne Gesichtspunkte oder Bewegungen. In welchem Verhältnis stehen technische und menschliche Wahrnehmung? Das muss debattiert werden.

Eines der Anliegen der KI-Forschung ist denn auch, neue Wege der Interaktion zwischen Software und Mensch zu finden. Und Kunst darf in dieser Diskussion eine Schlüsselrolle spielen, da sie sich auf unsere Subjektivität und die Conditio humana – auf Erfahrung, Empathie oder Sterblichkeit – konzentriert. «Prognosen werden zur wichtigsten Aufgabe von Technologie, Prognosen, die auf Daten basieren, Machine-Learning und so weiter, aber was passiert mit den Voraussagungen von Menschen?», fragte die Künstlerin Hito Steyerl auf dem Podium der DLD-Konferenz in München Anfang 2018. In London hatten die Bewohner des Grenfell Tower lange vor mangelndem Brandschutz gewarnt, ihre Aktivistengruppe hatte sich über ein Blog an die Verantwortungsträger gewandt, aber ihre Einschätzung der Gebäudesicherheit wurde von der zuständigen Baufirma und den Behörden ignoriert. Vor etwas über einem Jahr brannte das 24-stöckige Hochhaus fast vollständig aus, Menschen starben und wurden schwer verletzt. Prognosen, die auf menschlichen Erfahrungen basieren, wurden in diesem schrecklichen Fall unterschätzt.

Gegenalgorithmisches Verhalten

Künstliche Intelligenz werde oft überbewertet, findet Hito Steyerl, und dass etwas schiefgehen werde, sei, wie Ingenieur Edward A. Murphy es einmal in einem Gesetz formulierte, garantiert. Lieber spricht Steyerl deshalb von künstlicher Dummheit, der man sicher nicht mehr damit beikomme, indem man einfach «den Stecker zieht». «Das erste Mal dachte ich darüber nach, als ich auf einen Twitter-Bot namens ‹hakan750048› oder so ähnlich stiess. Er war Teil einer Bot-Miliz, die von Erdogans AKP eingesetzt wurde, um Einfluss auf die Wahlen vor ungefähr zwei Jahren nehmen zu können. Bots sind immer noch ein sehr beliebtes Werkzeug, um die öffentliche Meinung zu beeinflussen und um beliebte Hashtag-Themen umzulenken. Das Skript so einer KI besteht wirklich nur aus zwei Zeilen oder vielleicht auch aus fünf. Dennoch sind in der Weltpolitik die sozialen Folgen dieser künstlichen Dummheit, wie ich sie nenne, bereits gewaltig.»

Künstliche Intelligenz beziehungsweise künstliche Dummheit wirkt sich bereits unmittelbar auf das Leben von Menschen aus. «Es ist interessant, wie die ärmsten Länder die ersten Erfahrungen mit maschineller Intelligenz in den neuen Stellvertreterkriegen machen», berichtete der Medienphilosoph Matteo Pasquinelli an einem Gesprächsabend, den eine Münchener Stiftung 2017 mit ihm und Hito Steyerl als Gästen organisiert hatte. «Zum Beispiel wissen die Menschen in einigen Dörfern in Jemen und in Afghanistan, dass sie, wenn sie von ihren Bewegungsabläufen abweichen, eine Anomalie in ihrer täglichen Routine erzeugen, die von den Drohnen entdeckt wird. Zivilisten wurden bereits von Drohnen getötet, weil sie nach dem Algorithmus für eine Gruppe von Terroristen gehalten wurden. Deshalb haben Menschen ein gegenalgorithmisches Verhalten verinnerlicht.»

Künstliche Intelligenz werde die Welt besser und komfortabler machen, davon gehen viele Wissenschafter, Ingenieure und Computertechniker, nicht selten euphorisch, aus. Eine grosse Gruppe steht künstlicher Intelligenz aber ebenso skeptisch gegenüber, das wurde auf unserem Serpentine Marathon klar, den wir 2017 zum Thema «Guest, Ghost, Host: Machine!» organisiert und zu dem wir Wissenschafter, Ingenieure, Dichter, Philosophen und Künstler eingeladen hatten.

Erweiterter Handlungsspielraum

Unter den Teilnehmern war auch der amerikanische Künstler Ian Cheng (Jahrgang 1984), der oft mit Live-Simulationen arbeitet, in denen Charaktere, die mit bestimmten Verhaltensweisen programmiert wurden, aufeinander losgelassen werden und auf unvorhersehbare Weise interagieren. Für unseren Marathon hatte Cheng den Programmierer Richard Evans eingeladen. Evans entwickelte eine KI-basierte Plattform für interaktive Spiele namens «Versu», für die er eigentümliche Charaktere programmierte, die entweder autonom auftreten oder von Spielern bedient werden. In ihrem Gespräch sagte Evans, dass ein Ausgangspunkt für sein neuestes Projekt gewesen sei, dass die meisten früheren Simulationen die Bedeutung von sozialen Praktiken nicht verstanden hätten. Simulierte Protagonisten in Spielen handelten oft wenig sozial. Das Wissen über soziale Praktiken begrenze zwar den Handlungsspielraum, sei aber notwendig, um die Bedeutung unserer Handlungen zu verstehen.

Für Cheng liegt gerade darin die künstlerische Herausforderung der KI-Forschung: «Philipp K. Dick schreibt seine Romane auf der Grundlage einer kleinen Verschiebung der Realität, etwa einer geringeren Schwerkraft auf der Erde. Die Aufgabe eines Science-Fiction-Autors besteht dann genau darin, sich das Leben und die Kultur vorzustellen, die unter diesen neuen Umständen entsteht, und wie sich diese auf das Sozialverhalten auswirken. Analog könnte die künstliche Intelligenz, sofern sie denn den kulturellen Zusammenhang versteht, eine kleine Veränderung im System vornehmen, also selbst zum Künstler werden und etwas Wunderschönes hervorbringen.»

Kreativität

Grundlegend für solche Ideen ist die Frage nach dem kreativen Potenzial von künstlicher Intelligenz. Kenric McDowell, der sich selbst als KI-Kurator bezeichnet, erzählte, dass es sehr viele Menschen gebe, die der künstlichen Intelligenz die Kunstproduktion anvertrauen wollten. «Wir wollen, dass sie einen Roman schreiben, einen Film machen, eine Beziehung mit der Maschine aufbauen», aber dass das Ergebnis wirklich so interessant sein wird, davon ist McDowell weniger überzeugt. Er unterhielt sich mit der Künstlerin Rachel Rose, die ebenfalls auf die Grenzen der KI-Kreativität hinwies.

«Ich habe gerade das Buch ‹The Empty Space› von 1968 gelesen, in dem der Autor, der Theaterregisseur Peter Brook, über das Set-Design für ‹The Tempest› in den späten 1960ern spricht. Er war in Japan gewesen und interessierte sich dafür, Sand und Steine einzusetzen, um Inseln und Ozeane nachzuahmen. Er begann damit, einen japanischen Garten zu bauen. In einem Zeitraum von acht Monaten veränderten er und ein Designer ständig dessen Form: Es gab eine weisse Kiste, eine schwarze Kiste, sie breiteten Sand aus, legten einen Teppich ab, ersetzten ihn durch Sand, am Ende legte er einen Stein hinein. Der Prozess führte ihn zu seiner ursprünglichen Idee zurück. Brook schreibt, dass er schockiert darüber war.» Für Rachel Rose spricht daraus ein Grundgefühl, das jeder künstlerischen Entscheidung vorausgehe und auf dem diese, beispielsweise beim Editieren eines Films, immer basiere. «Das unterscheidet mich wesentlich vom maschinellen Lernen, denn an jedem Punkt gibt es dieses Grundgefühl, das von einem Menschen kommt, das mit Empathie zu tun hat, mit Kommunikation und Sterblichkeit, die nur ein Mensch kennt.»

So unterschiedlich der Blick auf die Risiken und Chancen von künstlicher Intelligenz auch ausfällt, so wichtig erscheint mir der Austausch zwischen KI-Forschern und Künstlern. In den USA brachte der Elektroingenieur Billy Klüver bereits in den 1960er Jahren Künstler mit Ingenieuren zusammen, unter anderen profitierten John Cage und Jean Tinguely von den Fachleuten. Etwa zur selben Zeit gingen Barbara Steveni und John Latham von Artist Placement Group aus London noch einen Schritt weiter – sie forderten, dass jedes Unternehmen und jede Regierung mit Künstlern zusammenarbeiten sollte. Ich halte das für eine gute Idee.

Der Schweizer Hans Ulrich Obrist, geboren 1968, arbeitet als Co-Direktor der Serpentine Gallery in London und als freier Kurator. Die hier erwähnten Gespräche führte er im Rahmen diverser Veranstaltungen, organisiert unter anderen vom Google Cultural Institute, Digital-Life-Design DLD und der Stiftungsgesellschaft Convoco.

Der Text wurde aus dem Englischen übersetzt und bearbeitet von Antje Stahl.