Hans Rusinek
Künstliche Intelligenz, menschliche Ohnmacht – wie wir mit K.I. unsere M.I. wiederentdecken
Erstveröffentlichung im Humboldt Institut für Internet und Gesellschaft
Wenn es um die Zukunft der künstlichen Intelligenz (KI) geht, machen wir vor keinen Horrorszenarien halt. Die Szenarien folgen immer einem aus anderen Angstfantasien bekannten Muster: Erst lernen die Maschinen von uns, dann nehmen sie uns den Job weg und am Ende sogar die Geliebte. Uns alten Analogen ist in diesem Szenario lediglich eine Zuschauerrolle zugeschrieben. Wie sehr ist diese Angst gerechtfertigt und sind wir wirklich passive Beobachter dieser Entwicklungen?
Zu einer der bekanntesten Anekdoten im Bereich der KI gehört die Geschichte von Robert Epstein und dem Chat-Bot Ivana. Da chattete Professor Epstein, Psychologe, Computerwissenschaftler und einer der Vordenker im Bereich KI über Monate mit einer gewissen Ivana, von der er glaubte, dass sie eine gutaussehende russische Dame sei, die ebenfalls auf der Suche nach einem Partner wäre. Doch dann kam es, wie es kommen musste: die osteuropäische Dame war eine Software, und der Computerwissenschaftler düpiert.
Die Moral von der Geschichte gibt es in zwei Versionen. In Version Eins, der offensichtlichen, ist Ivanka ein verblüffendes Beispiel dafür, wie menschenähnlich Chatbots bereits kommunizieren können. Die Maschine wird tatsächlich immer menschlicher. Ob dies wirklich schon ein Indiz dafür ist, dass Maschinen “uns mit ihrer Intelligenz“ überholen, wie Christoph Kucklick diese Anekdote liest, ist eine andere Frage.
Interessant ist, dass diese Anekdote noch eine zweite Lehre liefert, eine, die wir in den Debatten zu Mensch-Maschine-Interaktion absolut übersehen. Es ist nicht nur die Maschine in Form von Ivana, die erstaunlich menschlich war. Es ist auch der Mensch in Form von Robert, der durch wenig Input ein schnelles unkritisches Urteil fällte, der also erstaunlich maschinell agierte. Das ist nicht ein Algorithmus, der so clever ist wie Robert. Da ist auch ein Robert, der so reflexionsarm agiert wie ein Computerprogramm.
Denn Robert Epstein wähnte sich in menschlicher Gesellschaft, weil die Erwartungen an diese so gering waren. Hätte er die Dame auf Blinýs eingeladen oder sie gar angerufen, wäre der Schein erloschen. Am anderen Ende der Leitung ist niemand. Mensch und Maschinen treffen sich also in der Mitte. Was sind die Mechanismen dahinter?
Die Menschine ist programmierbar
Der erste Mechanismus besteht darin, dass wir mehr und mehr programmierbar werden. Diese Programmierbarkeit zwingt uns immer mehr in ein maschinelles Menschenkorsett, ohne es wirklich zu merken. Techno-social engineering nennen das die Autoren Selinger und Frischmann, zwei führenden Experten im Bereich “Gesellschaftliche Auswirkungen der künstlichen Intelligenz“. Im techno-social Engineering werden technologische mit sozialen Werkzeuge kombiniert genutzt, um im Web unser menschliches Verhalten zu beeinflussen, an den richtigen Stellen zu nudgen oder sogar ganz neu zu konstruieren. Ivana ist dafür nur ein sehr primitives Beispiel, auch wenn sie immerhin das sehr komplexe Gefühl eines erotischen Interesses ausgelöst hat. Ein ganz anderes Level aber wird erreicht, als Facebook 2014 in einem gigantischen sozialen Experiment die Gefühle von 700.000 Nutzern verändert. In diesem Mood Manipulation Experiment sahen die ausgewählten Nutzer verzerrte Ergebnisse ihrer Freunde und reagierten entsprechend mit ebenfalls angepassten Emotionen. Dann im Dezember 2016 beschrieb ein Artikel im Schweizer Das Magazin, erstens, wie wenige Likes genügen, um eine Einschätzung über eine Person zu treffen (10, um besser als seine Arbeitskollegen zu sein) und zweitens, wie sich dadurch ein Mikrotargeting ermöglichen lässt, welches die Wahl in den USA beeinflusst haben sollte. In beiden Experimenten ließ sich der User programmieren.
Dabei ist techno-social Engineering per se nicht das Problem: Jede Kultur lebt davon bestimmte Normen zu formen oder bestimmtes Verhalten zu belohnen. Auf der Arbeit, in der Schule, selbst in der Familie findet auch eine Art Engineering statt. Während wir uns aber von anderen Bereichen, wo Verhalten geformt wird, auch distanzieren können, weil sie eben nur ein Ort sind, ist beim digitalen techno-social engineering die Präsenz totaler. Offline zu sein, wird immer mehr zu einer absurden, kaum durchsetzbaren Vorstellung. Die digitale Sphäre ist eben kein Ort, sondern vielmehr ein Filter der sich zwischen uns und die Umwelt legt und eine digiloge Welt konstruiert, wie der zweite Mechanismus zeigen wird.
Die Menschine ist über Schnittstellen an die Umwelt montiert
Der erste Mechanismus zeigt wie Programmierbarkeit möglich gemacht wird, der zweite Mechanismus baut darauf auf und geht eine Stufe weiter. Nicht nur Verhalten wird geformt, wir verlagern auch unsere Erlebnis- und Erfahrungsräume in die digitale Sphäre. Und ermöglichen damit, dass sich unsere Wahrnehmung filtern lässt.
Als um die Jahrtausendwende die ersten Kochshows im Fernsehen liefen, bestand der Clou in den Augen der Produzenten darin, dass man sich danach die Rezepte mailen lassen konnte. Doch daran hatte fast niemand Interesse. Denn: Es ging gar nicht um das Nachkochen, es ging nur darum, anderen beim Kochen zuzusehen. Heute ist uns das allen klar: Wir schauen uns in Realityshows an, wie andere leben, in Lets Play-Videos, wie andere gamen und in Unboxing-Videos, wie andere neue Produkte auspacken z.b. Sneaker oder Platten. Und finden das zutiefst befriedigend.
Der Philosoph Robert Pfaller gruppiert diese Phänomene unter dem Begriff Interpassivität. Interpassivität bedeutet, die Handlungen, die uns Genuss versprechen, zu delegieren und auf Externes zu verschieben. Zum Beispiel auf die Kamera. Sie genießt an unserer Stelle den Blick auf den Strand, das Meer oder die Sehenswürdigkeiten. Dazu gehört auch der notorische Zwang beim Essen, erstmal ein Foto vom Essen schießen zu müssen. Wir müssen zwar immer noch selber essen aber die Kamera isst zuerst, wie es der Internetforscher Robert Simanowski so schön sagt. Unser wahrer Genuß ist dann der Like-Button.
Für Pfaller ist der Grund dahinter der folgende: Das Individuum will nicht mit dem ultimativen Genuss konfrontiert werden, es schützt sich geradezu vor echter Anteilnahme. Irgendwo zu sein, live und direkt, wo man nicht jeden Tag ist, scheint im Sinne der Interpassivität manchmal schlicht und ergreifend zu viel, zu intensiv für uns zu sein und uns zu verletzbar zu machen.
Diese Begründung kann man kaufen, muss man aber nicht. Wichtig ist: Wir schieben durch dieses Phänomen der Interpassivität Zwischenebenen in unsere Erlebniswelt. Wie die Kamera, das Chatprogramm, das Unboxing-Video. Der Genuss wird schon vorverdaut. Diese Zwischenebenen ermöglichen es dann durch techno-social engineering gestaltet zu werden und damit Output und Input zwischen Menschen und ihrer sozialen Umwelt zu steuern. Und genau dies ermöglichte auch dem Chatbot Ivana Schmetterlinge im Bauch des Computerwissenschaftlers auszulösen. Die Unterhaltung, fand auf einem Chatkanal statt, der die Unterschiede zwischen Bot und Mensch erst verschwinden lässt. Wie eine Maschine können wir uns programmieren lassen, weil wir über weitere Maschinen durch Schnittstellen und Produktionsabläufe an unsere Umwelt montiert sind.
Der Jargon der Maschinen
Wenn wir maschinengleich eine Schnittstelle in Form eines Bildschirm zwischen uns und unsere Umwelt halten und dies ermöglicht, dass die Einspeisung dieser Schnittstellen auch zunehmend uns steuern kann, dann ist das nur die Hälfte der Geschichte. Eine Entwicklung, die sich dazu parallel bewegt ist, dass die Erwartungen, die wir aneinander haben und das Verhalten was dadurch ausgelöst wird, zunehmend Benchmarks ähnelt, die wir auch an eine Industrie-Fertigungsanlage legen würden. Wir vermessen und optimieren uns im Sinne des Quantified Self wie ein Siemens-Ingenieur eine Gasturbine. Wieviele Likes machen mich begehrt, wieviele gelaufene Kilometer machen mich gesund, wieviel Promille machen einen rauschenden Abend aus?
Der Essayist Florian Goldberg zitiert in diesem Rahmen den rumänische Schriftsteller Virgil Gheorgiu. Letzter beschrieb schon im Jahr 1951 eine Zukunft, in der die Menschheit über eine Armee arbeitsamer Roboter herrscht. Die skizzierte als Folge: “Wir lernen die Gesetzmäßigkeiten und den Jargon unserer Sklaven, um ihnen Befehle geben zu können. Und langsam, unmerklich verzichten wir auf unsere menschlichen Eigenschaften und Gesetze. […] Das erste Symptom dieser Dehumanisierung ist die Missachtung des Menschlichen.” 65 Jahre danach hat diese Aussage eine erschreckendes Gewicht.
Ist es nicht ein solches Performance-Denken, ein Denken des “America first”, welches die Schattenseiten unser Gegenwart ausfüllt? Der Psychologe Arno Gruen diagnostizierte einen Empathieverlust, für den Soziologen Hartmut Rosa geht es um fehlende Resonanz. Das französische Comité invisible spricht von einer Fremdheit des (westlichen) Menschen gegenüber der Welt. Einer Fremdheit, die beispielsweise gebietet, sich zum Beherrscher und Besitzer der Natur zu machen – nur was man fürchtet, versucht man zu beherrschen. In einer vollkommen durchkonstruierten, auf maschinellen Output abgerichteten Welt haben wir Schwierigkeiten damit, lebendig, mitfühlend und empathisch die Wirklichkeit wahrzunehmen. Der Philosoph Peter Bieri fragt in einem brillianten Essay pointiert, wie es denn stattdessen wäre gebildet zu sein? Und stellt fest: Gebildet ist der, der das Verhältnis zu anderen Menschen und sich selbst frei gestalten kann. Ist es nicht genau das, was menschliche Intelligenz ausmacht?
Menschliche vs. künstliche Intelligenz
In der Debatte um künstliche Intelligenz ist eine Begriffsklärung unbedingt notwendig. Nämlich: Was ist hier eigentlich mit Intelligenz gemeint? Wie der Economist erinnert, benutzt künstliche Intelligenz bis jetzt vor allem brute force-Methoden, um intelligent-wirkende Antworten zu simulieren, trotz erheblicher Fortschritte im deep learning-Bereich. Ivana gleicht also die Nachrichten von Robert mit einer Datenbank ab und zieht dann aus einer anderen die richtige Antwort heraus. Wie nah ist das an menschlicher Intelligenz? Welche Art von Denken führen wir dagegen ins Feld? Dass wir den Begriff Intelligenz so frei im Bezug auf Software verwenden, gibt auch ein Zeugnis darüber ab, wie verengt wir ihn mittlerweile sehen: Was ist mit emotionaler Intelligenz, kreativer Intelligenz, rhetorischer Intelligenz, moralischer Intelligenz, was ist mit der Intelligenz nicht Muster zu erkennen, sondern neue zu erschaffen? Intelligenz ist weit mehr, als dass man sich möglichst effizient anzupassen weiß – oder wenn das eine Intelligenz ist, dann ist es die der Sklaven.
Der Computerpionier Ed Djikstra wusste dies bevor es den Begriff der künstlichen Intelligenz erst gab. Er wurde einmal gefragt, ob Computer irgendwann denken. Er antwortete, dass diese Frage in etwa so sei, wie wenn man fragt, ob U-Boote schwimmen können. U-Boote werden doch gerade dafür gebaut nicht zu schwimmen, Computer gerade dafür nicht so wie wir zu denken, sondern rein analytisch. Vielleicht ist es an der Zeit sich diesen Unterschied wieder vor Augen zu führen und den Wert der nicht-künstlichen, der assoziativen, intuitiven ja synthetischen Intelligenz zu erkennen und zu würdigen. Traurig genug, dass der maschinelle Mensch dies mittlerweile abschätzig Soft Skills nennt.
Arbeitsteilung zwischen Mensch und Maschine: Für eine Wiederentdeckung menschlicher Intelligenz
Bevor man sich also Gedanken macht, welche Roboter welchem Sachbearbeiter, Handwerker, Fließbandarbeiter oder Akademiker die Stelle wegnehmen, wäre es gut, sich auf das zu besinnen, was vielen immer schwerer fällt, mahnt auch FAZ-Wirtschaftsredakteur Carsten Knop. Das heißt vernünftig miteinander umzugehen, zu konstruktiven Diskursen fähig zu sein, Mut zu haben, sich in das Ungewisse zu wagen. Die Wiederentdeckung der menschlichen Intelligenz erlangt durch die künstliche Intelligenz auch einen strategischen Wert: Gegen die potentielle Entwertung der eigenen Arbeitsleistung durch Roboter wird nichts anderes helfen. Man könnte sagen: Menschliche Intelligenz wird unserer “unique selling point” bleiben.
Denn die Fähigkeit menschlich zu urteilen, falsch und richtig zu unterscheiden, auch einmal die Welt des Rationalen zu verlassen und in Bildern und Analogien zu denken, kann und wird uns kein Algorithmus abnehmen. Und diese Fähigkeiten werden für uns von großem Wert sein, sie sind weit mehr als Soft Skills. Wir sind in einer Welt, die einen moralischen Kompass sucht und in dieser Verwirrung auch große ökonomische Unsicherheiten schafft. Wir sind in einer Welt, in der Innovationszyklen immer schneller werden, neue Geschäftsmodelle immer schneller auftauchen (und wieder verschwinden): menschliches Denken heißt moralische Orientierung im Sinne von “Erkenne dich selbst”, kreatives Unternehmertum und das Eingehen von Wagnissen. Ich würde behaupten, dass kein Unternehmer ohne diese Fähigkeiten bestehen kann.
Der Ökonom und Erforscher der Digital Economy Jeremy Rifkin geht sogar so weit von einer zukünftigen Welt zu sprechen, in der Jobs, die Empathie bedürfen, boomen werden: “Non-Profit-Krankenhäuser, Non-Profit-Schulen, Pflege der Alten, Umweltschutz, Sport, Künste… Also lassen wir die Maschinen die Arbeit machen, die menschliche Wesen nicht mehr verrichten müssen, und unser Denken kann sich weiterentwickeln, konzentriert darauf, mehr Sozialkapital zu schaffen.” Eine romantische, vielleicht zu romantische Vorstellung.
Vielleicht haben wir so eine Angst vor der Intelligenz der Maschinen, weil uns die eigene menschliche Intelligenz aus den Augen gerät?
Digitalisierung schafft es aufzudecken, dass Mensch und Maschine sich angleichen. Wir lassen uns programmieren, verlagern unsere Wahrnehmung in eine Welt, die für uns vorverdaut wird, wir sprechen und denken in Kategorien, die aus einer Fertigungsanlange kommen könnten. Während die Maschine menschlicher wird, droht der Mensch seine einzigartigen Fähigkeiten zu vergessen. Technologie ist weder schlecht, noch gut, noch neutral, proklamierte der Technologiehistoriker Melvin Kranzberg im letzten Jahrhundert. So ist es auch mit der künstlichen Intelligenz. Wichtig ist, mit Hilfe menschlicher Intelligenz etwas Bedeutungsvolles daraus zu machen. Und dafür die menschliche Intelligenz zu wahren, in der Bildungs- und Kulturpolitik, auf dem Arbeitsmarkt und nicht zuletzt in der Digitalisierungs-Debatte.