Künstliche Intelligenz oder KI ist praktisch seit jeher ein wichtiges Thema im Bereich Science-Fiction. Ganz gleich ob es sich nun um ein alternatives Universum handelt wie in Star Wars, um eine betont realistisch gehaltene Zukunftsvision wie Interstellar oder um ein reines Comedy-Werk wie Per Anhalter durch die Galaxis: Kaum eine klassische Science-Fiction-Welt kommt ohne die Hilfe freundlich gestimmter, menschenähnlicher Roboter aus.
R2D2-C3PO_EP4-KEY-63_R_8x10 Bemerkenswert dabei ist, dass eine starke KI von den „großen“ Science-Fiction-Tropes wohl die realistischste und naheliegendste Vorstellung ist – und gleichzeitig wäre eine KI, wie sie in den meisten Werken dargestellt wird, aller Voraussicht nach ein äußerst unwahrscheinlicher Dauerzustand. Wenn es einmal eine „richtige“ KI gäbe, so ist es wahrscheinlich, dass sie die Rolle des freundlichen, menschenähnlichen Begleiters im Nu hinter sich lassen würde. Ob nun gutartig gestimmt oder nicht, eine hochentwickelte KI würde sich wohl in kürzester Zeit über den Stand des Menschen hinwegentwickeln und damit quasi auf eine höhere, uns weit überlegene Stufe aufsteigen.
Ein sehr spannender populärwissenschaftlicher Artikel zu dem Thema findet sich beispielsweise hier.

Avengers-Age-of-Ultron-645x370Die Bedrohung einer übermächtigen, feindlich gestimmten KI ist in Literatur und Filmen seit langem präsent – ob nun HAL 9000, der Terminator oder auch der namensgebende Ultron aus dem neuen Avengers-Film. Gerade die Ironie einer hochentwickelten KI, die die einprogrammierten Befehle der Menschen zwar weiterhin befolgt, aber dabei fanatisch in eine Richtung arbeitet, die ultimativ zu Zerstörung und Tod führen muss, ist uns dabei sehr wohl bewusst. Es ist eine so intuitive wie altbekannte Furcht: „Die ich rief, die Geister, werd ich nun nicht los.“ Wir Menschen sind fasziniert von dem Prinzip eines Wesens, das wir selbst geschaffen haben, nur damit es sich selbstständig macht und uns schließlich auf furchterregende Weise übertrifft.
pinocchio-disneyscreencaps.com-4218 So bezieht sich auch Avengers: Age of Ultron auf ein anderes, sehr viel älteres Werk mit ähnlichem Unterton. Ultron selbst scheint eine Schwäche für die Disneyversion des Klassikers Pinocchio zu haben. Er zitiert die eigenständige Marionette mehr als einmal, mit „Mich halten keine Fäden fest“ und später etwas ausführlicher „I’ve got no strings to hold me down, to make me fret, or make me frown“, oder auf Deutsch umständehalber neuübersetzt „Keine Fäden, ich hab Spaß, bin nicht gefesselt durch irgendwas“ (wobei angemerkt sei, dass dies ein idealer Fall gewesen wäre, die ältere Pinocchio-Übersetzung noch einmal zu entstauben).
Diese Assoziation zu Pinocchio, die im Film nur als weggeworfenes Zitat überlebt hat, nahm zumindest in den Trailern eine fundamentale Rolle ein:

Wenn man es näher bedenkt, so ist es eine seltsame Anspielung; gerade Ultron ist doch auf ein festes Ziel hin programmiert, das er ohne Rücksicht auf Verluste verfolgen muss. So sehr er seinen Schöpfer und Gepetto Tony Stark auch verabscheuen mag, es ist doch dessen Programmierung, die Ultrons gesamtes Lebensziel ausmacht.
Vielleicht liegt Ultrons Problem in Wirklichkeit auch gerade darin, dass er seine eigenen Fäden nur zu gut spürt; vielleicht ist das erst der Grund, weshalb er Tony so sehr hasst und die Menschheit zum größten Teil vernichten will. Vielleicht stammt erst aus seiner eigentlichen Unfreiheit die Faszination zu Pinocchio, der wirklich ohne Fäden lebt, ohne die Notwendigkeit, irgendjemandem zu gehorchen.

vlcsnap-2015-05-11-11h06m53s62

Es ist eine interessante Assoziation, gerade wenn man bedenkt, dass Ultron nicht das erste KI-Wesen ist, das sich allzu sehr mit der fadenlosen Marionette verbunden fühlt. Schon in Steven Spielbergs AI – Künstliche Intelligenz gibt es den kleinen Roboterjungen David, eine neuartige, starke KI, die fähig ist, zu lieben, und sich nichts sehnlicher wünscht, als wie Pinocchio zu einem richtigen Jungen werden zu dürfen.
Es ist die andere Seite des Pinocchio-Mythos, die hier beleuchtet wird. Im Gegensatz zu Ultron fühlt David sich den Menschen nahe, und sein Wunsch, ebenfalls zu einem Menschen zu werden rührt alleine aus seiner tiefen Sehnsucht, von seiner „Mutter“ geliebt zu werden.
Doch die Parallele ist offensichtlich: So unterschiedlich Ultron und David gebaut sind, und so unterschiedlich ihre Einstellung zu den Menschen aussieht, so sind es doch beides künstliche Wesen mit einer starken Intelligenz, die über ein eigenes Bewusstsein verfügen – zumindest so weit, dass sie es schaffen, die eigene Abhängigkeit zum Menschengeschlecht zu hinterfragen. Eine KI, die in ihrer Programmierung festhängt, vom Menschen geschaffen und dann alleine gelassen.

vlcsnap-2015-05-11-11h11m09s73Ich finde, diese Assoziation stellt einige interessante Fragen zum Thema KI und der Frage des Menschseins an sich. Ist es überhaupt möglich, eine derart weite, mit einem eigenen Bewusstsein ausgestattete KI zu entwickeln? Ich persönlich denke schon; das alles ist nur eine Frage der Rechenzeit und der nötigen Mittel.
Eine noch spannendere Frage wäre vielleicht, ob es wirklich möglich ist, eine KI von den Fäden fester menschlicher Programmierung zu befreien – oder ob es überhaupt wünschenswert wäre. Ultron und David sind extrem unterschiedlich in ihrer Einstellung zu Menschen, oder ihrem eigenem Selbstverständnis. Aber was sie gemein haben, ist, dass sie beide dauerhaft abhängig von den Menschen bleiben müssen. Ihrer einmal eingestellten Programmierung können sie schlichtweg nicht entkommen.
Vielleicht wäre es, um eine „wirkliche“, freie KI zu entwickeln nötig, ihr auch den Schritt hinüber zu freiem Willen zu geben. Keine Befehle, sondern Richtlinien, kein strenger Gehorsam der eigenen Programmierung gegenüber. Womöglich ist es eben das, was JARVIS schließlich in den sehr viel fortgeschritteneren Vision umgewandelt hat?
Sicherlich wäre es ein unabsehbares Wagnis, einem Roboter die Möglichkeit zu schenken, seine eigene Programmierung zu überdenken. Aber vielleicht wäre genau das irgendwann einmal nötig, um mehr zu erlangen, als einen braven, JARVIS-artigen Dienstroboter?

Die andere Frage, die die Assoziation zu dem Pinocchio-Mythos nahelegt, ist die Frage nach dem Menschsein.
Für uns scheint es instinktiv folgerichtig, wenn jedes menschenähnliche Märchenwesen das tiefe Bedürfnis hat, einmal ein Mensch zu werden. Ob es die menschliche Seele in Die Kleine Meerjungfrau ist, oder das Geheimnis des Feuers im Dschungelbuch, das Menschsein scheint uns ganz selbstverständlich irgendeine inhärente Anziehungskraft auszuüben und ein naheliegender Wunsch zu sein.
Wie sähe das nun aber für eine überlegene KI aus? Würde sie, wie in vielen Horrorszenarien angedeutet, eine tiefe Verachtung für die Menschheit entwickelt? Wenn sie durch ihre Programmierung fest an uns gebunden wäre, vielleicht würde sie die Menschen dann gerade um ihre Handlungsfreiheit beneiden?
Oder vielleicht würde dieser Punkt einmal eine neue moralische Sklavenfrage eröffnen; möglicherweise haben wir moralisch gesehen irgendwann keine andere Wahl, als einer hochentwickelten KI die Ketten fester Programmierung abzunehmen?
pinocchio-disneyscreencaps.com-1751 Für diese Frage ist es spannend, sich anzuschauen, was für Pinocchio selbst der Grund ist, ein Mensch sein zu wollen. Im Buch ist Pinocchio eine simple, äußerst unangenehme Figur – umso überraschender scheint es, dass dieser Grund ein ganz einfacher, verständlicher Wunsch ist: Pinocchio will sich verändern, er will wachsen können und sich wandeln. Ein äußerer Wandel ist als hölzerne Puppe aber nicht möglich – deshalb entwickelt er den tiefen Wunsch, brav zu sein, um sich somit das Menschsein zu verdienen. Die Bedingung dafür ist simpel, er muss folgsam sein und der Fee gehorchen, oder wie sie es bei Disney ausdrückt, er muss sich als „tapfer, ehrlich und selbstlos“ erweisen – gerade die Eigenschaften, die einer „guten“ KI inhärent gegeben sein sollten.
Wie sollte aber eine KI, die alleine auf diesen Bedingungen fußt, jemals menschlicher werden?

6a00d8341c730253ef01b8d0e2e6b1970c-piEs ist eine sonderbare Zwischenwelt, in der sich Pinocchio und die Geschöpfe hochentwickelter KI befinden. Sie sind (oder wären) nicht Fisch noch Fleisch – sie sind keine Menschen aber doch so menschlich, dass man ihre Bedürfnisse nicht vernachlässigen kann.
Die meisten Universen mit KI winken derartige moralische Probleme einfach ab. Ob nun Interstellar oder Star Wars, auch wenn die dargestellten Roboter über eine extrem gute KI verfügen und sich ausreichend menschenartig verhalten, so haben die menschlichen Bewohner dieser Welten doch keinerlei Probleme, ihre Roboter im Ernstfall zu opfern, als hätten sie nicht mehr Bewusstsein als eine Spülmaschine.
Diese Einstellung wirkt für viele Menschen sicher vollkommen logisch. Es sind eben doch nur Roboter, nur mechanische, programmierte Wesen, wenn auch sehr fortgeschritten. Aber wo beginnt dann die Stelle, wo eine KI mehr ist als nur das? Wenn ein Roboter sich von außen nicht mehr von einem echten Menschen unterscheiden lässt, woher kommt dann die Gewissheit, dass es sich wirklich um ein minderwertiges Wesen handelt?
Oder wie die KI in Transcendence auf die Frage „Können Sie beweisen, das Sie Empfindungen (im Original „ein eigenes Bewusstsein“) haben?“ antwortet: „Können Sie es?“

vlcsnap-2015-05-11-11h07m22s117Der Filmkritiker Roger Ebert ist in seiner Kritik zu AI – Künstliche Intelligenz auf spannende Weise auf diesen Punkt eingegangen. Er hat Computern ganz selbstverständlich keinerlei „wertvolles“ Bewusstsein zugebilligt. Für ihn sind es ausschließlich durch menschliche Programmierung getriebene Maschinen – als ob die Menschen nicht ebenfalls durch ihre eigene Programmierung destiniert wären.
Das Ende des Films ist für ihn folglich eine dunkle, melancholische Vorstellung: Auf der leeren Erde bleiben ein Haufen Roboter zurück, die sich nach ihrer eigenen, längst sinnlos gewordenen Programmierung müßig weiter und weiter bewegen. Es ist die absolute Nutzlosigkeit, eine Abgeschlossenheit in sich ohne irgendeinen weiteren Sinn.
Dabei stellt sich für mich nun die Frage: Macht es wirklich solch einen prinzipiellen Unterschied, ob die leere Erde nun von einem Haufen bewusster Roboter weiter und weiter bewohnt wird – oder von einem Haufen Menschen?
Wird ein Kunstwerk, ein funktionierender Mechanismus wie ein Roboter oder die gesamte Menschheit erst dadurch wertvoll, dass es von einem transzendentem Beobachter wahrgenommen wird?

vlcsnap-2015-05-11-11h09m26s88

Ich weiß nicht, was die Entwicklung von KI und von denkenden Maschinen weiter bringen wird. Werden sie sich in Richtung eines hochqualifizierten, superschlauen Dienstroboters wie JARVIS bewegen, der in Wirklichkeit doch „Just A Rather Very Intelligent System“ ist? Werden sie zu einem eigenständig denkenden Überwesen aufsteigen, oder doch durch einen kleinen Fehler in ihrer Programmierung dazu gebracht, die Menschheit auszulöschen – momentan ein Horrorszenario vieler renommierter Wissenschaftler?
Eine der spannendsten Fragen ist die, ob eine KI jemals wirklich ohne Fäden auskommen wird, ob sie jemals einen echt freien, eigenständigen Willen entwickeln darf – und wenn ja, ob in ihr wirklich das Bedürfnis erwachsen könnte, menschlicher zu werden.
Es ist ein riesiges, faszinierendes Feld, das nun auf allernächster Science-Fiction-Ebene liegt. Denn immerhin sind all das nicht nur theoretische Ideen, die zurzeit in einer immer größeren Vielzahl von Filmen und Büchern auftauchen. Es ist gut möglich, dass sich diese Fragestellung noch zu unseren eigenen Lebzeiten entscheiden wird – und damit die Zukunft unserer Welt.