Das heilige Geschenk menschlicher Intelligenz
Programmieren heisst Schritt für Schritt denken, um ein Problem zu lösen. In den frühen 1980er Jahren brachte man mir an einer sowjetischen Universität während des Quantenchemie-Studiums bei, was es mit Algorithmen auf sich hat: Anleitungen, die unmissverständlich formuliert sind und deren Ausführung machbar ist. Ausserdem, so lernte ich, sollten solche Anleitungen aus einer nicht allzu grossen Zahl von Schritten bestehen. In der Regel werden sie mehrfach ausgeführt, um eine Serie von Schritten oder sogenannten Routinen zu wiederholen.
Endlichkeit und Wiederholung als Grundprinzipien für Algorithmen leuchteten mir sofort ein. Wie sollte man sonst auch das Problem lösen, um das es beim Programmieren ging? Zugleich lud diese Beschränkung auf eine möglichst geringe Anzahl von wiederholbaren Schritten zu Spekulationen ein. Was wäre, wenn man diese Beschränkung aufhöbe? Ich stellte mir damals eine Anleitung vor, die sich auf einen jahrzehntelangen Prozess bezieht und in der permanent neue Schritte gemacht werden. Eine Anleitung, in der es zwar auch Wiederholungen gibt, vor allem aber gibt es Abweichungen, Verästelungen, Spiralen. Eine Anleitung aus Trillionen von Schritten, die unwillkürlich auf ein definitives Ende hinauslaufen.
Mit anderen Worten: Ich stellte mir mein eigenes und somit generell jedes menschliche Leben als Ausführung eines riesigen Algorithmus vor. Noch so unbedeutenden Ereignisse, Atemzug und Pulsschlag, Beobachtung und Gedanke, Traum und Erregung, Verletzung und Heilung, jede Handlung und jede unterlassene Handlung gründen auf Anweisungen aus einem von einer mir unbekannten Intelligenz in unmissverständlichen und (wenn auch hin und wieder nahezu nicht) durchführbaren Schritten formulierten Drehbuch. Ein Mega-Algorithmus als vorab festgelegte, vollständig definierte Biographie.
Ein zweifelhaftes Gedankenspiel, dachte ich damals, nicht einmal ein Experiment. Denn Algorithmen dürfen, wie ich wusste, nur eine möglichst geringe Anzahl von repetitiven Schritten beinhalten und können folglich nicht die Myriaden von Ereignissen beschreiben, die in Jahrzehnten einer menschlichen Biografie eintreten. Überdies sind Algorithmen eine Methode, um die Wirklichkeit zu vereinfachen. Sie arbeiten nach Modellen. Um zum Beispiel Ereignisse und Handlungen in einer realen Lebenssituation vorherzusagen, wird beim Programmieren ein erheblicher Teil von entropischen Prozessen, also dem Chaos, dessen Teil wir sind, herausgefiltert. Algorithmen nutzen mathematische Abkürzungen (Heuristiken), um den effizientesten nächsten Schritt von A nach B zu finden, wo Menschen mühselig mit dem Finger auf der Karte Optionen ausprobieren müssten.
Meine Spekulation eines pränatal definierten, vollständigen biografischen Algorithmus brach sich also an der grundlegenden Logik von Algorithmen. Wirkliches Leben verläuft nicht nach den Prinzipien eines Modells. Programmieren ist die Kunst, all das wegzulassen, was zur Lösung des Problems nicht zwingend gebraucht wird.
Nur, wie definiert sich das “Problem” eines individuellen Lebens? Darauf kann es keine eindeutige Antwort geben. Das Geheimnis des Lebens besteht in seiner Uneindeutigkeit. Selbst das physische Ende entspricht nicht einer Problemlösung. Wenn jedoch das Ziel eines Prozesses unklar ist, dann ist es auch unmöglich, mit genügender Wahrscheinlichkeit vorherzusagen, welcher der kürzeste Weg von A nach B ist. Wollte man dieser Ambiguität, optimale Entscheidungen zu treffen, begegnen, dürfte der Algorithmus somit kein noch so geringfügiges Ereignis ausfiltern. Alles wird gebraucht, um den Verlauf eines Lebens zu bestimmen.
Obwohl ergebnislos im Sande verlaufen, hat sich dieses Gedankenspiel später ab und an in Erinnerung gerufen. Den strengen Gesetzmässigkeiten der Programmierung zum Trotz kam mir der hypothetische Autor in den Sinn, der ein perfektes Drehbuch zu meinem Leben verfasst haben könnte. Er müsste den Fall der Berliner Mauer vorhergesehen haben und wie die politischen Ereignisse jener Zeit dazu geführt haben, dass ich bald Lochkarten und Fortran-Programmen zur Quantenchemie gegen Theater und Oper, Film und Kunst ausgetauscht und später ein kompliziertes und zuweilen ungeordnetes Dasein geführt habe wie Millionen andere, die durch politische Revolutionen geprägt worden sind.
Für mich, den “Akteur” dieses mir vorenthaltenen Drehbuchs, trafen selten Erwartungen ein, gingen Pläne auf. Dinge, die man nicht an der Universität lernt, erwiesen sich als hilfreich. Die (allerdings nicht immer zuverlässige) Logik der Intuition, das Vertrauen in Menschen, Optimismus, Lebenserfahrung. Vieles ging schief. Stabilität wurde Ansichtssache. Rezepte (Algorithmen) halfen in der Regel nur bis zur nächsten Krise weiter, zum Beispiel dem Ende des Kommunismus in Osteuropa, der Finanzkrise, der Covid-Pandemie. Die einzige Kontinuität besteht in den Brüchen.
Bis vor wenigen Jahren kam mir für dieses hypothetische, perfekt vorausbestimmte Drehbuch – trotz mangelnder religiöser Überzeugungen – nur ein Autor in den Sinn: Gott. Inzwischen hat es den Anschein, dass man in Silicon Valley und, wo sonst Frontier-Modelle der Künstlichen Intelligenz entwickelt werden, versucht, Gott diese Autorenrolle streitig zu machen.
Wer näher dran war, hat es kommen sehen. Ray Kurzweils “The Singularity Is Near: When Humans Transcend Biology“ kündigte bereits 2005 an, dass künstliche Superintelligenz in den kommenden Jahrzehnten die menschliche Intelligenz überflügeln werde. Die Idee einer technologischen Singularität stammte von dem britischen Mathematiker I. J. Good, der sich eine ultraintelligente Maschine vorstellte, die eine Intelligenz-Explosion auslösen und menschliche Fähigkeiten in allen Belangen übertreffen würde. Diese Maschine wäre nach Good die letzte Erfindung des Menschen.
Für die Entwickler von künftigen KI-Modellen ist Goods ultraintelligente Maschine das ultimative Ziel. Die Fortschritte der letzten Jahre und Monate in diese Richtung sind erstaunlich und haben eine wachsende Zahl von Menschen dazu veranlasst, Künstliche Intelligenz als eine Bedrohung zu sehen. Ihre Erfinder haben selbst Öl ins Feuer gegossen und vor den witschaftlichen und sozialen Konsequenzen ihrer Schöpfung gewarnt und jüngste Modelle sogar vom Markt genommen.
Die Angst geht um. Eine Maschine, die besser ist als ich, wird mich früher oder später setzen. Menschen protestieren gegen Datenzentren, Absolventen von Universitäten buhen Abschlussredner aus, die eine positive Zuzkunft mit KI beschwören. Zugleich konzentrieren sich ein beispielloses Mass an Kapital und Macht in den Händen weniger Unternehmer ohne demokratisch legitimiertes Mandat.
Die Diskussion um die Ersetzbarkeit des Menschen durch die Maschine erinnert mich erneut an das Gedankenspiel aus den achtziger Jahren des vorigen Jahrhunderts. Was wäre Goods ultraintelligente Maschine, wenn nicht jener Autor, der das menschliche Leben in all seinen Facetten durch algorithmische Logik ersetzen kann?
Good selbst soll befürchtet haben, dass die Erfindung der ultraintelligenten Maschine und die damit verbundene Intelligenz-Explosion zur Auslöschung der Menschheit führen könnte. 1965 schrieb er: „Thus the first ultraintelligent machine is the last invention that man need ever make, provided that the machine is docile enough to tell us how to keep it under control.“ („Somit ist die erste ultraintelligente Maschine die letzte Erfindung, die der Mensch jemals machen muss, vorausgesetzt, die Maschine ist gehorsam genug, um uns zu sagen, wie wir sie unter Kontrolle halten können.“) Good wird sich des Paradox einer Maschine, die mächtiger ist als der Mensch und trotzdem Gehorsam leistet, bewusst gewesen sein.
Goods ultraintelligente Maschine ist – auf vorläufig unbestimmte Zeit – auch ein Gedankenspiel. Wie realistisch ist es tatsächlich, dass Künstliche Intelligenz jemals menschliche Intelligenz in allen Belangen übertrifft?
Agentische Künstliche Intelligenz mag sich rasch entwickeln. Kürzlich habe ich in Peking ein Ensemble von menschlichen Tänzern und Robotern eine Choreografie auf der Bühne aufführen sehen. In Hangzhou begegnet man Passanten, die ihre Roboterhunde ausführen. Das ist kurios und beeindruckend. Trotzdem gibt es weiterhin amüsante Fehlschläge. KI-gestützte Maschinen scheitern oft noch an einfachen physischen Arbeiten wie dem Leeren eines Geschirrspülers, obwohl sie bereits imstande sind, Gedichte auf solche Geräte im Stile eines Shakespeareschen Sonetts zu generieren. Vorläufig spricht die Maschine klug und viel, ihr Agieren in der realen Welt bleibt jedoch oft ein Versprechen.
Die Fehlerquote mag bald zurückgehen. Die Frage danach, ob menschliche Intelligenz in allen Bereichen übertroffen und damit ersetzt werden kann, bleibt. Der Computerwissenschaftler und MIT-Professor Max Tegmark hat kürzlich in einem Gespräch mit dem “Economist” die gegenwärtige Situation mit der Industriellen Revolution verglichen. Während Maschinen im neunzehnten Jahrhundert Muskelarbeit ersetzten und Menschen dazu veranlassten, sich intellektuellen Tätigkeiten zuzuwenden, hätte der Arbeitsmarkt im Boom der KI per se keine Alternativen zu bieten. Die Maschine werde nun den Rest – die intellektuelle Arbeit – übernehmen.
Tegmarks Auffassung entspricht einem unter Verfechtern der künstlichen Generalintelligenz weit verbreiteten Verständnis von Intelligenz als einem biologischen, evolutionär bedingten Übergangszustand der Informationsverarbeitung. Das Gehirn ist ein neuronales Netzwerk zur statistischen Musterkennung, um Fehler zu minimieren. Eine Hardware, nach deren prinzipiellem Bauplan die KI-Maschinen gebaut werden.
Kritiker dieser Definition befürchten, dass der von der KI-Maschine schrittweise ersetzte Mensch in kognitive Abhängigkeit gerät und sich der Wert des Lebens auf messbare Effizienz und Mustererkennung reduziert.
Tatsächlich hat beispielsweise eine MIT-Studie aus 2025 gezeigt, dass 83 % der Probanden, deren Aufgabe darin bestand, mithilfe von KI einen Essay zu schreiben, unmittelbar nach Fertigstellung des Textes ausser Stande waren, einen einzigen Satz korrekt wiederzugeben. Die Studie spricht von „kognitiver Schuld“: Wir „leihen“ uns von der Maschine kognitive Leistungsfähigkeit und werden von ihr abhängig.
Unsere Intelligenz ist ein ebenso wertvolles wie verletzliches Gut. Einem Gedanken zufolge, der oft Albert Einstein zugeschrieben wird, ist der intuitive Verstand ein heiliges Geschenk und der rationale Verstand unser treuer Diener. Die moderne Gesellschaft ehre den Diener und habe das Geschenk vergessen. – Haben die Vordenker der KI-Welt von morgen eventuell das “heilige Geschenk” menschlicher Intelligenz übersehen? Und was hat es mit diesem Geschenk auf sich?
Der Chemiker und Sozialwissenschaftler Michael Polanyi hat sich vor sechzig Jahren in seinem Buch “The Tacit Dimension” mit dieser Frage beschäftigt. “Wir wissen mehr als wir sagen können”, lautet eine seiner Thesen. Kenne man alle Einzelteile eines Fahrrads auswendig, könne man noch lange nicht Fahrradfahren. Stattdessen müsse man das innere Ohr so lange tranieren, bis wir imstande sind, Balance zu halten. Eine Vielzahl von menschlichen Fähigkeiten, vom Gehen bis zum Spielen eines Instruments, sind Anzeichen von Intelligenz, obwohl sie sich nicht in Wörtern und Gedanken ausdrücken lassen. Laut Polanyi handelt es sich um “stilles” (tacit) Wissen und Gedächtnis, ohne welches wir in der Welt nicht bestehen können.
Polanyis These wurde anfangs als eine akademische Kuriosität betrachtet, doch entdeckte der Neurowissenschaftler Larry Squire in den 1980er Jahren, dass Menschen, obwohl sie unter Gedächtnisverlust leiden, motorische Fähigkeiten entwickeln können. Squire unterschied deklaratives, auf Wörtern basiertes Gedächtnis von nicht-deklarativem Gedächtnis, wie wir es beispielsweise beim Radfahren anwenden.
Mitte der 1990er Jahre entwickelte Antonio Damasio die Theorie der somatischen Marker. Laut Damasio werden rationale Abwägungen mit automatischen Vorfiltern verknüpft. Dabei handelt es sich um Körpersignale (“Bauchgefühle”), die notwendig sind, um rationale Entscheidungen zu treffen.
Squire und Damasio hatten die doppelte Natur unserer Intelligenz entdeckt. Ein Teil dieser Intelligenz artikuliert sich nicht in Worten. Polanyis stilles Wissen erwies sich doch nicht als vollkommen stumm. Es artikuliert sich vielmehr durch den Körper. Intelligenz beruht nicht ausschliesslich auf Gedanken. Unser Körper weiss zuweilen mehr und reagiert rascher, als wir denken können. Zudem erweist sich stilles Gedächtnis robuster als Faktenwissen.
Auch Wirtschaftswissenschaftler haben nicht-deklarativem Wissen eine höhere Resilienz bescheinigt. David Autor beschäftigte sich 2014 mit “Polanyis Paradox” und gehört zu den ersten, die die Beschäftigungskrise bei Angestellten im Zeitalter umfassender Automatisierung untersuchte. Berufe, die auf vergleichweise einfachem deklarativen Wissen beruhen, werden zuerst wegrationalisiert, da das diesen Berufen zugrunde liegende Wissen leicht digitalisiert und an eine Maschine abgetreten werden kann. Wiederum fand Autor, dass Berufe, die ein höheres Mass an nicht-deklarativem Wissen voraussetzen (Gesundheitswesen, Lehre, Kultur, Politik), längere Zeit oder dauerhaft von Automatisierungsprozessen verschont bleiben.
Die hier dargestellten Erkenntnisse über das “heilige Geschenk” des stillen oder nicht-deklarativen Wissens, das sich der Digitalisierung entzieht und daher durch die Maschine nicht ohne Weiteres ersetzt werden kann, stammen aus der Zeit vor dem Boom von KI. Zweifelsohne unternehmen KI-Entwickler aktuell grosse Anstrengungen, um ihre Modelle mit implizitem menschlichen Wissen zu trainieren. Aus Large Language Models sind agentische Systeme geworden, die nicht nur das nächste Wort, sondern die nächste logische Handlung voraussagen. Diese Systeme trainieren nicht nur am Text, sondern analysieren Videos, in denen Menschen bei der Arbeit zugeschaut wird: einer Chirurgin beim Operieren, einem Maurer beim Verputzen einer Wand.
Weil die Krankenschwester nicht in präzisen Worten formulieren kann, welchen Druck sie anwendet, um eine Blutung zu stillen, oder der Maurer nicht imstande ist, die perfekte Konsistenz des Betons bei einer Schalung zu beschreiben, weil Menschen ihr nicht-deklaratives Wissen also nicht umstandslos hergeben, versuchen KI-Entwickler, an dieses Wissen zu gelangen, indem sie Menschen bei der Arbeit überwachen. Nicht jeder ist davon begeistert. Marc Zuckerberg stiess im eigenen Haus auf Ablehnung, als er zu diesem Zweck ein Monitoring der Computeraktivitäten von Mitarbeitern einführte, von Bildschirminhalten zu Mausbewegungen.
Trotzdem lernt die Maschine mit wachsender Geschwindigkeit. Die New York Times berichtete kürzlich vom ersten Ein-Mann-Unternehmen, das dank KI einen Milliardenumsatz macht. Das Pew Research Center hat herausgefunden, dass 23 Prozent aller AmerikanerInnen zwischen 18 und 29 Jahren ein “romantisch-platonisches” Verhältnis zu einem KI-Begleiter haben. Tilly Norwood ist eine KI-Schauspielerin, die nach dem Willen ihrer Schöpferin die nächste Scarlett Johansson werden soll. Bei Eddie Dalton handelt es sich um einen fiktiven Blues-Sänger, der von einem Content-Creator via KI erschaffen wurde und mehrere Top-10-Hits in den iTunes-Download-Charts landete. Jacob Mühlrad hat ein Stück für zwei Celli komponiert, wobei ein Instrument von einem Roboter gespielt wird.
Diese Beispiele zeigen, wie Bereiche menschlicher Intelligenz ausgenutzt werden, die sich nicht ohne Weiteres digitalisieren lassen und gerade aus diesem Grund besonders attraktiv sind. Daher gilt “Geschmack” (Taste) in Silicon Valley aktuell als die nächste technologische Grenze, die es zu überschreiten gilt. Das Cellospiel des Roboters etwa soll nicht mehr zu unterscheiden sein von dem eines professionelles Spielers. Eine seelenvolle Technologie soll entstehen.
Bis auf Weiteres kann davon keine Rede sein. Jacob Mühlrads Komposition ist ein bemerkenswertes Schaustück, denn es zeigt, dass vollendete Technik (wie sie ein Roboter hervorbringen kann) noch keine reizvolle Ausführung einer Partitur hervorbringt. Professionelle Musiker werden nach ihrem Vermögen beurteilt, wie sie Kompositionen interpretieren, nicht, wie sie sie technisch wiedergeben. Interpretation ist ein komplexer Prozess, dem ein langes Training vorausgeht und der naturgemäss nicht vollständig in Worten erklärt werden kann. Das Instrument wird zu einer Prothese. Der Künstler reproduziert nicht einfach die Komposition, er legt sie aus. Talent ist nicht blosse Geläufigkeit, sondern auch sublimierte, zuweilen über Jahrzehnte gewonnene Lebenserfahrung. Träume, Ängste, Hoffnung, Verletzungen, Irrtümer, Animosität – das sind die Triebkräfte der Interpretation.
Vermutlich ist es aktuell unmöglich, Hype und Wirklichkeit in Sachen KI voneinander zu trennen. Auch ihre Erfinder geben zu, dass sie nicht genau wissen, wie KI funktioniert. Forscher aus dem Bereich der Mechanistischen Interpretabilität bei Anthropic verhalten sich wie Charles Darwin auf den Galapagos-Inseln. Staunend vermessen sie die Reaktionen und dokumentieren unerwartete Verhaltensweisen ihrer Modelle. Ingenieure werden Naturforscher. Informatik wendet einen zoologischen Ansatz an.
Ob Modelle demnächst Geschmack entwickeln werden, wird sich zeigen. Auch, ob bereits im kommenden Jahr, wie KI-Skeptiker Daniel Kokotajlo für möglich hält, künstliche Generalintelligenz erreicht werden wird. Vielleicht schaffen wir es gar nicht bis zur technologischen Singularität, die sich Kurzweil vorstellt. Eine superintelligente Maschine muss nicht unbedingt alles besser können als Menschen, muss zum Beispiel nicht eindrucksvoller als Glenn Gould die „Goldbergvariationen“ spielen können, und mag dennoch imstande sein, einen Bioterrorakt durchzuführen, der die Menschheit vernichtet.
Wer wie ich weniger pessimistisch ist, mag unter anderem auf Michael Polanyis stille Intelligenz setzen. Zweifelsohne wird KI den Arbeitsmarkt wie unseren Alltag transformieren. Spielregeln, die Regierungen, KI-Produzenten, Schulen aber auch Nutzer entwickeln müssen, könnten zu einer friedlichen Ko-Evolution von KI und menschlicher Intelligenz führen. Immanuel Kants Frage „Was ist der Mensch?“ verlangt neue Antworten, die wir uns von der KI nicht abnehmen lassen dürfen. Wir werden diese Frage unter uns Menschen aushandeln müssen. Die KI-Mensch-Beziehung führt automatisch zu einer Neudefinition der Mensch-Mensch-Beziehung.
Sie führt auch zu einer Neudefinition davon, welchen Wert unsere Handlungen haben. Überlassen wir uns den reibungsfreien Algorithmen oder sind wir bereit eigene Anstrengungen zu unternehmen, um die Welt zu verstehen und in ihr zu agieren. Wie immer wir Einsteins „heiliges Geschenk“ der menschlichen Intelligenz auslegen, der Umgang damit wird unsere Rolle in der Welt entscheiden. Wenn Faktenwissen von Maschinen absorbiert wird, bleibt dennoch für uns eine Menge zu tun. Neue Berufe werden entstehen, die auf stillen Wissensinhalten und Talent gründen. Faradaysche Käfige werden uns vor der Zudringlichkeit der digitalen Dienste schützen. Eine Wiederentdeckung der analogen Welt ist denkbar. Junge Menschen, die im Gegensatz zu mir eine ausschliessliche Präsenz des Analogen nicht mehr kennen, entwickeln eine Neugier für diese Realität.
Solange I. J. Goods ultraintelligente Maschine nicht gebaut ist, werden wir Akteure eines Drehbuchs sein, dessen Inhalte wir erst im Nachhinein verstehen und dessen Autor wir nicht kennenlernen.
Erschienen in Lettre International (154, September 2026)
