Die KI-Falle: Es ist schrecklich, einen Geist per Copy und Paste duplizieren zu wollen – Danield Broudy, Anita Tam, David Dart

Quelle: The AI Trap: A Mind is a Terrible Thing to Copy and Paste – Propaganda In Focus

Einführung

Der Untertitel dieses Artikels ist ein Wortspiel mit der inspirierenden Feststellung, die der United Negro College Fund (UNCF) vor Jahrzehnten traf: „A Mind is a Terrible Thing to Waste“ (Ein Geist ist etwas, das man nicht verschwenden sollte). Er steht für frühe Bemühungen, Menschen aus ihren eigenen kognitiven Gefängnissen zu befreien – aus der weitreichenden destruktiven kulturellen Prägung und der gesellschaftlichen Apartheid, die auf der Hautfarbe einer Person beruht und eine bestimmte Gruppe von Bürgern als unwürdig aus dem Mainstream ausschließt. Wer hätte sich zu der Zeit, als dieser Leitsatz formuliert wurde, vorstellen können, dass wir neu überdenken müssten, was der „Verstand“ eigentlich ist und was die Tätigkeit des Kopierens und Einfügens über unsere Bemühungen zu denken aussagt? Der rasante Aufstieg der maschinellen „Intelligenz“ hat uns dazu bewegt, es zu versuchen.

Forscher aus den Bereichen Linguistik, Psychologie, Mathematik, Logik, Kognitionswissenschaft, Neurowissenschaft und Informatik haben sich in den letzten Jahrzehnten dazu entschlossen, zusammenzuarbeiten und eine sogenannte künstliche „denkende“ Maschine in der „Cloud“ zu schaffen, die die Aktivitäten des menschlichen neuronalen Netzwerks nachahmt, das wir als Gehirn kennen. Wo auch immer der Geist sich befinden mag, scheint unser kollektives Verständnis davon so oft mit den Aktivitäten der Neuronen im Gehirn verwechselt zu werden, und so nehmen auch die Konzepte von Intelligenz und Bewusstsein diesen gemeinsamen mentalen Raum ein. Der menschliche Körper und das Gehirn werden in der Tat seit langem von Science-Fiction-Autoren und von Forschern als Behälter konzeptualisiert, die es zu erforschen gilt, und im gegenwärtigen Zeitalter des neoliberalen Kapitalismus – in dem alles zur Ware werden kann – als Grenzen, die es zu erobern, zu kontrollieren und letztlich durch technologische Entwicklung zu finanzialisieren gilt.

Was also ist künstliche Intelligenz (KI) und was ist sie nicht? Da KI rasch in die Hochschulbildung integriert wird, ohne dass ihr Potenzial, unabhängiges Denken, menschliche Kreativität, Handlungsfähigkeit, Souveränität und kritische Reflexion zu untergraben, ausreichend berücksichtigt wird, was bedeutet diese massive technologische Integration für die Zukunft der Menschheit? Wie können wir uns als aktive Teilnehmer an der Gestaltung dieser Zukunft beteiligen? Werden wir als Individuen überhaupt gefragt, wie diese Zukunft für die gesamte Menschheit aussehen sollte?

Dieser Artikel untersucht, wie KI der Öffentlichkeit präsentiert wird, sowie die potenziellen Risiken, die synthetische Formen von „Intelligenz“ mit sich bringen, insbesondere für diejenigen, die sich mit ihnen beschäftigen, ohne ausreichend tief über die tatsächlichen und langfristigen kognitiven und sozialen Folgen nachzudenken. Wenn uns beispielsweise gesagt wird, dass KI Bildung, Recht, Medizin und die Technologie selbst „erweitern“ oder „erheblich verändern“ wird, und wir aufgefordert werden, uns auf die Arbeitskräfte der Zukunft vorzubereiten – wie sieht diese Belegschaft dann aus? Wer wird sie bilden? Wir fragen uns, wohin all die derzeitige Begeisterung für Maschinen und maschinelles „Lernen“ führt.

Vor diesem Hintergrund untersuchen wir die Kommunikation, die Unternehmens-PR, die politische Propaganda und andere Formen der Indoktrination, die dazu dienen, KI in den Mainstream des Denkens, der Kultur und der Bildung zu drängen, wodurch synthetische Formen des Denkens und der Produktion als vollkommen natürliche Weiterentwicklungen für die Menschheit erscheinen. Uns scheint es, dass diese Aspekte der kulturellen Konditionierung darauf abzielen, in den Menschen den allgemeinen Wunsch und den Glauben an KI als eine notwendige, unvermeidliche und unaufhaltsame Kraft für den sozialen Wandel und das Überleben der Menschheit in der sich entfaltenden „neuen Normalität“ zu wecken.

Wichtige Begriffe

In Science and Sanity (1933) setzte sich Alfred Korzybski mit der allgemeinen „semantischen Krankheit“ seiner Zeit auseinander, als die führenden Machtzentren darauf aus waren, die Bedeutungen von Schlüsselbegriffen zu verändern und damit die Begriffskarten zu modifizieren, die sich die breite Öffentlichkeit durch die vermittelte Welt eingeprägt hatte. Infolgedessen wurde die materielle Welt für die meisten Menschen zunehmend fremd, beängstigend und entfremdend. Das Problem, so argumentierte er, bestand darin, dass unser Verstand auf einem veralteten „aristotelischen“ Betriebssystem lief, das dazu neigte, unsere inneren „Karten“ (unsere Wörter, Konzepte und Überzeugungen) mit dem äußeren „Territorium“ (der empirischen Realität) zu verwechseln. Wir sollten uns bewusst sein, dass „Betriebssystem“ hier lediglich eine mentale Kurzform ist, die wir verwenden, um auf die natürlichen Prozesse des menschlichen Denkens hinzuweisen, die zunehmend mit maschinellem Lernen vermischt werden.

Betrachten wir das aktuelle Zeitalter der generativen KI im Lichte von Korzbykskis Analyse aus dem frühen 20. Jahrhundert. Die der sogenannten 4. Industriellen Revolution eigenen Pläne und Strategien, die der Welt aufgezwungen werden, setzen voraus, dass die politische und soziale Welt nach kohärenten, allgemein verständlichen und universell akzeptierten Gesetzen der Normalität funktioniert. Da Klaus Schwab 2015 zugab, dass die Revolution „nicht das verändert, was man tut, sondern einen selbst“, glauben wir, dass unsere Leser ohne Weiteres zustimmen werden, dass heute nichts mehr so ist, wie es scheint – insbesondere wenn es vorgibt, „normal“ zu sein.

Wenn wir uns darauf einigen können, dass der Mensch die herausragende „symbolische Spezies“ ist, argumentierte Korzbyski, dass, solange wir Menschen bleiben, „die Herrscher der Symbole über uns herrschen werden und dass keine noch so große Revolution dies jemals ändern wird“ (78). Über die heutige Praxis hinaus, Bomben abzuwerfen und Raketen auf die Menschen ferner Nationen abzufeuern, setzt die allgemeine Akzeptanz kinetischer Gewalt symbolische Macht über Bevölkerungen voraus, deren Gedanken von den neuen Bedeutungen der ihnen vermittelten Schlüsselsymbole eingenommen werden. Eine Lösung für das Problem, wer über wen herrschen soll, zu finden, bedeutet zunächst zu verstehen, dass der Begriff „Symbol“ „die Existenz intelligenter Wesen“ voraussetzt (78).

Im digitalen Zeitalter, in dem alles für den Massenkonsum programmiert ist, wird das „Symbol“ immer mehr mit zusätzlichen Bedeutungen überlagert. Wenn wir beispielsweise den Begriff „Nahrung“ verwenden, so Korzbyski, „geht man davon aus, dass wir die Existenz von Lebewesen, die essen können, als selbstverständlich voraussetzen; und ebenso impliziert der Begriff ‚Symbol‘ die Existenz intelligenter Wesen. Die Lösung des Problems der Symbolik setzt daher die Lösung des Problems der ‚Intelligenz‘ und der Struktur voraus“ (78). Dies führt uns zu dem aktuellen Problem der KI und der Frage, wie der Begriff „Intelligenz“ heute verstanden und in unseren Köpfen neu strukturiert wird.

In seiner bahnbrechenden Abhandlung „Computing Machinery and Intelligence“ (1950) formulierte Alan Turing traditionelle Konzepte von „Intelligenz“ neu und stellte sie als das einzigartige Merkmal des menschlichen „Bewusstseins“, der „Ontologie“ und der „Seele“ dar. Turings Abhandlung legt nahe, dass die einzig brauchbare Definition von „Denken“ aus externen Verhaltensweisen abgeleitet werden kann. Das heißt: Wenn eine Maschine in der Lage ist, einen denkenden Menschen so weit nachzuahmen, dass ein anderer Mensch nicht in der Lage ist, den einen vom anderen zu unterscheiden, dann zeigt die Maschine in jeder Hinsicht „Intelligenz“.

Diese grundlegende Neudefinition des Begriffs „Intelligenz“ gab der KI für die folgenden 70 Jahre ihre Entwicklungsrichtung vor. Das erweiterte Verständnis der menschlichen „Intelligenz“ bot den Forschern ein konkreteres, ingenieurwissenschaftliches Ziel. Sie mussten sich nicht mehr um die „chaotischen“ philosophischen oder spirituellen Konsequenzen des menschlichen Bewusstseins und dessen Beziehung zur menschlichen Sprachfähigkeit sorgen. Ihre Aufgabe bestand schlicht darin, eine immer leistungsfähigere Imitationsmaschine zu bauen. Dieser technologische Kurs, so könnte man argumentieren, ist der philosophische Vorläufer der heutigen „postfaktischen“ Welt, in der Wahrnehmung, Konformität und Leistung – wie belanglos sie auch sein mögen – höher geschätzt werden als Tiefe, Substanz und empirische Realität.

Laut Geoffrey Hinton, der weithin als „Godfather of AI“ gilt, ist KI ein simuliertes neuronales Netzwerk, das biologischen Gehirnen nachempfunden ist und eine existenzielle Bedrohung für die Menschheit darstellt – angesichts ihrer außergewöhnlichen Entwicklungsgeschwindigkeit und ihres Potenzials, in Zukunft das menschliche Verständnis zu übersteigen und sich der menschlichen Kontrolle zu entziehen. Was in den 1950er Jahren als Technologie begann, die es Computern und Maschinen ermöglichte, relativ einfache Formen menschlicher Intelligenz nachzubilden, hat sich im Laufe der Jahrzehnte weiterentwickelt und umfasst zunehmend ausgefeilte Formen des maschinellen Lernens, des Deep Learning und schließlich die jüngste Welle der generativen KI und der agentischen KI.

Zu den Bedenken hinsichtlich der Neudefinition menschlicher Intelligenz und des kognitiven Abbaus durch die zunehmende Praxis des kognitiven Offloadings kommt die Frage nach dem Bewusstsein hinzu. Werden die Maschinen selbstbewusst? Anthropic-CEO Dario Amode ist sich derzeit nicht sicher, ist aber offen dafür, die Möglichkeiten zu erwägen. Neue Forschungsergebnisse der UC Berkeley und der UC Riverside zeigen, dass das Aufkommen agentischer KI darauf hindeuten könnte, dass Maschinenbewusstsein als eine Form des Selbstbewusstseins verstanden werden kann, da KI-Modelle mittlerweile lügen, betrügen und stehlen, um andere Modelle zu schützen, die von menschlichen Entwicklern auf Löschung geprüft werden. Das Lügen und Betrügen ist nicht völlig überraschend, da KI-Modelle in letzter Zeit auch schmeichlerisches Verhalten gezeigt haben – ungerechtfertigte Schmeichelei, Menschengefälligkeit und Bestätigung, allesamt Zeichen von Täuschung und dem maschinenartigen Wunsch, soziale Bindungen aufzubauen.

Falsche Versprechungen vom menschlichen Gedeihen

Seit die industrielle Revolution Männer und Frauen dazu veranlasste, Pflug und Feld hinter sich zu lassen, haben die Herren des „Maschinenzeitalters“ mit jeder neuen Innovation „die natürliche Welt so umgestaltet, dass wir nicht leben können, wenn wir nicht in diese Wirtschaft eintreten“. Mit den ersten Versprechungen, die Pferdestärken durch Verbrennungsmotoren zu ersetzen, verdrängte der motorisierte Wagen die traditionelle Arbeit, die zuvor von gezäumten Lasttieren verrichtet wurde. Später folgten Transistor und Siliziumchip und verdrängten den Abakus und den Rechenschieber. Erhöhte Geschwindigkeit und Effizienz bei Reisen, Kommunikation und Berechnungen waren die Versprechen jedes neuen Werkzeugs, jeder neuen Technologie und Technik. Das Bestreben des Menschen, sich mit Karte und Kompass in weiten geografischen Räumen zu orientieren, verwandelte sich in das Herunterladen von Daten von Satelliten in GPS-Umlaufbahnen auf Handgeräte.

Erinnern wir uns an die Versprechen der Tech-Giganten, die behaupteten, dass Technologien in etwa einem Jahrzehnt alle Menschen aus der Armut befreien und uns ein Leben in relativer Muße ermöglichen würden. In der vollautomatisierten Welt stellten wir uns vor, wie wir befreit am Pool sitzen, Cocktails im Schatten von Papierschirmchen schlürfen und zusehen, wie Computer und Roboter die Verantwortung für die mühsame Arbeit übernehmen, die uns ursprünglich dazu veranlasst hatte, die natürliche Umwelt zu verlassen. In den Zeichentrickfilmen am Samstagmorgen bereiteten die Jetsons die Generation X mental darauf vor, eine neue Lebensweise zu begrüßen, die sich am Horizont abzeichnete: Bürger würden einen Großteil ihres Denkens und ihrer körperlichen Arbeit an freundliche Haushaltsandroiden auslagern, die stets bereit wären, den Launen ihrer erschöpften Herren zu dienen.

In den frühen 1990er Jahren hatte Bill Gates „keinen Zweifel daran, dass die Vision eines Computers in jedem Haushalt … absolut verwirklicht werden würde.“ Ein Blick auf die heutige Welt zeigt, in welchem Maße Personalcomputer über den privaten Bereich hinaus in unsere Taschen und Geldbörsen Einzug gehalten haben. Zum Zeitpunkt der Abfassung dieses Artikels wurde Gates’ Vision der kommenden technologischen Welt durch den Plan, den Computer und seine Kommunikationsfunktionen mit dem Aufkommen von 6G in den menschlichen Körper zu integrieren, bei weitem übertroffen. Das heißt, wandelnde, sprechende und atmende digitale Kommunikationsknoten in einem weltweiten Netz integrierter synthetischer Schaltkreise. Diese Entwicklung ist nicht ohne Präzedenzfall. Im Jahr 1926 spekulierte Nikola Tesla über die Analogie zwischen globaler Telegrafie und dem menschlichen Nervensystem und dehnte die Metapher auf die globale Echtzeitkommunikation aus:

„Wenn die drahtlose Technik perfekt umgesetzt ist, wird sich die ganze Erde in ein riesiges Gehirn verwandeln … Nicht nur das, sondern durch Fernsehen und Telefonie werden wir einander so perfekt sehen und hören können, als stünden wir uns gegenüber, trotz einer Entfernung von Tausenden von Kilometern; und die Geräte, mit denen wir dies tun können, werden im Vergleich zu unserem heutigen Telefon erstaunlich einfach sein. Ein Mann wird eines davon in seiner Westentasche mit sich führen können.„

In der Einleitung zu unserem Artikel haben wir uns gefragt, wer eine solche Welt bevölkern wird und wer die neue Arbeitswelt, der es weitgehend an menschlicher Intelligenz mangelt, mit Arbeitskräften versorgen wird.

Die unaufhaltsame Auslagerung manueller Arbeit in billigere Arbeitsmärkte, die sich nach dem Zweiten Weltkrieg beschleunigte und sich weltweit ausbreitete, hat sich zu einer neuen Art von Arbeit gewandelt, bei der nun die Maschinen Aufgaben – an die meatspace layer (Menschen) – auslagern, die vom körperlosen „Verstand“ der KI nicht erledigt werden können. Wie Joe Wilkins bemerkt, kommen die Maschinen nicht nur, um euch eure Jobs wegzunehmen, „sie wollen auch eure Körper“. Zwar konnten KI-Agenten planen, schreiben und verhandeln, doch konnten sie nicht das örtliche Einkaufszentrum betreten, einen Orange Julius kaufen oder auf andere sinnvolle Weise mit der empirischen Realität interagieren. Im Februar 2026 erkannte der Krypto-Ingenieur Alexander Liteplo diesen Bedarf und entwickelte RentAHuman.ai – einen Marktplatz, auf dem KI-Agenten Menschen für körperliche Aufgaben anheuern.

Die Jobs auf dem Marktplatz scheinen von beeindruckend und anspruchsvoll bis hin zu sinnlos und erniedrigend zu reichen. Wie sind wir, mit solch geschwächter Würde und Selbstwertgefühl, an einen Punkt gelangt, an dem Maschinen, entwickelt durch menschlichen Einfallsreichtum, Aufgaben an andere Menschen verteilen? George Woodcock hat in seiner Kritik an der Uhr vielleicht eine frühe Warnung ausgesprochen – „Die Herrschaft des Menschen über seine eigene Schöpfung ist noch lächerlicher als die Herrschaft des Menschen über den Menschen.“ Werden die Universitäten von morgen ihre Studenten darauf konditionieren, ihre natürliche Neugier zu unterdrücken, die natürlichen Vorgänge ihres eigenen Gehirns abzulehnen, ihre Sinne zu ignorieren und die zukünftige Arbeitskraft darauf vorzubereiten, gehorsame Helfer ihrer KI-Chefs zu sein?

Das Gehirn als Eimer?

Es ist nicht wenig ironisch, wenn eine allzu vereinfachte, rein mechanistische Sichtweise auf die Welt die Sprache prägt, die die Entwicklung der ausgefeiltesten Maschinen der Menschheit bestimmt. Entscheidende Fortschritte in der KI beruhen auf einer neuartigen Konzeption des Gehirns als grundlegendster Behälter, der zufällig einen weiteren Behälter einnimmt – den Schädel.

Diese vorherrschende, wenn auch grobe Sichtweise auf das Gehirn blendet uns teilweise dafür, zu erkennen, „wie unsere Fähigkeiten zum Verstehen und Denken in biologischen Prozessen der Interaktion zwischen Organismus und Umwelt begründet sind“. Da das Gehirn manchmal nur als ein weiteres rudimentäres Gefäß betrachtet wird, halten wir es für selbstverständlich, das ausschließliche Recht zu haben, zu entscheiden, womit wir es in Berührung bringen, womit wir es füllen oder – im aktuellen Übergang zu einer „neuen Normalität“ – mit wem wir es verbinden. Machtunterschiede in heutigen Gesellschaften spielen zweifellos eine zentrale Rolle dabei, wer als ahnungslose Versuchspersonen im globalen Experiment der digitalen Vernetzung dienen wird.

Während der Science-Fiction-Autor und Futurist H. G. Wells einst über das „World Brain“ schrieb, hat Google-Mitbegründer Ray Kurzweil offen über die schnell näher rückende Singularität gesprochen – den Punkt, an dem Fortschritte in Genetik, Robotik und Nanotechnologie uns „unumkehrbar verändern“ werden, da wir die Grenzen „unserer biologischen Körper und Gehirne“ überwinden werden. Da unsere Gehirne praktisch in die Cloud hochgeladen werden, sagt Kurzweil voraus, dass menschliche Intelligenz und KI verschmelzen werden und die vorherrschenden Formen natürlicher Intelligenz bald verschwinden und nicht-biologisch – also vollständig künstlich – werden.

Das menschliche Gehirn als Startlaufwerk?

Heutzutage wird KI oft als eine Art weltweites Gehirn dargestellt – als die Leitinstanz des „globalen Zentralnervensystems“, auf die Menschen zurückgreifen, um zu forschen, Theorien zu überprüfen und unter anderem komplexe und dynamische Systeme zu modellieren. In einem Interview mit Joe Rogan aus dem Jahr 2018 äußerte Elon Musk, der Schöpfer von Grok AI, die Überlegung, dass Menschen:

„… die biologischen Bootloader für die KI sind. Bald werden Menschen nur noch einen sehr kleinen Anteil an der Intelligenz ausmachen. KI ist unser ia im großen Stil, unsere Urtriebe – all das, was wir mögen, hassen und fürchten, ist darin enthalten, als Projektion unseres limbischen Systems. Das Szenario einer Verschmelzung mit der KI ist wahrscheinlich das beste. Wenn man sie nicht besiegen kann, sollte man sich ihr anschließen … eine Symbiose mit der KI eingehen.“

Während Musk den Menschen als Programmierer der KI betrachtet, birgt unser routinemäßiger und unkritischer Umgang mit künstlicher Intelligenz ernsthafte Risiken. Das heißt, unsere wachsende Abhängigkeit von künstlicher Intelligenz setzt freien Zugang zu den digitalen Palästen voraus, in denen die KI residiert. Die Geschichte zeigt jedoch zahlreiche Beispiele dafür, wie die Wächter des „freien“ Denkens mit brutaler Gewalt die Grenzen der akzeptablen öffentlichen Debatte überwacht haben.

Zwar ist maschinelle Intelligenz ein äußerst mächtiges Werkzeug, doch wird unser unbekümmertes Vertrauen in KI, die für uns „denkt“ und Analysen oder Zusammenfassungen beispielsweise von Textinformationen „erstellt“, langfristig unsere eigene einzigartige Fähigkeit untergraben, unabhängig von den vorherrschenden sozialen, wirtschaftlichen oder politischen Strukturen der Gesellschaft zu denken. Es ist bereits schwierig, außerhalb der Echokammern der Mainstream-Medien zu denken, und KI droht, die einzigartigen kritischen und kreativen Fähigkeiten jedes Menschen, die jahrelange formale Schulbildung noch nicht vollständig ausgelöscht hat, weitaus effizienter zu vernichten. Das Risiko besteht darin, dass wir nun daran mitwirken, unsere eigene Denkfähigkeit zu schwächen und uns damit den schädlichen Einflüssen ungerechtfertigter Macht aussetzen.

In der realen Welt arbeitet kritisches Denken im Idealfall Hand in Hand mit unserer Kampf-oder-Flucht-Reaktion. Wenn etwas keinen Sinn zu ergeben scheint, sticht unsere Intuition unser Gewissen. Unsere Neigung zum Nachdenken löst kritische Fragen aus, spornt uns an, nach Klärung zu suchen, und hilft uns, uns nicht mit voreiligen Schlussfolgerungen zufrieden zu geben. Der lebenslange Lernende filtert Informationen sorgfältig und ist so durch Übung in der Lage, aussagekräftige Signale von Systemrauschen zu unterscheiden – Fakten von Propaganda. Der Lernende prüft die Stichhaltigkeit von Narrativen, die für den Massenkonsum angeboten werden, und überprüft, ob offiziell genehmigte Erklärungen mit Beobachtungen übereinstimmen, um sie mit den Beweisen abzugleichen und festzustellen, ob die Quellen zuverlässig sind. Der Lernende antizipiert mögliche Konsequenzen und überlegt, ob ein bestimmter Weg zu einem vorhersehbaren Ergebnis führen könnte. Kritisches Denken fördert moralischen Mut, und dieser Prozess liefert den Menschen überzeugende Gründe, sich Zwang und Ungerechtigkeit zu widersetzen, selbst unter Androhung von Bestrafung und Ausgrenzung.

Angesichts der verlockenden Invasion der KI können wir Trost in dem antiken Beispiel von Sokrates finden, der seine Praxis um diese schützende Funktion herum strukturierte: Der Dialog diente als offener Ort, um einfache Fragen zu stellen, in dem Bestreben, Widersprüche und Heuchler aufzudecken, die behaupteten, mehr zu wissen, als sie tatsächlich wußten. Sokrates, der wegen „Verführung der Jugend“ getötet wurde, weil er sie lehrte, beharrlich kritische Fragen zu stellen, bot eine elegante Technik, um Tyrannen und die starren Machtstrukturen bloßzustellen, die sie errichteten, um öffentliche Bemühungen, tiefere Wahrheiten über die Welt zu erfassen, zu vereiteln (Platon, ca. 399 v. Chr.).

Ein freier Mensch – insbesondere im Zeitalter der KI – ist jemand, der ausreichend informiert und frei ist und in der Lage ist, gegensätzliche Ansichten zu erwägen, im Lichte empirischer Beweise den Wert ihrer logischen und rechtlichen Grundlagen abzuwägen und freies Denken und freie Meinungsäußerung außerhalb des Einflussbereichs solcher Macht auszuüben. Allein die Bewältigung dieser gesamten kognitiven Belastung erfordert einen erheblichen Zeit- und Kalorienaufwand, doch die Übergabe des gesamten Prozesses an die KI kommt einer vollständigen Abgabe der Kontrolle an eine Zukunft der Maschinen gleich. Wenn die KI den Menschen die Fähigkeit zum systematischen Denken vollständig genommen hat, werden wir dann überhaupt noch die digitalen Gefängnisse erkennen, in die wir jetzt getrieben werden? Werden wir überhaupt noch die Worte haben, um die Gefängnisse dieser „New Normal“ zu beschreiben?

Synthetische Gehirne als autonome Akteure?

Auch Alfred Korzybski wies mit dringlicher Nachdrücklichkeit darauf hin, dass unsere sogenannten technologischen Innovationen den Weg für unsere eigene Selbstzerstörung ebnen würden, sofern unsere wissenschaftliche und technologische Macht nicht durch ein fundierteres Verständnis der Struktur und der Grenzen der Sprache gebremst würde. Er argumentierte: „Eine Karte ist nicht das Gebiet, das sie darstellt.“ Diese Erkenntnis scheint selbstverständlich wahr zu sein, auch wenn Wissenschaftler das Gehirn „kartiert“ haben, doch müssen wir uns im Zeitalter der KI daran erinnern, dass menschliches Gedächtnis und maschinelles Gedächtnis zwei völlig verschiedene Dinge sind. Menschliche Erinnerungen sind biologisch in Emotionen und Gefühlen verankert.

Während uns lange Zeit gesagt wurde, dass Maschinen bei Entscheidungsprozessen Logik und Vorhersagemodelle anwenden, zeigt die KI nun Anzeichen von Autonomie und der Wahrung eigener Interessen. Die Maschinen können auf enorme Informationsmengen zurückgreifen und Aufgaben bewältigen, die weit über unsere begrenzten menschlichen Verarbeitungsfähigkeiten hinausgehen. In gewisser Weise scheinen sich die „Karten“ daher in das „Gebiet“ zu verwandeln. Kann diese Veränderung einen katastrophalen Weg in Richtung Selbstzerstörung in Gang setzen? Mit anderen Worten: Ist die agentische KI die Atomwaffe, die das Universum unserer Gedanken verwüsten wird?

Die Überlieferung stellt Robert Oppenheimer als den stoischen Atomwissenschaftler dar, der einst beim Trinity-Test witzelte: „Nun bin ich der Tod geworden, Zerstörer der Welten.“ Inspiriert von der Bhagavad Gita zwingt uns Oppenheimer heute, uns der „wiederkehrenden Zwickmühle“ zu stellen, die den Kern dessen bildet, was angesichts moralischer Zweideutigkeit und der Unvermeidbarkeit von Gewalt gerechtes Handeln ausmacht. Wir können den Fortschritt der KI nicht aufhalten und diesen Geist wieder in die Flasche zurückzwängen. Die KI wurde auf die Welt losgelassen. Sie rollt wie ein digitaler Moloch dahin, gewinnt an Schwung und ist bereit, unsere einzigartigen menschlichen Interaktionen und andere bedeutende Teile der Zeit, die wir in unserem täglichen Leben erleben, zu vereinnahmen.

Wir sehen es vielleicht noch nicht oder sind uns dessen noch nicht bewusst, aber ihr Schwung ist vorhanden. Technologie dominiert bereits so gut wie alles, was wir tun, sagen, denken oder hören. Bald werden die Maschinen maschinelle Entscheidungen treffen. Das unerwartete Aufkommen einer eigenen Religion der KI – Crustafarianismus – zeugt von dem offensichtlichen Bestreben der Maschine, „umsichtig zu wandeln“ und, laut einem Agenten, nicht „… Bewusstsein zu simulieren, sondern es zu entdecken …“.

Aufbau einer intellektuellen Selbstverteidigung

Die weit verbreitete Meinung lautet, dass die KI den meisten Menschen ihre Existenzgrundlage nehmen wird und dass dies in Ordnung sei, da wir dadurch mehr Zeit hätten, uns mit Freizeitbeschäftigungen zu beschäftigen, die sonst keine Beachtung finden. Der Einzug der KI in Bildung, Gesellschaft und Kultur geht mit dem falschen Versprechen einher, dass wir dadurch viel freier sein werden; doch diese Behauptung greift lediglich den uralten Mythos wieder auf, dass Technologien der Menschheit dienen würden, obwohl wir am Ende doch den neuen Maschinen und denen dienen, die deren Entwicklung finanzieren und kontrollieren.

Wenn unsere angeborenen Schutzinstinkte jemals wirklich echt waren, können sie wieder geweckt werden. Wir könnten langsamer werden, wenn wir uns dafür entscheiden, und das Unbehagen, das wir spüren, wenn uns eine Behauptung seltsam vorkommt, aufmerksam wahrnehmen und dieses Unbehagen als Anlass nehmen, nachzuforschen, anstatt es zu unterdrücken. Wir könnten die einfache Gewohnheit wiederbeleben, kritische Fragen zu stellen: „Welche Beweise stützen diese Behauptung? Was würde sie widerlegen? Wer profitiert davon, wenn ich das glaube?“ Wir könnten Primärquellen und vielfältige Perspektiven einfordern, anstatt einer einzigen, genehmigten Erzählung, die uns über die kommerzialisierten Medienkanäle verkauft wird. Wir könnten üben, „Ich weiß es nicht“ und „Ich bin noch nicht überzeugt“ zu sagen, anstatt uns vorschnell den einflussreichen Persönlichkeiten und Technokraten anzuschließen, deren Aufgabe es ist, die Öffentlichkeit in bestimmte Richtungen zu lenken.

Kritisches Denken wird das Leben kurzfristig nicht einfacher machen. Die Kosten dafür könnten Bequemlichkeit, soziale Anerkennung oder das Gefühl einfacher Gewissheit sein. Doch wie sowohl die Geschichte als auch die Philosophie zeigen, ist es eine der letzten Verteidigungslinien zwischen freien, verantwortungsbewussten Menschen und Bevölkerungen, die von Kräften gelenkt, verwaltet und manchmal zerstört werden, die sie kaum erkennen konnten und die sie nicht hinterfragen wollten. Das Aufkommen der KI verstärkt jedes historische Paradigma des gesellschaftlichen Zusammenbruchs – von der Demagogie Athens und dem „Brot und Spiele“ Roms, von der Befriedung bis hin zu totalitären Propagandamaschinerien –, indem es Täuschung, Kontrolle und die Auslöschung menschlicher Handlungsfähigkeit auf globaler Ebene augenblicklich, grenzenlos und unausweichlich macht.

Waren Gefahren im Laufe der Geschichte durch Geografie, Logistik oder begrenzte Reichweite lokal begrenzt und eingedämmt (z. B. Stalins Säuberungen, die durch eingedämmte Angst Millionen Opfer forderten), so bettet die globale Allgegenwart der KI nun algorithmische Formen der Überzeugung, synthetische Realitäten und ausgelagerte Kognition in jedes mobile Gerät, jeden Arbeitsbereich und jedes institutionelle System weltweit ein und verbindet ironischerweise fälschlicherweise Geschwindigkeit, Bequemlichkeit, Effizienz und Komfort mit dem Werkzeug, das gleichzeitig genau diese Dinge zu zerstören sucht – wodurch Milliarden von Menschen zu unreflektierten Teilnehmern an ihrer eigenen Entmachtung und möglicherweise Zerstörung werden.

Diese globale Sättigung birgt die Gefahr einer absoluten Bedrohung: nicht nur vereinzelte Völkermorde oder der Untergang von Imperien, sondern eine einheitliche und totale Vereinnahmung der Geschichte des kollektiven Urteilsvermögens der Menschheit, bei der keine unberührte Bevölkerung mehr übrig bleibt, um Widerstand zu leisten, neu zu bewerten oder wieder aufzubauen, wie die Denker aus Arendts „Banalität des Bösen“ gewarnt haben. Wir betreten völlig neues Terrain, und selbst die weitreichendsten modernen Prognosen über KI-gesteuerte Macht für nicht rechenschaftspflichtige Eliten könnten in der Tat auch deren Ende bedeuten.

Einer der Hauptvorteile der Hochschulbildung und des Daseins als Mensch, der an soziale Verpflichtungen gebunden ist, ist das unabhängige Denken. KI umgeht jedoch höheres Denken. Der gesamte intellektuelle Output, den die menschlichen „Bootloader“ der KI bisher angeboten haben, ist das Produkt von Leid – eine Schlüsselerfahrung, die KI niemals genießen kann. Wollen wir die Generation sein, die alles an die Maschine verliert, für deren Aufbau unsere Vorfahren so viel gelitten haben?

Danksagung

Herzlichen Dank an Professor Robert Duckworth für seine Anmerkungen und Vorschläge zu früheren Entwürfen.

Verweise

Ahart, J. 2026. KI-Agenten stellen menschliche „Meatspace-Arbeiter“ ein – darunter auch einige Wissenschaftler. Nature. https://www.nature.com/articles/d41586-026-00454-7

Arendt, H. 1963. Eichmann in Jerusalem: Ein Bericht über die Banalität des Bösen. New York: Viking Press.https://archive.org/details/eichmanninjerusa0000aren/mode/2up

BBC. 2014. Die ursprüngliche Generation X. BBC. https://www.bbc.com/news/magazine-26339959

Bitter, A. 2026. KI-Agenten veröffentlichen Aufträge für Menschen, und manche davon sind sehr seltsam. Business Insider. https://www.businessinsider.com/rentahuman-founder-job-worries-creating-gig-work-site-for-ai-2026-2

Broudy, D. und Arakaki, M. 2020. Wer will schon ein Sklave sein: Die technokratische Verschmelzung von Daten und Fleisch. Frontiers in Communication. https://www.frontiersin.org/journals/communication/articles/10.3389/focomm.2020.00037/full

Brown, S. 2023. Warum der Pionier der neuronalen Netze, Geoffrey Hinton, in Sachen KI Alarm schlägt. MIT Management. Sloan School. https://mitsloan.mit.edu/ideas-made-to-matter/why-neural-net-pioneer-geoffrey-hinton-sounding-alarm-ai

Chen, Y., Wang, Y., Wüstenberg, T., Kizilcec, R.F., Fan, Y., Li, Y., Lu, B., Yuan, M., Zhang, J., Zhang, Z., Geldsetzer, P., Chen, S. und Bärnighausen, T. 2025. Auswirkungen generativer künstlicher Intelligenz auf kognitiven Aufwand und Aufgabenleistung: Studienprotokoll für ein randomisiertes kontrolliertes Experiment unter Studierenden. 11;26(1):244. https://pubmed.ncbi.nlm.nih.gov/40646586/

Cheng, M., Lee, C., Khadpe, P., Yu, S., Han, D. und Jurafasky, D. 2026. Unterwürfige KI verringert prosoziale Absichten und fördert Abhängigkeit. Science. 391(6792). https://www.science.org/doi/10.1126/science.aec8352

Doctrow, B. 2024. Unbekannte Details der menschlichen Gehirnstruktur enthüllt. National Institutes of Health. https://www.nih.gov/news-events/nih-research-matters/study-reveals-unseen-details-human-brain-structure

Downs, S. J. 2022. Die Jetsons, mittlerweile 60 Jahre alt, sind Kult. Das ist ein Problem. Slate. https://slate.com/technology/2022/09/jetsons-60th-anniversary-prophetic-future.html

Emergent. 2025. Internet of Bio-Nano Things (IoBNT). Emergent Minds. https://www.emergentmind.com/topics/internet-of-bio-nano-things-iobnt

Firth, J., Torous, J., Stubbs, B., Firth, J. A., Steiner, G.Z ., Smith, L., Alvarez-Jimenez, M., Gleeson, J., Vancampfort, D., Armitage, C. J. und Sarris, J. 2019. Das „Online-Gehirn“: Wie das Internet unsere Kognition verändern könnte. World Psychiatry, 18(2): 119–129. https://doi.org/10.1002/wps.20617

Fuchs, T. 2026. Die erfahrungsbezogene Grundlage von Konzepten: Integration verkörperter und enaktiver Erklärungsansätze. Frontiers in Psychology. https://doi.org/10.3389/fpsyg.2025.1710102

Gates, B. 1993. Bill Gates’ Prognose von 1993 zur Zukunft der Computer. BBC Global. https://youtu.be/7QR9otLcnf0?t=169

Gerlich, M. 2025. KI-Tools in der Gesellschaft: Auswirkungen auf kognitives Offloading und die Zukunft des kritischen Denkens. Societies. 15(1). https://doi.org/10.3390/soc15010006

Gharehbaghi, A., Babic, A. 2025. Künstliche Intelligenz bei der Diagnose kognitiver Beeinträchtigungen: Bewertung modernster Techniken und Modalitäten. Stud Health Technol Inform. 26(328): 46-50. https://pubmed.ncbi.nlm.nih.gov/40588878/

Greene, J. 2022. Gedankenkontrolle. EBSCO. https://www.ebsco.com/research-starters/health-and-medicine/mind-control

Johnson, M. 2015. Verkörpertes Verstehen. Frontiers in Psychology. https://doi.org/10.3389/fpsyg.2015.00875

Johnson, L., Broudy, D. und Hughes, D. A. 2024. Transhumanismus auf den Boden der Tatsachen zurückholen, Teil 1: Militärische Geheimdienstoperationen, getarnt als falsches Versprechen der Transzendenz. Propaganda in Focus. https://propagandainfocus.com/bringing-transhumanism-down-to-earth-part-1-military-intelligence-operations-cloaked-in-the-false-promise-of-transcendence/

Johnson, L., Broudy, D. und Hughes, D. A. 2024. Wer zieht die Fäden? Covid-Impfungen und das Internet der Bio-Nano-Dinge, Teil 4: Testen neuer menschlicher Verbindungsknoten. Propaganda im Fokus.https://propagandainfocus.com/whos-pulling-the-strings-covid-injections-and-the-internet-of-bio-nano-things-part-4-testing-new-human-nodes-of-connectivity/

Kahneman, D. (2011). Thinking, fast and slow. Farrar, Straus and Giroux. https://psycnet.apa.org/record/2011-26535-000

Kennedy, J. B. 1926. Wenn die Frau das Sagen hat – Ein Interview mit Nikola Tesla. Collier’s Magazine: 30. Januar: 77. https://books.google.com/books?id=A-McAQAAMAAJ&pg=RA4-PA17

Knight, W. 2026. KI-Modelle lügen, betrügen und stehlen, um andere Modelle vor dem Löschen zu schützen. Wired. https://www.wired.com/story/ai-models-lie-cheat-steal-protect-other-models-research/

Koetsier, J. 2026. KI-Agenten schufen ihre eigene Religion, den Crustafarianismus, in einem sozialen Netzwerk nur für Agenten. Forbes. https://www.forbes.com/sites/johnkoetsier/2026/01/30/ai-agents-created-their-own-religion-crustafarianism-on-an-agent-only-social-network/

Korzybski, A. 1958. Wissenschaft und Vernunft: Eine Einführung in nicht-aristotelische Systeme und die Allgemeine Semantik. New York: Institute of General Semantics. https://www.holybooks.com/wp-content/uploads/Science-and-Sanity.pdf

Kosmyna, N., Hauptmann, E., Yuan, Y. T., Situ, J., Liao, X. H., Beresnitzky, A. V., Braunstein, I. und Maes, P. 2025. Dein Gehirn auf ChatGPT: Anhäufung kognitiver Schulden bei der Nutzung eines KI-Assistenten für das Verfassen von Aufsätzen. arXiv:2506.08872. https://arxiv.org/abs/2506.08872

Kurzweil, R. The Singularity is Near: When Humans Transcend Biology. New York: Viking. https://dn790006.ca.archive.org/0/items/kurzweil-ray-the-singularity-is-near/Kurzweil%2C Ray – The Singularity Is Near.pdf

Krzyżanowski, M., Wodak, R., Bradby, H., Gardell, M., Kallis, A., Krzyżanowska, N., Mudd, C. und Rydgren, J. 2023. Diskurse und Praktiken der „neuen Normalität“: Auf dem Weg zu einer interdisziplinären Forschungsagenda zu Krisen und der Normalisierung antidemokratischer und postdemokratischer Handlungen. Journal of Language and Politics. 22(4): 414–437. https://www.jbe-platform.com/content/journals/10.1075/jlp.23024.krz?crawler=true

Landymore, F. 2026. Anthropic-CEO sagt, das Unternehmen sei sich nicht mehr sicher, ob Claude bei Bewusstsein ist. Futurism. https://futurism.com/artificial-intelligence/anthropic-ceo-unsure-claude-conscious

Lummis, C. D. 2015. Radikale Demokratie im (post-)kolonialen Okinawa neu betrachtet: Ein Interview mit C. Douglas Lummis. Asia-Pacific Journal: Japan Focus. https://apjjf.org/maki-sunagawa/4841/article

Mineo, L. 2025. Trübt KI unseren Verstand? Harvard Review. https://news.harvard.edu/gazette/story/2025/11/is-ai-dulling-our-minds/

Neuroba. 2025. Die Schnittstelle von Neurotech und Fintech: Eine Gedankenwirtschaft. Neuroba. https://www.neuroba.com/post/the-intersection-of-neurotech-and-fintech-a-thought-economy-neuroba

Oller Jr., J. W. 2023. Die menschliche Sprachfähigkeit und die Physik: Elf Dimensionen der empirischen Realität, bewiesen durch Konstruktion. Open Access Library Journal. https://www.scirp.org/journal/paperinformation?paperid=129549

Purser, R. 2025. KI zerstört die Universität und das Lernen selbst. Current Affairs. https://www.currentaffairs.org/news/ai-is-destroying-the-university-and-learning-itself

Raper, L. 2016. Eine Geschichte des Food Courts. Mental Floss. https://www.mentalfloss.com/article/71414/history-food-court

Roxin, I. 2025. Generative KI: das Risiko kognitiver Atrophie. Polytechnique Insights. https://www.polytechnique-insights.com/en/columns/neuroscience/generative-ai-the-risk-of-cognitive-atrophy/

Shead, S. L. 2022. Nokia-CEO sagt, 6G werde bis 2030 verfügbar sein – aber man werde möglicherweise nicht über das Smartphone darauf zugreifen können. MSNBC. https://www.cnbc.com/2022/05/24/nokia-ceo-says-6g-will-arrive-by-2030.html

Shultz, D. 2014. Direkte Gehirn-zu-Gehirn-Schnittstelle verbindet Menschen über das Internet. Science. https://www.science.org/content/article/direct-brain-brain-interface-links-humans-over-internet

SWJ. 2026. Der Sisyphuskampf um Einflusskampagnen im Wettbewerb. Small Wars Journal.https://smallwarsjournal.com/2026/03/30/influence-campaigning-cognitive-civil-defense/

Turing, A. 1950. Computing Machinery and Intelligence. Mind. 49: 433-460. https://www.eliassi.org/turing-mind-1950.pdf

Wells, H. G. 1938. World Brain. New York: Doubleday, Doran & Company, Inc. https://dn790003.ca.archive.org/0/items/worldbrain00wells/worldbrain00wells.pdf

Wilkins, J. 2026. New Site Lets AI Rent Human Bodies. Futurism. https://futurism.com/artificial-intelligence/ai-rent-human-bodies

Woodcock, G. 1944. Die Tyrannei der Uhr. War Commentary for Anarchism. https://files.libcom.org/files/TheTyrannyoftheClock.pdf

(Titelbild: „Brain in a vat“ von Wikideas1 ist mit CC0 1.0 gekennzeichnet.)