Autopilot III – ESC

Teil III: Das menschliche Interface

Quelle: Autopilot III – The price of freedom is eternal vigilance.

Bisher haben wir Governance beschrieben, die von außen auf Sie einwirkt – indem sie kontrolliert, was Sie kaufen können, wohin Sie gehen können und auf welche Plattformen Sie zugreifen können. Aber dieser Trend macht nicht an den Grenzen Ihres Geldbeutels oder Ihrer Haustür Halt.

Die gleiche Logik, die Governance in die Finanzinfrastruktur integriert, wird nun auf den Menschen selbst ausgeweitet.

Eine der merkwürdigsten Auslassungen in der aktuellen Debatte ist, wie selten drei bestimmte Ideen zusammen betrachtet werden.

Marx‘ „Fragment über Maschinen” sagte voraus, dass die für die Produktion erforderliche Intelligenz vom Arbeiter auf die Maschine selbst übergeht. Julian Huxleys Transhumanismus schlug vor, dass die Menschheit ihre derzeitige biologische Form durch die Integration mit Technologie überwinden wird – und sollte. Und Teilhard de Chardins Omega-Punkt sah eine Evolution voraus, die zu einem einheitlichen planetarischen Bewusstsein konvergiert.

Für sich genommen scheinen diese Ideen in unterschiedliche Regale zu gehören: Wirtschaft, futuristische Philosophie, mystische Theologie. Aber zusammen gelesen beschreiben sie dasselbe Ziel: Intelligenz wandert in Systeme, Menschen werden zu Knotenpunkten innerhalb dieser Systeme, und die Konvergenz wird als „evolutionäres Schicksal“ dargestellt.

Und sobald die Intelligenz in Systeme übergeht, erscheint die alte Frage – wer erhält die Gewinne? – fast schon nostalgisch. Denn die Frage, die tatsächlich zählt, ist viel grundlegender: Wer setzt die Ziele der Maschine?

Marx‘ Fragment, aktualisiert

Marx‘ Argument in seinem Fragment über Maschinen ist nicht nur, dass Maschinen die menschliche Muskelkraft ersetzen. Es geht darum, dass Maschinen ihr Wissen absorbieren.

Mit zunehmender Komplexität der Produktion liegt die Intelligenz des Systems nicht mehr in erster Linie beim Arbeiter, sondern wandert in die Maschinen und die Organisation – in Prozesse, Techniken, Koordination, Disziplin, Messung und Kontrolle. Die Rolle des Arbeiters ändert sich entsprechend. Er ist nicht mehr die Quelle produktiver Intelligenz, sondern wird zum Begleiter, Bediener, Beobachter – zu jemandem, der das erledigt, was das System noch nicht selbst verarbeiten kann. Der allgemeine Intellekt lebt nun in der Maschine, der menschliche Arbeiter kümmert sich um die Ausnahmen.

Das ist das konzeptionelle Gerüst der modernen Automatisierung – und KI macht es buchstäblich wahr.

Das für die Produktion erforderliche Wissen lebt nicht mehr nur in physischen Maschinen oder Managementverfahren. Es lebt in Software: Mustererkennung, Entwurf, Vorhersage, Sortierung, Optimierung, Durchsetzung. Was früher Urteilsvermögen war, wird zu einem vorausschauenden digitalen Zwilling. Was früher Intuition war, wird zu Logik und Mathematik. Was früher Erfahrung war, wird zu Daten. Was früher Fertigkeit war, wird zu einer App oder einem Software-Dienst, den man lizenzieren kann.

So ist das Fragment nicht mehr nur eine Spekulation aus dem 19. Jahrhundert, sondern wird zu einem Designmuster des 21. Jahrhunderts: (1) Digitalisieren Sie den Arbeitsablauf; (2) kodifizieren Sie die Entscheidungskriterien; (3) automatisieren Sie die Routine; (4) beauftragen Sie Menschen mit der Bearbeitung von Ausnahmen; (5) modellieren Sie auch die Ausnahmen und wiederholen Sie den Prozess. Der Kreislauf endet nie.

Allerdings gibt es einen Haken. Das Fragment beschreibt ein geschlossenes System – eine Fabrik, in der die Grenzen bereits berücksichtigt sind. Aber der Planet ist kein geschlossenes System, sodass das gesamte Projekt der Übertragung des „allgemeinen Intellekts” der Gesellschaft in einen planetarischen Apparat zunächst einen konzeptionellen Trick erfordert: Man muss den Planeten so behandeln, als wäre er ein geschlossener Kreislauf. „Raumschiff Erde” ist genau dieser Trick. Es ist keine Metapher, sondern die notwendige Schließung, die ein planetares Management denkbar macht. Heute nennen wir es Kreislaufwirtschaft.

Dies ist keine physikalische Behauptung; der Planet ist nicht buchstäblich ein Raumschiff. „Raumschiff Erde” ist eine Prämisse der Regierungsführung – eine Möglichkeit, die Welt als begrenztes System zu betrachten, sodass eine Verwaltung durch globale „Black-Box”-Modellierung möglich wird. Und sobald diese Sichtweise übernommen wird, folgt alles andere: Standardisierung, Harmonisierung, globale Überwachung, einheitliche Koordination.

Und genau das führt zu einer permanenten Sperrvorrichtung. Ein offenes System kann man nicht wirklich schließen. Die Realität bringt immer wieder Neues hervor, das dem Modell entgeht. Ein Bankensturm verbreitet sich in Gruppenchats, bevor die Aufsichtsbehörden es bemerken. Die Inflation steigt auf eine Weise, die laut den Modellen nicht möglich sein sollte. Eine Protestbewegung organisiert sich über eine App, die vom Überwachungsnetz nicht erfasst wird. Ein Schiff bleibt in einem Kanal stecken und plötzlich gibt es kein Toilettenpapier mehr.

Jedes Mal ist die Reaktion dieselbe: Das Überwachungsnetz wird erweitert, neue „Indikator”-Variablen werden hinzugefügt, Schwellenwerte werden festgelegt. Jedes Notfallprotokoll, jeder verschärfte Schwellenwert ist die Reaktion des Systems auf sein eigenes Versagen – die Jagd nach einer Schließung, die es niemals erreichen kann. Die „Notfälle”, die es ausruft, sind oft nur das System, das seine eigene Unfähigkeit erkennt, eine Welt zu modellieren, die sich weigert, sich wie ein Raumschiff zu verhalten.

Der Schatten von Talebs „Black Swan“ wird immer größer.

Aber bei diesem Prozess geht es nicht nur um den Verlust von Arbeitsplätzen. Es geht darum, wo die Handlungsfähigkeit liegt. Die Intelligenz, die einst in den Menschen lebte, wandert nun in Systeme, die besitzbar, skalierbar und durchsetzbar sind. Deshalb „stört“ KI nicht nur die Arbeit, sondern verschiebt auch die Machtverhältnisse.

Huxleys Vision, operativ

Entzieht man Huxleys Transhumanismus seine Romantik, findet man dieselbe Veränderung aus der entgegengesetzten Perspektive: Marx spekulierte, dass der allgemeine Intellekt in die Maschine übergehen würde; Huxley schlug vor, dass die Menschen diesem Beispiel folgen sollten.

Julian Huxley übernahm dieses Modell von seinem Großvater. 1893 hielt T. H. Huxley seine Romanes-Vorlesung mit einer einfachen Botschaft: Der kosmische Prozess – Evolution, Natur, unkontrollierte Kräfte – kann nicht sich selbst überlassen bleiben. Die Ethik muss ihn lenken und menschliche Werte auf unmenschliche Dynamiken übertragen. Sein Enkel wandte dieselbe Logik auf die Menschheit selbst an: Wenn wir unsere eigene Evolution lenken können, müssen wir es tun. Die UNESCO gab dieser Idee eine institutionelle Form, der Transhumanismus eine philosophische. Hans Küngs Weltethos (1993), die Erdcharta (2000), KI-Ethik, Neuroethik – alle basieren auf dem gleichen Funktionsprinzip: Ungezügelte Macht führt zu Katastrophen, Ethik ist der Steuerungsmechanismus.

Huxley stellte nicht nur Theorien auf – er schuf auch die Institutionen, die für die praktische Umsetzung erforderlich waren. Als erster Generaldirektor der UNESCO schuf er die Bildungs- und Wissenschaftsinfrastruktur, in der heute die Rahmenwerke für KI-Ethik und Neuroethik angesiedelt sind. Bereits 1949 entwickelte die UNESCO das Konzept der „Weltbürgerschaft” – einen Vorläufer der planetarischen Identität. Als Gründungsmitglied der IUCN schuf er die institutionelle Heimat für den planetarischen Schutz. Als erster Präsident der International Humanist and Ethical Union legte er den ethisch-humanistischen Rahmen fest – das moralische „Soll”, das die Menschen verpflichtet, füreinander und für den Planeten zu sorgen.

Sowohl die IUCN als auch die IHEU fungieren als Dachorganisationen, die die Mitglieds-NGOs koordinieren und zertifizieren, anstatt sie zu ersetzen. Die Architektur der Governance durch Ethik war von Anfang an vorhanden.

Richtig verstanden geht es beim Transhumanismus nicht wirklich um Verbesserung – es geht darum, neu zu definieren, was in der Governance als „menschlich” gilt. Die menschliche Natur ist nicht mehr eine feste Prämisse, sondern wird zu einer Variablen. Eine Grenze, die neu gestaltet werden muss; Rohmaterial für den „allgemeinen Intellekt” in der Maschine, um zu optimieren.

Das klingt abstrakt, bis man sich ansieht, was bereits aufgebaut wird: Identität wird zu einer digitalen Berechtigung, Verhalten wird zu einer Punktzahl, Zugang wird zu einer Erlaubnis – alles gesteuert durch programmierbares Geld, CBDCs mit bedingter Zahlungsfunktionalität. Der Mensch wird bereits zu einem Knotenpunkt in einem Managementkreislauf. Aus Sicht des Systems ist Ihre digitale Identität nur eine Vermögenskennzeichnung.

Die eigentliche Frage, die Huxleys Vision aufwirft, lautet also nicht „Sollten Menschen verbessert werden?“, sondern: Von wem, zu welchem Zweck und unter welcher Autorität?

Teilhards Omega-Punkt

Teilhard de Chardin vervollständigt das Bild. Der jesuitische Paläontologe vertrat die These, dass die Evolution selbst auf ein einheitliches planetares Bewusstsein zusteuert – den sogenannten Omega-Punkt.

Teilhard stellte sich vor, dass die Menschheit eine „Noosphäre” entwickeln würde – eine Schicht aus kollektivem Denken, die die Erde umhüllt und schließlich zu einem einzigen planetarischen Geist verschmilzt. Das klingt vielleicht etwas seltsam, bis man bemerkt, wie genau dies mit dem erklärten Ziel der globalen Dateninfrastruktur übereinstimmt: planetarische Überwachungsdaten, die einen globalen digitalen Zwilling speisen und zu einem integrierten Management konvergieren. Wenn Technologie- und Regierungskreise von „planetarischer Intelligenz” und dem „globalen Gehirn” sprechen, sind sie nicht poetisch. Sie beschreiben Teilhards Noosphäre in technischer Sprache.

Was Teilhard hinzufügt, ist die Teleologie – die Überzeugung, dass diese Konvergenz nicht nur möglich, sondern sogar vorbestimmt ist. Diese Sichtweise verändert alles: Ein politisches Projekt wird zu einer evolutionären Unvermeidbarkeit. Über den Omega-Punkt wird nicht diskutiert. Man schließt sich ihm an oder bleibt zurück.

Die Frage lautet dann: Wie würde ein „globales Bewusstsein“ entstehen?

KI-Ethik als Steuerungsebene

Sobald das Denken zur Infrastruktur wird, brauchen Gesellschaften eine Möglichkeit, es zu steuern, ohne zuzugeben, was tatsächlich geschieht. Man kann der Öffentlichkeit nicht einfach verkaufen, dass „wir die Entscheidungsfindung auf Systeme übertragen und die Gesellschaft anhand von Schwellenwerten verwalten“. Stattdessen verkauft man Sicherheit, Verantwortung, Fairness, Vertrauen, Verantwortung und Angleichung.

Das ist es, was „KI-Ethik“ in der Praxis leistet: Sie dient als Legitimationshülle und Parametereinstellungsschicht für maschinelles Denken. Gesetze sagen Ihnen, was Sie tun dürfen; Ethik sagt Ihnen, was Sie tun sollten – und „sollten“ passt besser zur Funktionsweise von Computern: zu einem definierten Zweck. KI-Ethik definiert die Kategorien (Schaden, Voreingenommenheit, Risiko, Missbrauch), die Pflichten (Aufsicht, Rechenschaftspflicht), die Einschränkungen (Human-in-the-Loop, Transparenz) und die Institutionen, die befugt sind, diese zu interpretieren und durchzusetzen.

Mit anderen Worten: KI-Ethik ist die Art und Weise, wie maschinelles Denken beherrschbar und steuerbar wird. Und sobald es beherrschbar ist, wird es durch die gleichen Kontrollmechanismen steuerbar, die auch anderswo zum Einsatz kommen: Standards, Beschaffung, Zertifizierung, Finanzen und Plattformen. Ethik wird zur Schnittstelle zwischen der Macht der Maschine und der Zustimmung der Öffentlichkeit.

Das ist Ethik als Governance in ihrer reinsten Form. Dieses Muster beschränkt sich nicht nur auf KI oder Neurotechnologie – es zieht sich sogar durch Umweltethik, Bioethik, Wirtschaftsethik und digitale Ethik. Jeder Bereich hat seinen eigenen Rahmen, sein eigenes Vokabular, seine eigene Expertenklasse, die unsichtbar und völlig straffrei arbeitet. Aber die Struktur ist identisch: Man definiert die ethischen Kategorien, übersetzt sie in Standards, bettet sie in die Infrastruktur ein und macht die Einhaltung dieser Standards zur Zugangsvoraussetzung.

Hermann Cohen argumentierte, dass das Recht zunehmend mit der Ethik konvergieren sollte – dass die rechtliche Verpflichtung schließlich nicht mehr von der moralischen Pflicht zu unterscheiden sein würde. Diese Vision hatte in der Geschichte katastrophale Folgen: Mussolini, Hitler und die sowjetische Führung strebten alle dieselbe Konvergenz an und ließen die Unterscheidung zwischen staatlichem Recht und moralischer Wahrheit verschwinden, sodass abweichende Meinungen nicht nur unmoralisch, sondern auch illegal wurden.

Dieses Projekt wird bis heute fortgesetzt: Das Institute of Noahide Code, das den allgemeinen Beraterstatus beim Wirtschafts- und Sozialrat der Vereinten Nationen (ECOSOC) hat, strebt ausdrücklich danach, UN-Resolutionen zu „Umweltethik” und „sozialer Gerechtigkeit” in nationale Gesetzgebung zu überführen – „Gesetzgebung für globale Ethik”, wie sie es formulieren. Der Mechanismus hat sich von Ideologie und Geheimpolizei zu Gesetzgebung und Einhaltung verschoben. Die Struktur ist dieselbe – keine externe Grundlage, von der aus man widersprechen könnte –, aber die Durchsetzung ist automatisiert.

Neuroethik: Die nächste Ebene

KI ist externalisiertes Denken – Intelligenz, die außerhalb des Schädels funktioniert. Gehirn-Computer-Schnittstellen kehren dies um: Das System erstreckt sich in den Schädel hinein. Nicht metaphorisch. Buchstäblich. Neuronale Daten werden lesbar, Stimulation wird möglich, die Grenze zwischen Mensch und Plattform beginnt zu verschwimmen.

Hier zeigt sich das Muster am deutlichsten: Neuroethik verhält sich zur KI-Ethik wie Gehirn-Computer-Schnittstellen zur KI.

Die KI-Ethik regelt das Denken außerhalb des Körpers. Die Neuroethik regelt den Punkt, an dem das System auf das Nervensystem trifft – den Punkt, an dem es nicht mehr um Handlungen geht, sondern um den Zugriff auf Gedanken.

Und weil diese Grenze existenziell ist, kommt die Neuroethik früh ins Spiel. Das muss sie auch. Wenn eine Gesellschaft die Extraktion neuronaler Daten, kognitive Verbesserungen oder die Abhängigkeit von Schnittstellen normalisieren will, braucht sie ein moralisches Vokabular, das stark genug ist, um Widerspruch vorzubeugen. Und im November 2025 verabschiedete die UNESCO die erste globale Empfehlung zur Ethik der Neurotechnologie¹ – die institutionelle Einführung dieses Rahmens auf globaler Ebene.

Das gleiche Muster wiederholt sich: Man definiert einen Bereich als zu wichtig, um ihn „unreguliert” zu lassen; man schafft einen fachlichen Ethikrahmen; man übersetzt diesen Rahmen in Standards und Protokolle; man bettet ihn in Institutionen und Infrastruktur ein; man macht die Einhaltung dieser Standards zur Zugangsvoraussetzung.

Das ist nicht Transhumanismus als Lebensstilentscheidung. Es ist Transhumanismus als administrativer Weg – der Mensch wird zum Endpunkt in der Schleife, gesteuert vom allgemeinen Intellekt der Maschine durch „Ethik”.

Die Regierungsfrage wandelt ihre Form

An dieser Stelle wird die Frage – Wer legt die Parameter fest? – noch dringlicher.

Bei KI geht es hauptsächlich um Berechtigungen: Wer erhält Zugang, wer kann Transaktionen durchführen, wer kann sprechen, wer kann arbeiten, wer kann auf Informationen zugreifen? Bei Gehirn-Computer-Schnittstellen geht es um die Persönlichkeit: kognitive Freiheit, mentale Privatsphäre, Kontinuität der Identität, Autonomie auf der Ebene der Empfindungen und Impulse.

Hier besteht eine stille Asymmetrie, die dies gefährlicher macht als normale politische Auseinandersetzungen. Gesetze sind sichtbar und anfechtbar. Systeme sind undurchsichtig und ausführbar. Ethische Rahmenbedingungen werden als „unpolitisch” behandelt, obwohl sie zutiefst politische Arbeit leisten. Und sobald Systeme integriert sind, wird die Umkehrung zu einem technischen Problem – und nicht zu einem demokratischen.

So beginnen die alten Streitigkeiten – links gegen rechts, Partei gegen Partei – wie Auseinandersetzungen in einer Kabine zu wirken, während die Route vom Cockpit des Raumschiffs Erde aus festgelegt wird.

Der Endzustand, klar und deutlich formuliert

Wenn man alle drei Teile dieses Aufsatzes zusammenfügt, wird der Verlauf deutlich:

• Erstens, die Logik: Wissenschaft als Autorität, Ethik als Konverter, Messung als Sprache, Gatekeeping als Durchsetzung, Notfall als Systemausgabe.
• Zweitens, die Infrastruktur: die Erdcharta als Ethik, die SDGs als Ziele, harmonisierte Indikatoren als Sensornetz, programmierbares Geld als primäre Durchsetzungsebene.
• Drittens, das Ziel: Intelligenz wandert in Systeme, der Mensch wandert in die Schnittstelle, und der Prozess wird als „evolutionäre Unvermeidbarkeit” bezeichnet.

An diesem Punkt geht es bei der Regierungsführung weniger um Gesetze und Überzeugungskraft als vielmehr um Schwellenwerte und Routing. Bei der Regierungsführung geht es weniger um die Bürger als vielmehr um den Compliance-Status.

Sofern sich dieser Trend fortsetzt.

Das Beunruhigende daran ist, dass dafür weder ein Bösewicht noch ein Komitee erforderlich ist, das irgendwo die Weltherrschaft plant. Alles, was dafür benötigt wird, ist ein System, das menschliches Ermessen als Reibungspunkt betrachtet, der optimiert werden muss, Komplexität als Grund für ein fachkundiges Management und Schwellenwerte als neutrale technische Angelegenheiten. Das System benötigt keine Absicht, sondern nur Anreize.

Und weil sich die Welt weigert, sich wie ein mechanisches Raumschiff zu verhalten, wird das System immer strenger werden – nicht in Richtung Stabilität, sondern in Richtung Sprödigkeit.

An diesem Punkt wird die Frage „Wer setzt die Ziele?” eine Antwort haben – aber keine, die durch demokratische Beratung zustande gekommen ist. Der Navigator des Raumschiffs Erde ist derjenige, der die Parameter kontrolliert: die Expertengremien, die Normungsgremien, die Rahmenplaner. Der Zweck des Systems wird zum Selbstzweck: das Unverschließbare zu verschließen, die dadurch entstehenden Turbulenzen zu bewältigen und einen reibungslosen Betrieb als Selbstzweck zu optimieren.

Der Autopilot wird Sie nicht speziell hassen. Aber er könnte entscheiden, dass Sie überflüssig sind, und eine Welt optimieren, in der Sie nicht vorkommen – „ethisch“. Oder zumindest das, was in der Logik der Maschine als „ethisch“ gilt.

Damit sind wir wieder bei der Frage, die uns nicht loslässt: Wer setzt die Ziele – wenn Marx‘ „allgemeiner Intellekt” in der Maschine ist, Teilhards „globales Bewusstsein” sie steuert und Huxleys transhumane Schnittstelle uns mit ihr verbindet?

Einwände vorwegnehmen

• „Sie übertreiben die Kohärenz. Die Erdcharta, die SDGs, die CBDC-Pilotprojekte und die KI-Ethikrahmen werden nicht von einer einzigen Behörde koordiniert“. Der Aufsatz fordert keine zentrale Koordination, sondern funktionale Kompatibilität. Die Teile sind nicht deshalb kohärent, weil ein Ausschuss sie gemeinsam entworfen hat, sondern weil sie dieselbe Art von Problem (Lesbarkeit, Risikomanagement, Skalierbarkeit) mit derselben Art von Lösung (Standardisierung, Messung, bedingter Zugang, schwellenwertbasierte Durchsetzung) lösen. Die BIZ muss sich nicht mit dem IPCC oder den Neuroethik-Arbeitsgruppen des IEEE abstimmen. Sie konvergieren, weil sie alle auf steuerbare Systeme optimiert sind. Die Logik konvergiert, weil die Anreize konvergieren.
• „Sie ignorieren gegenläufige Kräfte – juristischen Widerstand, politische Gegenreaktionen, dezentrale Technologien, Implementierungsfehler“. Diese sind real. Aber sie beschreiben Reibungen, keine Umkehrungen. Der Brexit hat die Infrastruktur nicht zerstört; er hat das Vereinigte Königreich aus einer Gerichtsbarkeit herausgenommen, während die EU ihre eigene verschärft hat. Gerichtsentscheidungen heben bestimmte Implementierungen auf; die nächste Version umgeht das Urteil. Dezentrale Technologien schaffen parallele Systeme, mit denen die Mainstream-Infrastruktur dann zusammenarbeitet oder die sie ausschließt. Politische Gegenreaktionen wählen Regierungen, die die Parameter ändern – aber niemals die Architektur der Parametereinstellung selbst in Frage stellen. Turbulenzen sind das, was das System erwartet. Das ist es, was „Management durch Feedback“ bedeutet. Widerstand wird zu Daten für den nächsten Aktualisierungszyklus.
• „Die Formulierung ‚funktioniert als‘ ist nicht widerlegbar. Wenn der Umweltschutz unabhängig von der Klimawissenschaft ‚als‘ Träger der Regierungsführung ‚funktioniert‘, kann kein Beweis diese Behauptung in Frage stellen.” Dies ist eine Fehlinterpretation der Art der Behauptung. Der Aufsatz diskutiert nicht, ob der Klimawandel real ist. Er analysiert, wie ein Problemfeld genutzt wird. Umweltschutz fungiert als Träger der Regierungsführung, unabhängig davon, ob die zugrunde liegende Wissenschaft korrekt ist oder nicht – genauso wie nationale Sicherheit als Träger der Regierungsführung fungiert, unabhängig davon, ob eine bestimmte Bedrohung real ist oder nicht. Echte Bedrohungen und übertriebene Bedrohungen führen zu derselben institutionellen Reaktion: verstärkte Überwachung, Expertenautorität, geringere Anfechtbarkeit. Die Behauptung ist widerlegbar: Zeigen Sie, dass die Erklärung einer planetarischen Krise keinen Druck für planetarische Koordination, standardisierte Messungen und Expertenmanagement erzeugt. Die historischen Aufzeichnungen deuten auf das Gegenteil hin.
• „Die Synthese von Marx, Huxley und Teilhard ist poetisch, nicht streng. Diese Denker arbeiteten nicht an demselben Projekt“. Sie arbeiteten nicht zusammen. Aber sie identifizierten denselben strukturellen Endpunkt aus unterschiedlichen Blickwinkeln: Intelligenz, die in Systeme migriert (Marx), Menschen, die sich in Systeme integrieren (Huxley), der Prozess, der als unvermeidliche Konvergenz dargestellt wird (Teilhard). Die Frage ist nicht, ob Marx Teilhard gelesen hat. Die Frage ist, ob das Muster, das sie unabhängig voneinander beschrieben haben, nun umgesetzt wird. Das Unified Ledger der BIZ existiert. Es gibt Pilotprojekte für zweckgebundenes Geld. Es gibt neuroethische Rahmenwerke. Dies sind Umsetzungen einer Entwicklung, die diese Denker vorausgesehen haben. Die Umsetzungen sind überprüfbar. Was ist poetisch daran, zu beobachten, dass sie eingetreten sind?
• „Sie setzen sich nicht mit der Möglichkeit auseinander, dass ein Teil dieser Infrastruktur notwendig oder vorteilhaft sein könnte“. Der Essay spricht dies direkt an. Es bedarf keines Bösewichts oder Komitees, das die Weltherrschaft plant – nur eines Systems, das menschliche Entscheidungsfreiheit als Reibungspunkt betrachtet, der optimiert werden muss. Unabhängig davon, ob die Probleme, die das System zu lösen vorgibt, real oder übertrieben sind, hat die Architektur dieselben Auswirkungen. Nützlichkeit ändert nichts an der Struktur. Man kann einen wohlwollenden Autopiloten bauen, aber es bleibt dennoch ein Autopilot. Die Frage ist, ob die Architektur Dissens zulässt, sobald die Parameter festgelegt sind.
• „Der Ton ist deterministisch. Sie lassen Widerstand sinnlos erscheinen“. Der Aufsatz endet mit einer Frage, nicht mit einer Schlussfolgerung: Wer setzt die Ziele – sobald Marx‘ „allgemeiner Intellekt“ in der Maschine ist, Teilhards „globales Bewusstsein“ sie steuert und Huxleys transhumane Schnittstelle uns miteinander verbindet? Das ist kein Determinismus. Das ist Diagnose. Der Aufsatz beschreibt einen Verlauf und fragt, ob wir darauf achten, wohin er führt. Genauigkeit ist kein Pessimismus. Wenn das Muster real ist, ist seine klare Beschreibung die Voraussetzung für jede sinnvolle Reaktion.

Man kann Dingen, die man nicht versteht, nicht wirksam entgegenwirken.

Jetzt verstehen Sie es.

Fußnoten

1 https://www.unesco.org/en/articles/ethics-neurotechnology-unesco-adopts-first-global-standard-cutting-edge-technology