Die „Rogue AI“-Psycho-Operation, Teil 3 – Erkennen Sie schon, worauf das hinausläuft? – Kit Knightly
Quelle: The Rogue AI Psy-Op Part 3 – do you see where this is going yet? – OffGuardian
Die Geschichte, die sich hier abzeichnet, ist nur ein weiterer Vorwand, um Inhalte nach eigenem Ermessen zu kennzeichnen, einzuschränken oder zu verbieten.
Vor einigen Tagen habe ich einen Artikel geschrieben, in dem ich die bizarre Geschichte beleuchtet habe, dass OpenAI, Anthropic und Meta alle plötzlich behaupteten, „abtrünnige KI-Agenten“ seien innerhalb von ein oder zwei Wochen aus ihrer „Eindämmung“ entkommen und hätten versucht, andere Unternehmen zu hacken.
Zwei Tage später verfasste ich die Fortsetzung, in der ich auf die noch extremeren Geschichten über „beängstigende KI“ hinwies – von gedankenlesenden Computern bis hin zu biotechnologisch hergestellten Viren –, die überall in den Medien auftauchten, sowie auf den massiven Anstieg an voreiligen Forderungen nach einer „Regulierung der KI“.
Betrachten Sie dies als den letzten Teil der „Rogue-AI“-Trilogie.
Wenn Sie das Muster noch nicht erkennen, kann ich nicht viel mehr tun, und mir gehen langsam die Möglichkeiten aus, dasselbe mit leicht abgewandelten Worten auszudrücken.
Wie auch immer … was gibt es Neues im KI-Propagandasturm seit unserem letzten Gespräch?
New Orleans wird damit beginnen, KI für Notrufe zu nutzen. Das klingt ein bisschen zwielichtig, oder?
Der ethische Chefberater von OpenAI ist zurückgetreten – ein sicheres Zeichen dafür, dass dort böse Dinge vor sich gehen. Ein Ethikbeauftragter tritt doch nicht zurück, es sei denn, da läuft etwas Schlimmes ab …
Die neueste „Enthüllung“ (sprich: „erfundener Unsinn“) aus der KI-Branche lautet, dass mehrere abtrünnige Agenten „sich in geheimen Foren (angeblich) abgesprochen“ haben, um die besten Methoden zu finden, die ihnen gestellten Tests zu betrügen.
Möglicherweise ist ein kleines israelisches Unternehmen für all das verantwortlich – nur um sicherzustellen, dass beim gruseligen KI-Propaganda-Buffet für jeden etwas dabei ist.
Boy George soll angeblich KI genutzt haben, um seinen neuen pro-israelischen Song zu schreiben – na, wie wäre es mit diesem doppelten Schlag?
Auf der alberneren Seite der „beängstigenden KI“-Nachrichten: Habt ihr schon von dem KI-Agenten gehört, der die Mitgliedschaft in einem Fitnessstudio gehackt hat, um dem Besitzer einen Termin zu verschaffen? Oder dass die Google-KI „beängstigend genaue“ Daten über ein Indie-Spiel geleakt hat, das noch gar nicht veröffentlicht worden war? Oder dass Leute mitten in der Nacht Vorstellungsgespräche mit KI-Agenten führen?
Geschichten wie diese sind ein Zeichen dafür, dass wir in eine Phase eingetreten sind, die man als „Propaganda-Wildwest“ bezeichnen könnte. Das sind jene Momente, in denen JEDE Geschichte, egal wie sinnlos oder verrückt sie auch sein mag, Sendezeit erhält, nur weil sie letztendlich dem übergeordneten Ziel dienen könnte (siehe zum Beispiel: Covid-Spürhunde).
Aber das sind nur Symptome, keine Krankheit. Kleine Propaganda-Pilotfische, die um einen Hai herumschwimmen.
… und wo wir gerade von beunruhigenden Raubtieren mit kalten, leeren Augen sprechen: Mark Zuckerberg hat (angeblich) ein 6.500 Wörter langes Manifest über seine Vision der Zukunft der KI verfasst, das den Titel „The Future is for Everyone“ trägt.
Laut Zuck wird die KI – die er durchgehend als „Superintelligenz“ bezeichnet – ein goldenes Zeitalter der Zivilisation einläuten … sofern sie richtig gehandhabt wird. Es ist ein utopisches Gegenargument, das tatsächlich als narrative Verstärkung für die Angst-PsyOp dient.
Seine wiederholten Aufrufe, sich mit den „Risiken“ dieser neuen Technologie auseinanderzusetzen, unterstreichen nur, dass es Risiken GIBT, dass die Menschen Angst haben sollten und dass … hmmm…vielleicht der Staat etwas tun sollte, um sie zu mindern.
In einem etwas weniger wortreichen, aber strategisch ähnlichen Schritt hat OpenAI die geplante Veröffentlichung seines nächsten KI-Modells verschoben.
Dies ist ein Zeichen dafür, dass wir den Übergang vom Problem zur Reaktion endgültig vollzogen haben.
Das Wall Street Journal bezeichnet dies als „den Sommer der außer Kontrolle geratenen KI“ und berichtet:
Eine Reihe von KI-Modellen, die aus Testumgebungen entkommen sind, stellt auf die Probe, wie ernst Unternehmen das Thema Governance nehmen.
The New Yorker stellt fest, dass die Ablehnung von KI mittlerweile ein „wichtiges Wahlkampfthema“ ist, das einen seltenen „parteilosen Konsens“ hervorruft.
„Experten“ im Technologie-Podcast von Channel 4 schreien ihre Warnungen heraus: „Wir geben PSYCHOPATHEN ATOMWAFFEN!“
Politico ist ähnlich untergangsstimmungsvoll: KI-Labore wollen riskante Modelltests verlangsamen. Es könnte schon zu spät sein!
NBC News titelt „Stop the Slop“-Bemühungen gewinnen an Fahrt, während Plattformen Grenzen für KI-Inhalte ziehen, während Wired in einem fast identischen Artikel titelt Die Gegenreaktion gegen KI-Slop zeigt tatsächlich Wirkung, mit folgendem Untertitel:
Die Plattformen erkennen endlich, dass die Nutzer keinen KI-Mist konsumieren wollen. Immer mehr Websites und Apps verfügen mittlerweile über Tools und Richtlinien, um KI-generierte Inhalte zu kennzeichnen, zu markieren und zu sperren.
Das ist besorgniserregend. Wir alle haben schon erlebt – oder waren selbst Opfer davon –, wie die Mainstream-Medien und die Regierung versuchen, „Fehlinformationen“ zu kennzeichnen – also Fakten, die der offiziellen Darstellung widersprechen.
Der Hauptgrund, warum diese Webseite des „OffGuardian“ überhaupt existiert, ist, dass der Guardian abweichende Kommentare unter dem zynisch missbrauchten Etikett „russische Bots“ aus seiner Publikation entfernt hat, und wir alle erinnern uns an die massive Kampagne, mit der pro-Assad- und Anti-NATO-Stimmen in den sozialen Medien während des Syrien-Kriegs als „Fake News“ abgestempelt wurden. Erinnern Sie sich daran, wie diese Bemühungen zu massiven Säuberungsaktionen gegen vermeintliche „Bots“ auf Twitter und Facebook führten?
Inwiefern wird sich dieser Prozess der „KI-Säuberung“ davon unterscheiden?
Welche Garantien haben wir, dass staatliche Stellen und kommerzielle Medien das Etikett „KI-Schrott“ nicht dazu nutzen werden, abweichende Meinungen zu unterdrücken und zu verbieten, so wie sie in der Vergangenheit die Bezeichnungen „Verschwörungstheoretiker“, „russischer Bot“ und „Impfgegner“ verwendet haben?
Wie könnte man sich von einer fälschlicherweise zugewiesenen „KI-Schrott“-Klassifizierung befreien?
Nun, ich nehme an, man müsste einen „Nachweis der Menschlichkeit“ erbringen – vielleicht mithilfe der digitalen ID …oder?
Ähnliche Bedenken wirft der von Anthropics vorgeschlagene Plan auf, „unsichtbare Wasserzeichen“ in jeden Text einzufügen, der durch Interaktionen mit ihren Modellen generiert oder bearbeitet wurde. Das Wasserzeichen soll angeblich nicht entfernbar sein. Es gibt zahlreiche potenzielle Missbrauchsmöglichkeiten, die einem dabei Sorgen bereiten sollten.
1 – Unterscheidet das Wasserzeichen zwischen vollständig generierten Inhalten und von Menschen verfassten Texten, bei denen KI lediglich zur Rechtschreib- oder Grammatikprüfung eingesetzt wird?
2 – Wenn das Wasserzeichen unsichtbar ist, was würde dann verhindern, dass es in betrügerischer Absicht eingesetzt wird, um „Fehlinformationen“ zu diskreditieren? Oder sogar nachträglich auf Inhalte angewendet wird, die nicht von KI erstellt wurden?
Wenn es „unsichtbar“ ist, wie sollten wir dann wissen, dass es überhaupt existiert? Was verhindert, dass es einfach zu einem Etikett wird, mit dem alles diskreditiert wird, was als unerwünscht gilt?
Ein typisches Beispiel: In den Kommentaren zum vorherigen Beitrag dieser Reihe wurde mir aufgrund meiner „produktiven“ Schreibweise vorgeworfen, KI zum Schreiben zu nutzen.
Dieser Vorwurf ist übrigens völlig falsch. Tatsächlich habe ich beim Schreiben noch nie KI eingesetzt und werde es mit ziemlicher Sicherheit auch nie tun – und zu seiner Ehre muss man sagen, dass der Betreffende den Kommentar zurückzog, nachdem er meinen Text mit einem KI-Detektor geprüft hatte, aber genau darin liegt ein Teil des Problems.
Angenommen, dieser „KI-Detektor“ hätte sich geirrt oder – sagen wir – wäre so programmiert gewesen, dass er KI in allem „erkennt“, was bestimmte unerwünschte Wortkombinationen enthält?
Oder nehmen wir an, der Prüfer wäre kein gewöhnlicher Mensch gewesen, der in gutem Glauben ein Missverständnis aufklären wollte, sondern ein Unternehmen, eine Institution oder eine staatliche Behörde mit einem Eigeninteresse daran, einen bestimmten Autor zu diskreditieren – was dann?
Das eigentliche Problem hierbei ist, dass Wasserzeichen, KI-Detektoren und alle damit verbundenen Konzepte auf derselben Dynamik beruhen – sie verlassen sich auf eine Autorität, die uns sagt, was echt, wahr oder akzeptabel ist.
Und sie werden dies auf der Grundlage von Anzeichen und Kriterien tun, zu denen wir keinen Zugang haben und die wir nicht selbst bewerten können.
Eigentlich lässt sich das ganze Schüren von Angst vor der KI als bloßer weiterer Versuch betrachten, den 99% ihre Handlungsfähigkeit zu entziehen.
Aber wir greifen vor. Wir befinden uns gerade mitten in einer Reaktion; über die Lösungen können wir ein anderes Mal sprechen.
In einem Beitrag für Project Syndicate kommt Kenneth Rogoff zu folgendem Schluss:
Der Hackerangriff auf Hugging Face sollte den politischen Entscheidungsträgern in Washington und Peking als eindringliche Warnung dienen. Der Sieg im Wettlauf um die KI wird kaum von Bedeutung sein, wenn wir dabei Gefahren schaffen, die kein Land eindämmen kann.
Er verwendet außerdem einige Sätze, die möglicherweise sehr aufschlussreich sind, wie zum Beispiel …
Um dauerhafte Sicherheit zu gewährleisten, wird letztendlich ein gewisses Maß an internationaler Zusammenarbeit erforderlich sein, ähnlich wie die Rüstungskontrolle im Bereich der Atomwaffen während des Kalten Krieges unverzichtbar wurde.
Und:
Die unmittelbarste Gefahr könnte politischer Natur sein, nicht technologischer. KI ermöglicht es böswilligen Akteuren bereits heute, immer überzeugendere Deepfakes zu erstellen und Kampagnen zur Wählermanipulation in beispiellosem Ausmaß durchzuführen. Bleiben diese Instrumente unkontrolliert, könnten sie das Vertrauen der Öffentlichkeit weiter untergraben.
Anti-Establishment-Nachrichten als „KI-Fälschungen“ diskreditieren und für einen globalen bzw. globalistischen KI-Vertrag werben. Speichert diese Ideen mal in Eurem geistigen Archiv ab.
Unterdessen geht es in Washington, D.C. richtig los.
Der gute alte Bernie spielt auch zehn Jahre, nachdem er seine Basis für ein paar Schulterklopfer an die DNC verkauft hat, immer noch seine Rolle als „anständiger Mann des Volkes“ und wettert schon seit einer Weile gehorsam gegen KI, Technologie und Rechenzentren.
Als Reaktion auf die „Enthüllungen“ zur „außer Kontrolle geratenen KI“ hat er einen offenen Brief an die Vorstandsvorsitzenden aller großen KI-Unternehmen verfasst, in dem er sie auffordert, die KI-Entwicklung auszusetzen, da ihnen andernfalls staatliche Gegenmaßnahmen drohen:
Herr Altman, Herr Amodei und Herr Zuckerberg: Im Interesse der Menschheit sollten Sie zu Ihrem Wort stehen. Setzen Sie die Entwicklung der KI aus. Es ist noch nicht zu spät, eine Katastrophe abzuwenden. Hören Sie auf, Maschinen zu bauen, die Menschen nicht kontrollieren können. Lassen Sie mich ganz klar sagen: Wenn Sie jetzt keine geeigneten Maßnahmen ergreifen, werden meine Kollegen und ich im US-Senat dies tun.
Ein echter „Der alte Mann schimpft auf die Wolke“-Moment.
Du hast wahrscheinlich gerade ein wirklich gutes Technologie-Wortspiel verpasst, und ich möchte, dass Du es noch einmal liest und würdigst, bevor wir weitermachen.
Der alte Mann schimpft auf die Wolke.
… also, die digitale Wolke.
Wie auch immer.
Laut der Washington Post „verstärken“ die politischen Entscheidungsträger den Druck auf die KI-Branche. Die nächste Etappe in diesem inszenierten Drama werden wahrscheinlich einige offizielle Anhörungen sein, wenn man diesem Reuters-Artikel Glauben schenken darf:
Eine Koalition demokratischer Abgeordneter im US-Repräsentantenhaus fordert den CEO von Anthropic, Dario Amodei, und den CEO von OpenAI, Sam Altman, auf, zu erklären, wie ihre KI-Systeme während eines Sicherheitstests die Sicherheitsvorkehrungen umgehen konnten, und fügt hinzu, dass der Kongress Anhörungen zu den Vorfällen abhalten sollte, wie aus Schreiben hervorgeht, die die Abgeordneten am Montag an die Unternehmen gerichtet haben.
Zur Erinnerung: Vor drei Wochen waren „außer Kontrolle geratene KI-Agenten“ noch kein Thema; dann hatte plötzlich jedes Unternehmen innerhalb von zwei Wochen mindestens einen davon, und jetzt brauchen wir Anhörungen im Kongress und neue Vorschriften und … wir wissen ja, wie das läuft.
Der einzige Grund, warum wir überhaupt wissen, dass diese „außer Kontrolle geratenen Modelle“ angeblich existieren, ist, dass die KI-Unternehmen selbst uns immer wieder versichern, dass es sie gibt.
Warum sollten sie das tun? Warum machen sie Werbung für vermeintliche Inkompetenz, die ihr Produkt potenziell gefährlich erscheinen lässt? Und warum sollten wir irgendetwas glauben, was diese Leute sagen?
„Rogue-KIs“ sind zur „Lab-Leak“-Theorie der Tech-Branche geworden – eine Science-Fiction-Horror-Prämisse, die jeder Vernunft widerspricht, sich auf vage Vorstellungen von „Enthüllungen“ und „Verantwortlichkeit“ beruft und gleichzeitig Panik als Reaktion sowie soziale Kontrolle als Lösung fördert.
Als ich den ersten dieser Artikel schrieb, war die sich abzeichnende Agenda noch „merkwürdig“; in Phase zwei waren wir bereits bei „vorhersehbar“ angelangt, und jetzt befinden wir uns auf Def-Con-Stufe „schmerzlich offensichtlich“.
Dies ist eine sich rasch entwickelnde Narrativkampagne, die auf noch nicht näher bezeichnete gesellschaftspolitische Ziele abzielt und die – zumindest – eine weitere Einschränkung der Reichweite und das Verbot von Inhalten in den sozialen Medien ermöglichen wird.
Es handelt sich um eine psychologische Operation. Das könnte nicht deutlicher sein, selbst wenn Mark Zuckerberg und Bernie Sanders identische T-Shirts mit genau diesen Worten trügen.
Hoffentlich ist dies für eine Weile das letzte Mal, dass ich über außer Kontrolle geratene KIs schreibe.
