Das Pangram-Paradox: Das Problem mit KI, die andere KIs „erkennt“ – Whitney Webb
KI-gestützte „Detektoren“ für KI-verfasste Inhalte werden als Möglichkeit angepriesen, menschliches Schreiben im Internet im Zeitalter des KI-Mülls zu schützen. Leider ist das nicht das, was tatsächlich geschieht.
Quelle: The Pangram Paradox: The Problem with AI “Detecting” other AIs
Meinungsbeitrag: Dies ist ein auf Unlimited Hangout veröffentlichter Meinungsartikel. Die meisten auf UH veröffentlichten Artikel sind keine Meinungsbeiträge; deshalb kennzeichnen wir diejenigen, die es sind, ausdrücklich als solche.
Für die Leser von Unlimited Hangout dürfte es kein Geheimnis sein, dass ich die Auswirkungen Künstlicher Intelligenz (KI) auf unabhängige Medien und auf die Medien insgesamt sehr negativ beurteile. Seit einigen Jahren wird auf großen Videoplattformen täglich mithilfe von KI meine Identität vorgetäuscht. Dadurch habe ich sehr unmittelbar zu spüren bekommen, dass KI zu einer gefährlichen Kraft wird, die es gutwilligen Lesern und Zuschauern zunehmend erschwert, zwischen dem Echten und dem Falschen zu unterscheiden. Damit meine ich nicht nur diejenigen, die sich meine Inhalte ansehen möchten, denn das Problem, mit dem ich persönlich konfrontiert bin, ist ein Abbild eines viel größeren Problems im Kleinen.
Man könnte deshalb meinen, ich hätte mich gefreut, wenn nicht gar erleichtert gefühlt, als Substack, eine große Plattform für professionelle Autoren, eine Partnerschaft mit einem „KI-Erkennungstool“ einging. Doch ich freue mich nicht nur keineswegs darüber, sondern habe mir nun sogar die Zeit genommen, einen Meinungsbeitrag zu schreiben, um zu erklären, warum ich das für schlecht halte und wohin diese Entwicklung meiner Ansicht nach in weiten Teilen führt.
Substacks neuer Partner und offenbar auch das KI-Erkennungstool, das derzeit von den meisten großen Medien bevorzugt wird, heißt Pangram. Pangram wurde 2023 von Max Spero und Bradley Emi gegründet, ursprünglich unter dem Namen Checkfor.ai. Sowohl Spero als auch Emi sind Stanford-Absolventen, die vor Pangram für Unternehmen wie Nuro und Tesla arbeiteten. Dort entwickelten beide KI-Software für selbstfahrende Autos, ersetzten also menschliche Fahrer durch KI-Software. Beide Gründer „begeistern sich seit Langem für das Potenzial der KI, die Gesellschaft zu verändern“, und erklären, sie hätten Pangram geschaffen, „um neue Probleme abzumildern, die durch die Verbreitung leistungsfähiger generativer KI-Modelle entstehen“.
Ich finde es interessant, dass zwei Stanford-Absolventen, die sich für das Potenzial der KI begeistern, „die Gesellschaft zu verändern“, und anschließend an KI-gestützter Software für das Fahren ohne Menschen mitwirkten, beschlossen, rasch umzuschwenken, um die durch generative KI verursachten Probleme „abzumildern“. Viele dieser Probleme wurden tatsächlich schon vor Jahren von Persönlichkeiten wie dem früheren Google-Chef Eric Schmidt vorhergesagt. Pangram-Mitgründer Max Spero war zuvor ebenfalls für Google tätig. In einem 2021 erschienenen Buch, das Schmidt gemeinsam mit dem Kriegsverbrecher Henry Kissinger verfasste, sagte er im Wesentlichen voraus, das „transformative Potenzial“ der KI werde in der breiten Bevölkerung zu etwas führen, das er als „kognitive Beeinträchtigung“ bezeichnete, und es Menschen nahezu unmöglich machen, eigenständig zu unterscheiden, was real ist und was nicht. Vielleicht wenig überraschend bestand die von Schmidt und Kissinger bevorzugte „Lösung“ für dieses Problem darin, dass wir von KI abhängig werden sollten, die für uns zwischen dem Realen und dem Nichtrealen unterscheidet – mit anderen Worten: dass wir eine weitere KI zur maßgeblichen Instanz darüber machen, was unsere Wirklichkeit ist.
Ich habe bereits früher über dieses Buch von Schmidt und Kissinger und seine Vorhersagen geschrieben. Damals merkte ich an, dass diese Vorhersagen und Warnungen angesichts der Machtnetzwerke, in die beide Männer eingebunden sind beziehungsweise waren, eher als Offenlegung dessen zu verstehen seien, was in Bezug auf KI bereits geplant war, denn als Warnungen vor dem, was bei einer massenhaften Einführung von KI geschehen könnte. Wie auch immer: Die „Warnungen“ von Schmidt und Kissinger erwiesen sich als ungewöhnlich vorausschauend. Zudem ähnelt ihre vorgeschlagene Lösung stark dem, was Pangram derzeit anbietet: Pangram nutzt KI, um KI-Texte von menschlich verfassten Texten zu unterscheiden. Damit wird Pangram zur gegenwärtig bevorzugten KI-Instanz, die darüber entscheidet, was wirklich von Menschen geschrieben wurde und was nicht.
Es hat zweifellos eine erfolgreiche Marketingkampagne gegeben, die uns davon überzeugen soll, dass Pangram das „genaueste“ Werkzeug zur Erkennung KI-verfasster Texte auf dem Markt sei. Die Überschriften von Artikeln, die Pangram anpreisen, vermitteln im Wesentlichen, dass es einem mit Sicherheit sagen werde, ob etwas von einer KI geschrieben wurde. Wer über die Überschrift hinausliest, was viele nicht tun, findet im Kleingedruckten den Hinweis, dass Pangram einen Text auch dann als KI-generiert kennzeichnet, wenn KI lediglich zur Überarbeitung eines von einem Menschen verfassten Textes eingesetzt wurde. Pangrams Kennzeichnung „KI-generiert“ unterscheidet nicht wirklich zwischen diesen beiden Fällen – obwohl dieses Etikett, wie Mitgründer Max Spero einräumt, „verändert, wie Menschen an den Text herangehen“.
Die Tatsache, dass Pangram nicht sinnvoll zwischen einem vollständig von KI erzeugten Text und einem Text unterscheiden kann, der lediglich mit ihrer Hilfe überarbeitet wurde, zeigt, dass es überhaupt kein „KI-Detektor“ ist. Wie Tim Requarth bereits im April feststellte:
Der Begriff KI-„Detektor“ ist etwas irreführend, denn Werkzeuge wie Pangram durchsuchen keine Datenbank bekannter KI-Texte nach einer Übereinstimmung. Sie stellen anhand von Unterschieden zwischen den Mustern KI-generierter und menschlich verfasster Texte eine Vermutung über die wahrscheinliche Urheberschaft an. Stellen Sie sich das Ganze statt als Detektor eher als „KI-Schlussfolgerungswerkzeug“ vor oder, umgangssprachlicher, als „KI-Schätzer“. Als Werkzeug, das Schlussfolgerungen zieht, ist Pangram anfällig für alles, was solche Schlussfolgerungen so schwierig macht: kleine Stichproben – ein einzelner Artikel statt eines Textkorpus –, geringe Effektstärken, wenn der statistische Abstand zwischen menschlichen und KI-verfassten Texten schrumpft, und Störfaktoren – etwa eine Person, die KI-generierte Texte liest und nachahmt, bevor sie ihren eigenen schreibt.
Tatsächlich funktioniert Pangram so, dass es daraus Schlüsse zieht, ob ein bestimmter Text genügend jener Wörter, Formulierungen, Satzkonstruktionen und so weiter enthält, die derzeit in KI-generierten Texten üblich sind. Allerdings haben viele menschliche Autoren schon lange vor der generativen KI ebenfalls zahlreiche dieser Wörter, Formulierungen und so weiter verwendet. Die Folge ist, dass Autoren nun ihren vollständig menschlichen Schreibstil verändern, um die Pangram-Götter zufriedenzustellen, in der Hoffnung, nicht fälschlich als Lieferanten von KI-Müll abgestempelt zu werden.
Ein gutes Beispiel dafür wurde kürzlich in einem Beitrag von Alex Kirshner für Slate erörtert. Darin schreibt Kirshner:
Was auch immer die Zukunft für die Genauigkeit von KI-Detektoren bereithält: Mich beunruhigt, was sowohl das Schreiben durch KI als auch die Detektoren schon jetzt mit mir machen. Ich mache mir Sorgen darüber, wie KI-Texte und die Bemühungen, sie aufzuspüren, vollständig menschliches Schreiben verändern. Ich schreibe die ganze Woche, jede Woche, und kann spüren, wie die Brandstifter dieser Geschichte – große Sprachmodelle, besonders wenn sie falsch eingesetzt werden – und die Feuerwehrleute – KI-Detektoren – meinen Schreibprozess negativ beeinflussen.
Wie bei vielen Journalisten ist mein Schreibstil aus den Büchern, Nachrichtenartikeln, Blogs und – ja – Beiträgen in sozialen Medien entstanden, die sich über die Jahre in meinem Kopf festgesetzt haben. KI-Texte sind inzwischen in meinem Trinkwasser, ob ich nun jeden neuen Schluck als solchen erkennen kann oder nicht. Es scheint unvermeidlich, dass ich begonnen habe, ihre Eigenheiten zu verinnerlichen, selbst die berüchtigtsten, etwa den unablässigen Gebrauch von Gedankenstrichen und den übermäßigen Rückgriff auf die Konstruktion „Es ist nicht x, sondern y“. Zum einen fürchte ich, dadurch ein schlechterer Autor zu werden: Eine Begabung, die gut genug war, um hier – und anderswo! – eingestellt zu werden, wird wieder in Richtung des KI-generierten Mittelmaßes gezogen. Noch beängstigender ist, dass jemand – oder, Gott bewahre, irgendein KI-Detektor – meinen Text für einen von ChatGPT halten könnte. Ich habe begonnen, mich selbst zu überwachen, um das zu verhindern. In letzter Zeit habe ich mich einige Male dabei ertappt, meine eigene Arbeit so zu verändern, dass sie „weniger nach KI“ klingt. Dabei habe ich vermutlich Wörter gewählt, für die ich mich sonst nicht entschieden hätte. Es fühlt sich dystopisch an – und ich bezweifle, dass ich damit Erfolg hatte.
Ich würde einen Schritt weiter gehen als Kirshner und sagen, dass dieses Ergebnis definitiv dystopisch ist. Das gilt umso mehr, wenn man bedenkt, dass sich die angeblich „verräterischen“ Muster KI-generierter Texte verändern, sobald neue, verbesserte Modelle veröffentlicht werden. Das ist insbesondere deshalb so, weil man buchstäblich Berge wenig bekannter, von Menschen geschriebener Bücher zerreißt, um diese Modelle darauf zu trainieren, immer mehr wie Menschen zu schreiben. Unterdessen versuchen die wirklichen Menschen fieberhaft, nicht wie etwas zu klingen, das gerade mit hohem Tempo darauf trainiert wird, möglichst genau wie sie zu klingen – und das, um in einer Welt ihren Arbeitsplatz zu behalten, in der die Zahl der Schreibjobs bereits rapide schrumpft. Vielleicht ist es Absicht: Dieses Spiel ist nicht dafür gedacht, dass Menschen es gewinnen. Und wie ich später erläutern werde, bedeutet das, dass Autoren schnell aufhören sollten, es mitzuspielen.
Bevor wir dazu kommen, gibt es noch einige andere Dinge zu Pangram und weiteren Unternehmen für KI-„Erkennung“ anzumerken. Eines davon ist das Problem falsch-positiver Ergebnisse. Ja, es stimmt: Vermeintlich unabhängige Forscher – und Pangram selbst – schreiben Pangram die niedrigste Falsch-Positiv-Rate der Branche zu. Für dieses Beispiel nehmen wir Pangrams Behauptung, dass nur eine von 10.000 durch Pangram vergebenen Kennzeichnungen zur KI- oder menschlichen Urheberschaft falsch-positiv sei: Der Text wird also als KI-generiert eingestuft, obwohl er es nicht ist. Bei Substack, wo Pangram inzwischen integriert ist, wissen wir nicht genau, wie viele Beiträge durchschnittlich pro Tag veröffentlicht werden, denn Substack legt diese Zahl nicht offen. Wir können sie aber schätzen. Die Plattform selbst behauptet, dass „potenzielle Abonnenten jeden Tag über eine Million Beiträge in der App entdecken“. Auf der Plattform gibt es mehr als zwei Millionen aktive Publikationen, von denen die meisten mindestens wöchentlich veröffentlichen. Nehmen wir für dieses Beispiel an, dass diese zwei Millionen Publikationen tatsächlich wöchentlich einen Beitrag veröffentlichen. Dann würden nach Pangrams Quote jede Woche 200 davon fälschlich positiv eingestuft. Über ein Jahr mit 52 Wochen kommen wir auf mehr als 10.000 Substack-Artikel, die fälschlich als KI-generiert gekennzeichnet werden, obwohl sie es nicht sind. Diese Zahl ist zwar sicherlich noch immer niedriger als bei Pangrams Konkurrenten. Wenn wir jedoch annehmen, dass diese 10.000 falsch-positiven Ergebnisse unterschiedliche Publikationen betreffen, könnten das 10.000 menschliche Autoren sein, deren Arbeit fälschlich als KI-Müll abgestempelt wird. Das würde im Verlauf dieses Kalenderjahres ihren Ruf, ihre Einnahmen und – vielleicht am entscheidendsten – das Vertrauen ihres Publikums beeinträchtigen. Ich sehe darin den Versuch, das Vertrauen in die Authentizität eines Autors aus der Beziehung zwischen Autor und Publikum auszulagern und stattdessen in die Beziehung zwischen Pangram und dem Publikum des Autors zu verlagern.
Pangram und seine Partner verwenden diese Statistiken zwar zu Marketingzwecken, doch hinter den Zahlen stehen echte menschliche Autoren, die sich mit einem Vorwurf von Pangrams KI konfrontiert sehen, der ihre wirtschaftliche Existenz ruinieren könnte. Wenn sich dieser Effekt über Jahre aufsummiert, könnte er theoretisch dazu führen, dass der Kreis menschlicher Autoren, deren Arbeit von Pangram noch nicht als KI-generiert eingestuft wurde, mit der Zeit immer kleiner wird. Man kann auch mit Recht sagen, dass die von Pangram angeführte Falsch-Positiv-Rate zugleich die niedrigste ist, die in Untersuchungen zu seinem Produkt aufgetaucht ist. Sie wird am häufigsten zitiert, weil das Unternehmen sie als die für seine Interessen günstigste betrachtet. Es ist durchaus plausibel, dass die tatsächliche Falsch-Positiv-Rate höher liegt. Hinzu kommt, dass man, wenn man denselben Text mehrmals durch Pangram laufen lässt, wahrscheinlich stark schwankende statt übereinstimmender Ergebnisse erhält. Dadurch wirken Pangrams Urteile eher wie Glückssache denn wie eine sinnvolle „Erkennung“ von KI-Nutzung.
Ein weiterer wichtiger Gesichtspunkt bei Pangram ist die Möglichkeit, dieses Werkzeug gezielt als Waffe zur Zensur und/oder zur Diskreditierung eines bestimmten Journalisten oder Mediums einzusetzen. Insbesondere wurde Pangram-Mitgründer Max Spero vorgeworfen, über seinen Twitter-Account bestimmte Medien und Journalisten wegen ihrer KI-Nutzung öffentlich anzuprangern, was in den vergangenen Monaten für große Schlagzeilen und Kontroversen sorgte. Für die Zwecke dieses Artikels halte ich es nicht wirklich für relevant, zu untersuchen, ob die gegen diese Journalisten und Medien erhobenen Vorwürfe zutreffen. Wie eben erwähnt, liefert Pangram durchaus falsch-positive Ergebnisse. Es ist aber auch möglich, dass diese Journalisten KI in irgendeiner Form eingesetzt haben, ohne das offenzulegen. Relevant ist hier jedoch, dass insbesondere Spero die Urteile des KI-„Detektors“ seines Unternehmens als Waffe für Vorwürfe gegen bestimmte Journalisten und Medien eingesetzt hat.
Als langjährige Autorin in den unabhängigen Medien, die immer wieder über kontroverse Themen geschrieben hat, lange bevor dies später gefahrlos möglich wurde – siehe unter anderem meine frühen Arbeiten über Epsteins Verbindungen zum israelischen Geheimdienst, Peter Thiel und Palantir –, bin ich keine Anhängerin der Mainstreammedien oder der „etablierten“ Medien. Mehr als einmal haben sie mich entweder verleumdet oder meine Recherchen und Texte verwendet, ohne mich als Quelle zu nennen. Einen guten Teil meiner beruflichen Laufbahn habe ich außerdem damit verbracht, die oft irreführenden Narrative auseinanderzunehmen, die sie verbreiten. Deshalb stehe ich der Authentizität und dem Wahrheitsgehalt von Artikeln skeptisch gegenüber, die in vielen jener großen Medien erscheinen, auf die auch Spero abzielt. Es gibt jedoch ein weiteres Zitat von Spero, das Ihre Aufmerksamkeit wecken dürfte, wenn Sie die unabhängigen Medien in den vergangenen zehn Jahren aufmerksam verfolgt haben.
In einem Artikel von TechCrunch über die jüngste Finanzierungsrunde, bei der Pangram neun Millionen Dollar von Investoren einwarb, erläuterte Spero, er habe Pangram gründen wollen, um neue Probleme abzumildern, die nach der öffentlichen Freigabe generativer KI-Werkzeuge aufgetreten seien. Als Beispiele für solche neuen Probleme infolge der zunehmenden KI-Nutzung nannte Spero „LLM-gestützte russische Desinformationskampagnen und von den Vereinigten Arabischen Emiraten beeinflusste Kampagnen auf Twitter“.
Vielleicht erinnern Sie sich an die Zeit, die ungefähr vor zehn Jahren begann und seither über viele Jahre anhielt, als jeder Bericht unabhängiger Medien, der den Mächtigen als unbequem galt – insbesondere über US-Stellvertreterkriege im Ausland –, fälschlich als „russische Desinformation“ abgestempelt wurde. Vielleicht erinnern Sie sich auch an jüngere, ähnliche Behauptungen proisraelischer Influencer und Medien, wonach die Kritik an Israel in den vergangenen Jahren angeblich durch Geld aus Katar angetrieben worden sei und nicht durch die öffentliche Empörung über Israels live übertragenen Völkermord an den Palästinensern in Gaza. Oder wie steht es mit der neueren Behauptung, LLM-gestützte Bot-Accounts aus China, die überhaupt keine Reichweite hatten, steckten in Wahrheit heimlich hinter dem wachsenden Misstrauen der Amerikaner gegenüber Big Tech und ihrem Unmut über Rechenzentren?
Wenn Sie diese Entwicklungen lange genug verfolgt haben, ist Ihnen vielleicht ein Muster aufgefallen: Kritiker bestimmter Machtstrukturen werden regelmäßig und fälschlich als staatlich finanzierte Propagandisten oder „Bots“ bezeichnet. Damit sollen nicht nur die Kritiker selbst diskreditiert werden, sondern auch das übergeordnete Anliegen – seien es die Auswirkungen von Rechenzentren oder imperialistische Kriege. Ich weiß nicht, ob Spero mit Pangram beabsichtigt, das Produkt seines Unternehmens auf ähnliche Weise als Waffe einzusetzen. Möglich ist es aber durchaus.
Dass Speros Pangram mit NewsGuard zusammenarbeitet, erhöht diese Möglichkeit jedoch zweifellos. Wie ich bereits 2019 schrieb, ist NewsGuard ein fragwürdiger „Faktenprüfer“, der ursprünglich geschaffen wurde, um unabhängige Medien zu diskreditieren, die der US-Außenpolitik kritisch gegenüberstehen, während er erklärten US-Propagandaorganen wie VOA einen Freibrief erteilte. Erwähnenswert sind auch NewsGuards Verbindungen zum nationalen Sicherheitsapparat: So zählten ursprünglich die früheren Chefs der CIA und des Heimatschutzministeriums unter George W. Bush zu den Beratern, die mitbestimmen sollten, was „Fake News“ ist und was nicht. Einer der wichtigsten Investoren ist Jules Kroll, der Gründer von Kroll Associates, das häufig als „private CIA“ bezeichnet wird. Mithilfe von Pangram bestimmt NewsGuard nun, was „KI-Müll“ ist und was nicht, und hat Pangram genutzt, um einen Dienst zur „Erkennung von KI-Content-Farmen in Echtzeit“ einzuführen.
Wie ließen sich eine Gruppe von Reportern und jede damit einhergehende Welle öffentlicher Stimmung digital wirksamer auslöschen, als einen inzwischen „vertrauenswürdigen“ KI-Detektor einzusetzen, um sowohl die Autoren als auch die Stimmung als unecht und maschinell erzeugt zu kennzeichnen? Pangram könnte zu einem neuen Mittel werden, von Menschen verfasste, aber unbequeme Inhalte zu zensieren – insbesondere dann, wenn als KI-generiert eingestufte Inhalte irgendwann algorithmisch gegenüber jenen herabgestuft werden, die Pangram als menschlich verfasst kennzeichnet. Der Öffentlichkeit wird man sagen, dass der „KI-Müll“ verdrängt werde, während es in Wirklichkeit abweichende Meinungen sind.
Für mich sieht es so aus, als befinde sich Pangram derzeit in der Phase, die Allgegenwart seines Produkts zu normalisieren und bei denjenigen „Vertrauen“ aufzubauen, die Substack oder eine andere Plattform – oder eine Browser-Erweiterung – mit integrierter Pangram-Funktion nutzen. In dieser Phase werden Leser darauf konditioniert, eine Pangram-Kennzeichnung zu sehen und dem Ergebnis zu vertrauen, ohne weitere Informationen zu benötigen. So kann ein Unternehmen wie Pangram 14 Millionen Dollar an Finanzierung einwerben – unter anderem von einem der Hauptinvestoren von Anthropic –, und zwar für ein kostenlos verfügbares Produkt. Über Onlineprodukte wurde schon früher gesagt: Wenn das Produkt kostenlos ist, dann sind Sie das Produkt. In diesem Fall besteht das Produkt meiner Ansicht nach darin, Sie darauf zu trainieren, Ihr „Vertrauen“ von der Person oder dem Medium, dessen Texte Sie lesen, an Pangram auszulagern. Sobald Sie einem KI-„Erkennungstool“ vertrauen, werden Sie seinen Urteilen vertrauen – womöglich sogar mehr als dem Autor, zu dem Sie Vertrauen gefasst hatten.
Pangrams Mitgründer haben Pangram nicht geschaffen, um von Menschen verfasste Texte und menschliche Äußerungen zu schützen. Sie begeistern sich seit Langem dafür, dass KI „die Gesellschaft verändern“ wird, und unmittelbar vor Pangram entwickelten sie Algorithmen, um menschliche Fahrer durch KI zu ersetzen. Wie oben erwähnt, schufen sie Pangram, um unter anderem das zu unterbinden, was sie als staatlich finanzierte Einflussoperationen bezeichneten – eines von mehreren „Problemen“, die mit der öffentlichen Freigabe generativer KI-Werkzeuge entstanden seien. Da sich die öffentliche Stimmung gegen ihre früheren Big-Tech-Arbeitgeber wendet, ob wegen Rechenzentren, „intelligenter“ Brillen oder anderer Dinge, könnten Pangrams Mitgründer eine neue Möglichkeit bieten, Accounts aus dem Weg zu räumen, die der „Veränderung“ der Gesellschaft durch KI als zu kritisch gegenüberstehend gelten. Vielleicht auch nicht – aber verzeihen Sie mir meine Skepsis.
Abschließend möchte ich noch einmal auf das KI-Buch von Schmidt und Kissinger und seine Vorhersagen zurückkommen. In den unabhängigen Medien warnen viele vor der Hegelschen Dialektik, auch bekannt als „Problem–Reaktion–Lösung“. Das bedeutet: Die Mächtigen schaffen zunächst das Problem, warten dann auf die Reaktion der Öffentlichkeit und bieten dieser schließlich jenes politische Ergebnis als Lösung an, das sie ohnehin immer wollten. Es ist zweifellos praktisch, dass Schmidt und Kissinger – zwei äußerst üble Menschen, die beide auf unterschiedliche Weise dazu beigetragen haben, dieses Schlamassel anzurichten – vorausschauend prognostizierten, KI werde dazu führen, dass Menschen nicht mehr erkennen könnten, was real ist und was nicht. Nun ist ihre Vorhersage zu unserer Wirklichkeit geworden, und wie aufs Stichwort ist das Unternehmen Pangram aufgetreten, um das Problem des KI-Mülls zu lösen, von dem seine eigenen Investoren profitieren. Dazu bietet es uns ausgerechnet jene „Lösung“ an, die auch Schmidt und Kissinger bevorzugten: Menschen sollen sich auf eine KI-Instanz verlassen, die ihnen sagt, was real ist und was nicht.
Wie ich bereits schrieb, besteht der offensichtliche Ausweg aus diesem dystopischen Spiel darin, es nicht mitzuspielen. Vertrauen Sie Pangrams KI nicht allein deshalb, weil sie „maßgeblich“ wirkt und etwas positive Presse bekommen hat. Sie ist kein „Detektor“, wie behauptet, und ihre Ergebnisse für denselben Text stimmen selten überein. Wenn Sie Leser sind, bitten Sie die Autoren, die Sie lesen, ihre KI-Nutzung offenzulegen. Vertrauen sollte unmittelbar zwischen Autoren und ihren Lesern entstehen, ohne KI als Vermittler und als Instanz, die über Authentizität oder „Menschlichkeit“ entscheidet. Bei Unlimited Hangout verwenden wir niemals KI zum Schreiben, Recherchieren oder Überarbeiten unserer Artikel. Dies wird in unserer Richtlinie zur KI-Nutzung klar festgehalten. Sie können diese auf unserer Seite „Über uns“ lesen, sobald die neu gestaltete Website von Unlimited Hangout in Kürze online geht. Bis dahin können Sie sie hier lesen. Wir haben diese Richtlinie erstellt, nachdem wir an der Ausarbeitung der IMA-Selbstverpflichtung zur KI-Transparenz mitgewirkt hatten. Diese ermutigt unabhängige Journalisten und Medien dazu, freiwillig offenzulegen, ob und wie sie KI einsetzen, falls sie sich dafür entscheiden.
Wie jeder andere menschliche Autor kann ich meinen Lesern nur meine Recherchen, meine Quellen und meine authentische Analyse bieten – und im Fall dieses Artikels meine Meinungen. Ich werde meine Artikel nicht zwanghaft durch Pangram laufen lassen, in der Hoffnung, auf ein Ergebnis von „zu 100 Prozent von Menschen verfasst“ zu kommen. Ich werde nicht zulassen, dass die Angst vor einem ungünstigen Pangram-Ergebnis meine Schreibweise verändert und mir Angst davor macht, Wörter wie „delve“ – sich vertiefen – oder „profound“ – tiefgründig – zu verwenden, weil Pangram mich dafür bestrafen könnte. Ich weiß, dass ich ohne KI schreibe, und zwischen meinen Lesern und mir besteht genügend Vertrauen, dass auch sie wissen, dass ich beim Schreiben keine KI verwende. Ähnlich wie jene Akteure, die unbequeme Reporter als russische oder chinesische „Bots“ bezeichnet haben, geht Pangram davon aus, dass Sie nicht selbst bestimmen können, was authentisch ist und was nicht, und dass Sie Pangram brauchen, um es Ihnen zu sagen.
Auch wenn kritisches Denken im Zeitalter der KI Mangelware sein mag: Lassen Sie es nicht dazu kommen. Sie brauchen keine weitere KI, die Ihnen dabei „hilft“, festzustellen, was sich für Sie authentisch anfühlt oder so erscheint und was nicht. Sie brauchen sie nicht, um Ihnen zu sagen, was Sie lesen oder nicht lesen sollten und wem Sie vertrauen oder nicht vertrauen sollten. Es ist nie eine gute Idee, das eigene kritische Denken und die eigenen Meinungen an andere auszulagern – schon gar nicht an eine nichtmenschliche KI.
