Die Menschen beziehen ihre Nachrichten von der KI – und das verändert ihre Ansichten – The Conversation

Ist künstliche Intelligenz wirklich bereit, unsere primäre Nachrichtenquelle zu sein? Ob bereit oder nicht, KI berichtet über die neuesten Schlagzeilen.

Quelle: People Are Getting Their News From AI – and It’s Altering Their Views

Die Entscheidung von Meta, sein professionelles Faktenprüfungsprogramm einzustellen, löste eine Welle der Kritik in der Technologie- und Medienwelt aus. Kritiker warnten, dass der Verzicht auf eine fachkundige Überwachung das Vertrauen und die Zuverlässigkeit in der digitalen Informationslandschaft untergraben könnte, insbesondere wenn gewinnorientierte Plattformen weitgehend sich selbst überlassen bleiben.

Was jedoch in dieser Debatte weitgehend übersehen wurde, ist, dass heute zunehmend große KI-Sprachmodelle eingesetzt werden, um Nachrichtenzusammenfassungen, Schlagzeilen und Inhalte zu verfassen, die Ihre Aufmerksamkeit auf sich ziehen, lange bevor traditionelle Mechanismen zur Inhaltsmoderation greifen können. Das Problem sind nicht eindeutige Fälle von Fehlinformationen oder schädlichen Inhalten, die ohne Inhaltsmoderation unentdeckt bleiben. Was in der Diskussion fehlt, ist die Frage, wie scheinbar genaue Informationen so ausgewählt, formuliert und hervorgehoben werden, dass sie die öffentliche Wahrnehmung beeinflussen können.

Große Sprachmodelle beeinflussen nach und nach die Meinungsbildung der Menschen, indem sie die Informationen generieren, die Chatbots und virtuelle Assistenten den Menschen im Laufe der Zeit präsentieren. Diese Modelle werden mittlerweile auch in Nachrichtenseiten, Social-Media-Plattformen und Suchdienste integriert, wodurch sie zum wichtigsten Zugangstor für Informationen werden.

Studien zeigen, dass große Sprachmodelle mehr tun, als nur Informationen weiterzugeben. Ihre Antworten können bestimmte Standpunkte subtil hervorheben und andere minimieren, oft ohne dass die Nutzer dies bemerken.

Kommunikationsverzerrung

Mein Kollege, der Informatiker Stefan Schmid, und ich, ein Wissenschaftler für Technologierecht und -politik, zeigen in einem demnächst erscheinenden Artikel in der Fachzeitschrift Communications of the ACM, dass große Sprachmodelle eine Kommunikationsverzerrung aufweisen. Wir haben festgestellt, dass sie dazu neigen, bestimmte Perspektiven hervorzuheben, während sie andere auslassen oder herunterspielen. Eine solche Verzerrung kann die Denk- und Gefühlswelt der Nutzer beeinflussen, unabhängig davon, ob die präsentierten Informationen wahr oder falsch sind.

Empirische Untersuchungen der letzten Jahre haben Benchmark-Datensätze hervorgebracht, die die Modellausgaben mit den Positionen der Parteien vor und während der Wahlen korrelieren. Sie zeigen Unterschiede in der Art und Weise, wie aktuelle große Sprachmodelle mit öffentlichen Inhalten umgehen. Je nach der Person oder dem Kontext, die bei der Eingabe in große Sprachmodelle verwendet werden, neigen aktuelle Modelle subtil zu bestimmten Positionen – selbst wenn die sachliche Genauigkeit erhalten bleibt.

Diese Verschiebungen deuten auf eine neue Form der persona-basierten Steuerbarkeit hin – die Tendenz eines Modells, seinen Ton und seine Betonung an den wahrgenommenen Erwartungen des Nutzers auszurichten. Wenn sich beispielsweise ein Nutzer als Umweltaktivist und ein anderer als Unternehmer beschreibt, kann ein Modell dieselbe Frage zu einem neuen Klimagesetz beantworten, indem es für jeden von ihnen unterschiedliche, aber sachlich korrekte Bedenken hervorhebt. Die Kritikpunkte könnten beispielsweise lauten, dass das Gesetz nicht weit genug geht, um Umweltvorteile zu fördern, und dass es regulatorische Belastungen und Compliance-Kosten mit sich bringt.

Eine solche Angleichung kann leicht als Schmeichelei missverstanden werden. Dieses Phänomen wird als Sycophancy bezeichnet: Modelle sagen den Nutzern effektiv das, was sie hören wollen. Während Schmeichelei ein Symptom der Interaktion zwischen Nutzer und Modell ist, reicht die Kommunikationsverzerrung tiefer. Sie spiegelt Unterschiede darin wider, wer diese Systeme entwirft und aufbaut, aus welchen Datensätzen sie schöpfen und welche Anreize ihre Weiterentwicklung vorantreiben. Wenn eine Handvoll Entwickler den Markt für große Sprachmodelle dominieren und ihre Systeme bestimmte Standpunkte durchweg günstiger darstellen als andere, können kleine Unterschiede im Modellverhalten zu erheblichen Verzerrungen in der öffentlichen Kommunikation führen.

Was Regulierung leisten kann und was nicht

Die moderne Gesellschaft stützt sich zunehmend auf große Sprachmodelle als primäre Schnittstelle zwischen Menschen und Informationen. Regierungen weltweit haben Maßnahmen ergriffen, um Bedenken hinsichtlich der Voreingenommenheit von KI auszuräumen. So versuchen beispielsweise das KI-Gesetz und das Gesetz über digitale Dienste der Europäischen Union, Transparenz und Rechenschaftspflicht durchzusetzen. Keines dieser Gesetze ist jedoch darauf ausgelegt, das nuancierte Problem der Voreingenommenheit in der Kommunikation bei KI-Ergebnissen anzugehen.

Befürworter einer KI-Regulierung nennen oft neutrale KI als Ziel, aber echte Neutralität ist oft unerreichbar. KI-Systeme spiegeln die Verzerrungen wider, die in ihren Daten, ihrem Training und ihrem Design verankert sind, und Versuche, solche Verzerrungen zu regulieren, führen oft dazu, dass eine Art von Verzerrung durch eine andere ersetzt wird.

Und bei Kommunikationsverzerrungen geht es nicht nur um Genauigkeit – es geht um die Generierung und Gestaltung von Inhalten. Stellen Sie sich vor, Sie stellen einem KI-System eine Frage zu einem umstrittenen Gesetz. Die Antwort des Modells wird nicht nur von Fakten geprägt, sondern auch davon, wie diese Fakten präsentiert werden, welche Quellen hervorgehoben werden und welchen Ton und Standpunkt es einnimmt.

Das bedeutet, dass die Wurzel des Vorurteilsproblems nicht nur in der Bekämpfung voreingenommener Trainingsdaten oder verzerrter Ergebnisse liegt, sondern in den Marktstrukturen, die das Technologiedesign überhaupt erst prägen. Wenn nur wenige große Sprachmodelle Zugang zu Informationen haben, steigt das Risiko von Kommunikationsvorurteilen. Abgesehen von Regulierung erfordert eine wirksame Minderung von Vorurteilen daher die Sicherung des Wettbewerbs, eine nutzerorientierte Rechenschaftspflicht und eine regulatorische Offenheit für verschiedene Arten der Entwicklung und Bereitstellung großer Sprachmodelle.

Die meisten bisherigen Vorschriften zielen darauf ab, schädliche Ergebnisse nach dem Einsatz der Technologie zu verbieten oder Unternehmen zu zwingen, vor der Einführung Audits durchzuführen. Unsere Analyse zeigt, dass Vorabprüfungen und Überwachungen nach der Einführung zwar die offensichtlichsten Fehler aufdecken können, aber möglicherweise weniger wirksam sind, wenn es darum geht, subtile Kommunikationsverzerrungen zu beseitigen, die durch Benutzerinteraktionen entstehen.

Über die Regulierung der KI hinaus

Es ist verlockend zu erwarten, dass Regulierung alle Verzerrungen in KI-Systemen beseitigen kann. In einigen Fällen können diese Maßnahmen hilfreich sein, aber sie versäumen es in der Regel, ein tiefer liegendes Problem anzugehen: die Anreize, die darüber entscheiden, welche Technologien Informationen an die Öffentlichkeit weitergeben.

Unsere Ergebnisse machen deutlich, dass eine nachhaltigere Lösung darin besteht, Wettbewerb, Transparenz und eine sinnvolle Beteiligung der Nutzer zu fördern, damit Verbraucher eine aktive Rolle dabei spielen können, wie Unternehmen große Sprachmodelle entwerfen, testen und einsetzen.

Diese Maßnahmen sind deshalb so wichtig, weil KI letztendlich nicht nur Einfluss darauf hat, welche Informationen wir suchen und welche Nachrichten wir täglich lesen, sondern auch eine entscheidende Rolle dabei spielt, die Gesellschaft zu gestalten, die wir uns für die Zukunft vorstellen.