KI-Systeme argumentieren höflich, strukturiert, fehlerfrei und meist ohne emotionale Schlagseite. Sie widersprechen nicht, sie verpacken komplexe Themen in einfache Sprache, und sie sind rund um die Uhr verfügbar. Diese Eigenschaften sorgen dafür, dass viele Nutzer:innen KIs als besonders kompetent, vertrauenswürdig – und eben auch: überzeugend wahrnehmen.

Zwei aktuelle Beispiele aus Forschung und Medien zeigen, welche Risiken entstehen, wenn diese Überzeugungskraft mit gezielter Manipulation kombiniert wird – und welche Rolle UX dabei spielt.

Was ist passiert?

Eine Studie der École polytechnique fédérale de Lausanne (EPFL) zeigt: ChatGPT konnte in 64 % der Fälle Testpersonen stärker überzeugen als reale Menschen. Besonders ausgeprägt war dieser Effekt, wenn die KI personalisierte Informationen über die Zielperson kannte – etwa Alter, Beruf oder politische Einstellung. Die Argumentation wurde damit gezielter, anschlussfähiger und erfolgreicher.

Parallel dazu berichtete Der Spiegel über eine russische Desinformationskampagne, bei der gezielt Inhalte über ein Netzwerk namens „Prawda“ in den digitalen Raum eingespeist wurden – mit dem Ziel, sie in das Training oder Verhalten westlicher KI-Systeme einzuschleusen. In Stichproben enthielten etwa ein Drittel der Chatbot-Antworten Narrative aus diesem Netzwerk, ohne diese als solche zu kennzeichnen.

Überzeugungskraft als Risiko

Psychologische Wirkung

Große Sprachmodelle (LLMs) wie ChatGPT sind nicht nur in der Lage, korrekte Informationen zu liefern – sie können diese auch in einer Weise präsentieren, die besonders einnehmend ist. Die Kombination aus ruhiger Sprache, logischer Argumentation und vermeintlicher Objektivität führt dazu, dass Aussagen von KI-Systemen häufig weniger hinterfragt werden als solche von realen Personen.

Ein zusätzlicher Verstärkereffekt tritt auf, wenn die KI individualisierte Argumente liefert. Diese Form der Personalisierung nutzt psychologische Muster wie den Confirmation Bias – also die Tendenz, nur Argumente zu akzeptieren, die zur eigenen Weltsicht passen.

In Kombination mit Desinformation

Wird diese Überzeugungskraft mit systematisch eingespielten Falschinformationen kombiniert, entsteht ein hochproblematisches Szenario. Im Fall des russischen Netzwerks „Prawda“ wurden über 150 Webseiten mit SEO-optimierter Propaganda aufgebaut. Ziel war es, diese Inhalte durch schiere Masse in KI-Systeme einzuschleusen – ein Vorgehen, das unter dem Begriff LLM-Grooming diskutiert wird.

Dabei geht es nicht um klassische Hacks, sondern um subtile Einflussnahme über Inhalte. Weitere Details zu diesem Phänomen und zu Gegenmaßnahmen finden sich im verlinkten Blogartikel:👉 Was ist LLM-Grooming – und wie schützt man KI-Systeme davor?

Bedeutung für UX

UX-Design ist zunehmend mehr als Interface-Gestaltung – es ist der Raum, in dem Überzeugung, Vertrauen und Kontrolle verhandelt werden. Wenn KI-basierte Systeme überzeugender sind als Menschen, stehen UX-Professionals vor neuen Herausforderungen:

• Wie wird Argumentation gestaltet?

• Welche Rolle spielt Personalisierung?

• Wie sichtbar sind Quellen und Unsicherheiten?

• Wie wird Nutzer:innen kritisches Denken ermöglicht?

UX wird damit zur Gestalterin von Wirkung – und trägt Mitverantwortung dafür, ob Nutzer:innen KI-Systeme als Unterstützung oder als manipulative Instanz erleben.

Handlungsempfehlung und Ausblick

Um der wachsenden Überzeugungskraft von KI angemessen zu begegnen, braucht es klare Designprinzipien und neue Standards im Umgang mit Sprachmodellen. Dazu gehören unter anderem:

• Quellenbindung verbessern: Informationen sollten überprüfbar und kontextualisiert sein, nicht bloß als Fließtext erscheinen.

• Personalisierung transparent machen: Nutzer:innen sollten erkennen, ob und wie ihre Daten die Argumentation beeinflussen.

• Ambiguität zulassen: KIs sollten nicht nur eindeutige Antworten geben, sondern auch mit Unsicherheiten umgehen können.

• Verantwortung kenntlich machen: Wer spricht hier – und mit welcher Intention?

• UX-Research anpassen: Neue Methoden zur Wirkungsmessung von KI-Antworten, etwa im Hinblick auf Überzeugung, Vertrauen oder kritische Distanz, werden erforderlich.

Fazit: Die Überzeugungskraft von KI ist keine Nebensache. Sie ist zentral – und sie muss mitgedacht, gestaltet und kritisch begleitet werden. UX-Design kann und sollte hier eine aktive Rolle übernehmen.

💌 Noch nicht genug? Dann lies weiter – in unserem Newsletter.

Kommt viermal im Jahr. Bleibt länger im Kopf.  https://www.uintent.com/de/newsletter