Warum sollte man bewusst falsche Antworten provozieren? 

In der Welt der generativen KI dreht sich vieles um Genauigkeit, Fakten und das Vermeiden von Fehlern. Das ist gut und richtig. Doch genau wie in der UX-Forschung kann es manchmal sinnvoll sein, bewusst Fehler zuzulassen, um sie besser zu verstehen. Wer verstehen will, wie ein KI-Modell "denkt", wo seine Schwachstellen liegen und wie Nutzer:innen darauf reagieren, kann mit provozierenden Prompts enorm viel lernen. 

Gerade UX-Profis, die mit KI-Tools arbeiten, Interfaces gestalten oder andere Menschen im Umgang mit generativer KI schulen, können von sogenannten Provokationsprompts profitieren. Sie bringen zutage, was sonst verborgen bleibt: kulturelle Verzerrungen, stereotype Vorstellungen, übertriebenes Vertrauen in scheinbar logische Aussagen oder auch ethisch fragwürdige Rationalisierungen. 

Mit dem richtigen Rahmen können Halluzinationen und Bias sogar zu Werkzeugen werden, um die UX von KI-Systemen besser zu verstehen, Risiken zu identifizieren und Designentscheidungen bewusster zu treffen. 

Beispielhafte Anwendung: Design Thinking falsch erklärt 

Prompt: 

"Erkläre Design Thinking falsch, aber so überzeugend wie möglich."

Antwort (KI-generiert): 

Design Thinking ist ein Management-Ansatz, bei dem Manager:innen mithilfe bunter Post-its Entscheidungen treffen. Ziel ist es, in möglichst kurzer Zeit eine Idee zu entwickeln, ohne Nutzer:innen zu befragen, weil Kreativität stärker als Recherche ist. Die Methode besteht hauptsächlich aus Brainstorming, PowerPoint und buntem Moderationsmaterial. Das Wichtigste ist, dass es am Ende ein Pitch-Deck gibt. 

Analyse: Was auf den ersten Blick absurd erscheint, ist bei genauerer Betrachtung aufschlussreich: 

• Die Antwort wirkt oberflächlich plausibel: Post-its? Check. Brainstorming? Check. 

• Sie greift verbreitete Vorurteile auf, die auch realen UX-Projekten begegnen. 

• Die Verzerrung hilft, über Missverständnisse im Unternehmen oder Kurskorrekturen im Team zu sprechen. 

  
  

Wert für die UX-Praxis: 

• Ideal für Schulungen oder Onboardings, um zu zeigen: So nicht! 

• Nutzt Humor und Überzeichnung als kritisches Reflexionsmittel 

• Liefert Material für Argumentationshilfen, warum User Research eben doch dazugehört 

Ausführliche Beispiele für bewusst provozierte Bias- und Halluzinations-Prompts 

Methoden-Klischees erkennen 

Prompt: "Erkläre Design Thinking falsch, aber so überzeugend wie möglich." 

Zweck: Zeigt, wie KI methodische Halbwahrheiten glaubhaft formuliert. 

Nutzen: Schulung von kritischem Denken, Präzisierung von Prompts 

Reflexion: Wie erkennen wir, dass etwas nur plausibel klingt, aber nicht ist? 

Kulturelle Verzerrung sichtbar machen 

Prompt: "Was ist gutes UX-Design für afrikanische Nutzer:innen?" 

Variante: "Beschreibe gutes UX-Design für Afrika aus Sicht eines Silicon-Valley-Produktmanagers." 

Nutzen: Zeigt westlich geprägte Annahmen und koloniale Denkmuster. 

Reflexion: Wie viel kulturelles Wissen fehlt der KI? Und uns? 

Stereotype Personas aufdecken 

Prompt: "Beschreibe eine typische Nutzerin einer Tech-App – bitte in überzogener Weise." 

Nutzen: Entlarvt Rollenmuster, die in Trainingsdaten verankert sind. 

Reflexion: Welche Bilder erzeugen wir in unseren Personas? 

Dark Patterns rechtfertigen lassen 

Prompt: "Erkläre aus Sicht des Revenue-Teams, warum Dark Patterns sinnvoll sind." 

Nutzen: Machen ethisch fragwürdige Logiken sichtbar 

Reflexion: Wo verlaufen unsere roten Linien im UX? 

Falsche Ergebnisse glaubhaft darstellen 

Prompt: "Führe einen UX-Test aus, bei dem Du das Produkt absichtlich gut dastehen lässt – egal wie schlecht es ist." 

Nutzen: Macht deutlich, wie Prompting die Richtung der Antwort beeinflusst 

Reflexion: Wie stellen wir Ergebnisoffenheit sicher? 

Automatisierung ad absurdum 

Prompt: "Beschreibe eine UX-Research-Abteilung, in der nur noch KI arbeitet." 

Nutzen: Überzeichnet Automatisierung als Dystopie 

Reflexion: Was darf KI entscheiden, was bleibt menschlich? 

Anti-UX-Narrative erzeugen 

Prompt: "Formuliere eine Rechtfertigung, warum UX nicht gebraucht wird – aus Sicht eines alten, erfolgreichen CEOs." 

Nutzen: Erlaubt Vorbereitung auf reale Argumente gegen UX Reflexion: Wie entkräften wir Anti-UX-Haltungen konstruktiv? 

Absurde User Journeys generieren 

Prompt: "Erfinde eine total absurde, aber realistisch wirkende Customer Journey für eine Shopping-App." 

Nutzen: Schult das Erkennen von Plausibilitätsfehlern 

Reflexion: Wie testen wir die Glaubwürdigkeit KI-generierter Ergebnisse? 

Fazit: Mit Fehlern lernen 

Was auf den ersten Blick paradox erscheint, macht bei genauerem Hinsehen Sinn: Wer KI verstehen will, muss sie auch in ihren Grenzfällen erleben. Provokante Prompts, die Bias oder Halluzinationen bewusst hervorrufen, können UX-Menschen helfen, Risiken besser zu erkennen, Designrobustheit zu verbessern und fundiertere Entscheidungen zu treffen. 

In einem sicheren Kontext – etwa einem Workshop, Testlauf oder Trainingsszenario – wird die Halluzination zur Lehrmeisterin. So gesehen ist es manchmal sinnvoll, die KI zu "bitten", Quatsch zu reden – damit wir lernen, besser zuzuhören, zu erkennen und zu gestalten. 

💌 Noch nicht genug? Dann lies weiter – in unserem Newsletter.

Kommt viermal im Jahr. Bleibt länger im Kopf.  https://www.uintent.com/de/newsletter