top of page
uintent Firmenlogo
Kontakt

AI & UX Research

RAGs gegen Halluzinationen – gut gedacht, aber nicht gut genug?

Warum Retrieval-Augmented Generation kein Allheilmittel für verlässliche KI-Antworten ist


2

MIN

20. Mai 2025

Einleitung 

In der Welt der Künstlichen Intelligenz (KI) sind Halluzinationen – also das Erfinden von plausibel klingenden, aber falschen Informationen – ein bekanntes Problem bei großen Sprachmodellen (LLMs). Retrieval-Augmented Generation (RAG) wurde als Lösung präsentiert, um dieses Problem zu minimieren, indem externe, verlässliche Datenquellen in die Antwortgenerierung einbezogen werden. Doch ist RAG wirklich das Allheilmittel gegen Halluzinationen? 

 

Was ist RAG überhaupt – und warum ist es relevant? 

RAG kombiniert ein LLM mit einem Informationsabrufsystem. Statt ausschließlich auf das im Modell gespeicherte Wissen zuzugreifen, durchsucht das System externe Datenbanken nach relevanten Informationen und nutzt diese, um präzisere Antworten zu generieren. Für UX-Profis bedeutet das: Die KI kann auf aktuelle und spezifische Informationen zugreifen, was besonders in dynamischen Anwendungsbereichen von Vorteil ist. 

 

Was RAGs richtig gut machen 

  • Integration aktueller Informationen: RAG ermöglicht es, auf aktuelle Daten zuzugreifen, die nach dem Training des LLMs entstanden sind. 

  • Reduktion von Halluzinationen bei Faktenfragen: Durch den Zugriff auf verlässliche Quellen können falsche Behauptungen reduziert werden. 

  • Transparenz durch Quellenangaben: Antworten können mit direkten Verweisen auf die genutzten Quellen versehen werden, was die Nachvollziehbarkeit erhöht. 

  • Anwendung in Unternehmen: Besonders in internen Wissenssystemen kann RAG helfen, spezifische Informationen effizient bereitzustellen. 

 

Aber: Warum RAGs oft überschätzt werden 

Trotz der Vorteile gibt es auch Herausforderungen: 

  • Qualität der abgerufenen Daten: Wenn das System irrelevante oder veraltete Informationen abruft, kann dies zu falschen Antworten führen. 

  • Fehlinterpretation durch das LLM: Selbst bei korrekten Daten kann das Modell diese missverstehen oder falsch gewichten. 

  • Technischer Aufwand: Die Implementierung und Wartung eines effektiven RAG-Systems erfordert erhebliche Ressourcen. 

  • Beispiel aus der Praxis: Eine Studie der Stanford University zeigte, dass spezialisierte juristische KI-Tools, die RAG nutzen, in 17–33 % der Fälle halluzinieren. VentureBeat+3reglab.stanford.edu+3Legal Dive+3 

 

Typische Missverständnisse rund um RAGs 

  • „Mit RAG halluziniert die KI nie“: Ein Trugschluss. RAG reduziert, aber eliminiert Halluzinationen nicht vollständig. 

  • „Externe Daten = wahre Antworten“: Die Qualität und Relevanz der Daten sind entscheidend. 

  • „RAG = bessere LLMs“: Ohne sorgfältige Implementierung und Überwachung kann RAG die Leistung sogar verschlechtern. 

 

Was ein gutes RAG-System leisten muss 

  • Hochwertige Datenquellen: Die genutzten Daten müssen aktuell, relevant und verlässlich sein. 

  • Effektive Suchalgorithmen: Das System muss in der Lage sein, die relevantesten Informationen effizient zu finden. Legal Tech Insights from Prevail 

  • Anpassung an den Kontext: Das LLM sollte die abgerufenen Daten korrekt interpretieren und in den richtigen Kontext setzen. 

  • Kontinuierliche Überwachung: Regelmäßige Überprüfungen und Anpassungen sind notwendig, um die Qualität zu gewährleisten. 

 

Fazit: RAG – ein Baustein, kein Wundermittel 

RAG bietet vielversprechende Ansätze zur Verbesserung der Antwortgenauigkeit von LLMs, ist jedoch kein Allheilmittel. Für UX-Profis bedeutet das: RAG kann ein wertvolles Werkzeug sein, sollte aber mit Bedacht und in Kombination mit anderen Methoden eingesetzt werden, um wirklich verlässliche und nutzerzentrierte KI-Anwendungen zu entwickeln. 

Anmeldung zum Newsletter

Schreibtisch mit Laptop, auf dem Bildschirm ein halbfertiges Interface. Handgezeichnete Pfeile und ein Fragezeichen markieren eine Lücke zwischen Entwurf und Code.

Vibe Coding für UX-Prototypen: Möglichkeiten und Grenzen aus UX-Sicht

AI & UX Research, UX METHODS, TRENDS

Schreibtisch mit Research-Notizen und handgezeichneten Pfeilen, die verschiedene UX-Agentur-Aufgaben verbinden

User Experience Agentur: Mehr als hübsche Buttons und Farben

UX STRATEGY, BEST PRACTICES

Illustration einer Persona-Karte in der UX-Forschung, umgeben von Interview-Notizen, Post-its und handschriftlichen Verhaltensmustern

Personas in der UX-Forschung: datenbasiert statt erfunden

UX METHODS, BEST PRACTICES

Verhandlungssituation am Meetingtisch von schräg oben: Handgezeichneter Pfeil trägt eine eingekreiste UX-Risikostelle über den Tisch zu den Geschäftskennzahlen der Management-Seite

UX Research ROI: Womit du dein Management überzeugst

UX STRATEGY, UX METRICS, BEST PRACTICES

Foto eines Schreibtischs mit Diagrammen und Notizen, überzeichnet mit handgezeichneten Pfeilen und Kreisen zu Mittelwert, Median und Signifikanz

Quantitative UX-Methoden: Zahlen richtig lesen und deuten

UX METHODS, UX METRICS, BEST PRACTICES

Draufsicht auf einen Schreibtisch mit zentral platziertem pinkfarbenem Eis am Stiel, steigendem Liniendiagramm und handgezeichneten orangefarbenen Kurven, Pfeilen und Fragezeichen.

UX-Metriken richtig lesen: Kontext statt Bauchgefühl

UX QUALITY, UX METHODS, UX METRICS

Leuchtende abstrakte Profilkarten, verbunden durch cyanfarbene Datenlinien, mit wiederholten goldenen Silhouetten in einem dunklen digitalen Raum.

KI Personas: Was sie können, was sie nicht können sollten

AI & UX Research

Symbolische digitale Illustration: Ein leuchtender Prompt-Cursor schwebt im Zentrum eines dunklen Raums, verbunden mit einem sparsamen Netzwerk aus Lichtpunkten. Einige Knoten leuchten hell, andere verblassen – ein Bild für bewussten, gezielten KI-Einsatz.

Nachhaltig prompten: Ein Denkanstoß für UX-Teams

AI & UX Research

Prompt, Projekt oder Skill? Welches KI-Werkzeug deine UX Research wirklich beschleunigt

AI & UX Research

Person am Schreibtisch zwischen Chaos und geordnetem Datenfluss, Lichtfokus in der Mitte

UX & AI: Die besten Newsletter und Podcasts – meine persönliche Auswahl

AI & UX Research

Leuchtende goldene Trophäe schwebt über einer Kluft, während darunter kleine Figuren an Nutzerforschung und Wireframes arbeiten, ohne vom Licht erreicht zu werden.

UX AI Benchmarks Verstehen: Was HLE Und METR Wirklich Über Ki-Tools Aussagen

AI & UX Research

Futuristische digitale Illustration auf dunkelblauem Hintergrund: Eine menschliche Hand mit golden leuchtendem Bleistift und eine cyan-glühende Roboterhand greifen gemeinsam nach einem zentralen, strahlenden Datencluster. Umgeben von gestapelten Dokumenten und einem Netzwerk aus verbundenen Knoten symbolisiert die Szene die Zusammenarbeit von menschlicher Interpretation und digitaler Informationsverarbeitung.

NotebookLM Im UX Research: Ehrliche Einschätzung Eines Spezialisierten Ki-Tools

AI & UX Research, BEST PRACTICES

Futuristischer leuchtender Zylinder mit Segmenten, getrennt durch goldene Barrieren.

Gated Salami Prompting: Warum Du Komplexe Llm-aufgaben In Scheiben Schneiden Solltest

AI & UX Research, BEST PRACTICES

Futuristische, quadratische Illustration auf dunkelblauem Hintergrund: Eine leuchtende goldene Sprechblase zerfällt in Partikel, die sich teilweise falsch neu zusammensetzen; umgeben von Energie­bögen, Lichtknoten und einem stilisierten digitalen Kopf – Symbol für Halluzinationen von LLMs.

Erfundene Zitate, Verschwundene Nuancen: Das Halluzinationsproblem In Der Qualitativen Analyse Mit LLMs

AI & UX Research, BEST PRACTICES, UX METHODS

Surreale futuristische Illustration eines leuchtenden digitalen Kopfes mit Datenströmen, Diagrammen und Bewertungssymbolen, die KI-Evaluationsmethoden darstellen.

Woher wissen wir, dass unser Prompt gute Arbeit leistet? Warum UX Research eine Evaluierungsmethodik für KI-gestützte Analyse braucht

AI & UX Research, TRENDS, BEST PRACTICES

Surreale, futuristische Illustration einer Person von hinten in einer leuchtenden digitalen Stadtlandschaft.

System Prompts in UX Research: Was du über die unsichtbare KI-Steuerung wissen musst

AI & UX Research, UX QUALITY

Abstrakte futuristische Illustration einer Person, verschiedene Videos und Notizen.

YouTube Video Zusammenfassen Mit KI: Drei Tools Im Ux-Research-Praxistest

AI & UX Research, BEST PRACTICES

Abstrakte, futuristische Illustration eines Menschen vor einem leuchtenden Turm aus Dokumenten und Datenströmen.

KI Tools UX Research: Wie gehen diese Tools mit großen Dokumenten um?

AI & UX Research, BEST PRACTICES

Illustration von Donald Trump mit erhobener Hand vor abstraktem, digitalem Hintergrund, der Sprachblasen und Datenstrukturen andeutet.

Donald Trump Prompt: Wie provokante KI-Prompts UX-Budgets bewegen

AI & UX Research, UX STRATEGY

Illustration einer Person an einer Weggabelung mit zwei gleichwertigen Wegen.

Ersetzt KI UX Jobs? Was eine Studie mit 200.000 KI-Konversationen wirklich zeigt

AI & UX Research, UX QUALITY

 VERWANDTE ARTIKEL DIE DICH INTERESSIEREN KÖNNTEN 

AUTHOR

Tara Bosenick

Tara ist seit 1999 als UX-Spezialistin tätig und hat die Branche in Deutschland auf Agenturseite mit aufgebaut und geprägt. Sie ist spezialisiert auf die Entwicklung neuer UX-Methoden, die Quantifizierung von UX und die Einführung von UX in Unternehmen.


Gleichzeitig war sie immer daran interessiert, in ihren Unternehmen eine möglichst „coole“ Unternehmenskultur zu entwickeln, in der Spaß, Leistung, Teamgeist und Kundenerfolg miteinander verknüpft sind. Seit mehreren Jahren unterstützt sie daher Führungskräfte und Unternehmen auf dem Weg zu mehr New Work / Agilität und einem besseren Mitarbeitererlebnis.


Sie ist eine der führenden Stimmen in der UX-, CX- und Employee Experience-Branche.

bottom of page