UX Design in Zeiten von KI: Nutzerverständnis lässt sich nicht auslagern

An der Arbeit mit KI zeigt sich, wer UX Design wirklich verstanden hat

Künstliche Intelligenz stellt zur Zeit Investitionen in UI und UX Design grundlegend in Frage. Jede:r kann Software generieren, die auf den ersten Blick super gut aussieht. Generative KI macht es jedem möglich, alle Artefakte der UX-Methoden zu erstellen. Das ist an sich noch kein Grund zur Kritik. Wie bei allen Werkzeugen wird aber nicht jeder Anwender automatisch ein Meister.

User Experience, also das Nutzungserlebnis, ist immer da. Egal ob professionell durch bewusste Entscheidungen von Menschen gestaltet, durch den Output von KI oder auch wenn niemand sich darum kümmert: Deine Nutzer:innen machen eine Erfahrung mit deinem Produkt.

Design Superpower 1: Visuell denken

Verstehen, Entwerfen, Verwerfen und Entscheiden - seit jeher ist das der Weg, wie Designer Lösungen finden. Handgezeichnete Scribbles auf Papier, Wireframes oder grobe Entwürfe im Designtool. So werden Anforderungen sichtbar, Abläufe und Funktionalitäten greifbar. Die Entwürfe sehen aber absichtlich noch unfertig aus. Das macht es leicht, sich Feedback zu holen und unpassende Ansätze schnell wieder zu verwerfen. Obwohl es simpel erscheint, ist es nicht banal. Dahinter steckt: früh im Prozess stetig iterieren, um später gezielter umzusetzen. Design-Methoden sind damit die erste Stufe im Risikomanagement.

Braucht man dafür künstliche Intelligenz oder "wie viele Tokens ist 1 Designer wert"?

Es zeichnet sich ab, dass Tokens die Währung der Zukunft sein werden. Visuelle Ergebnisse z.B. aus Claude Design oder auch in Figma sind vergleichsweise teuer. Wer sich visuell nicht gut ausdrücken kann, verbrennt schnell Ressourcen. Selbst für einfachste Aufgaben, die ein geschulter Designer in einem professionellen Tool mit ein paar Klicks erledigt. Das ist kein Argument gegen KI, es ist ein Argument dafür, beide sinnvoll zu kombinieren. 

Superpower 2: Kontext und Menschen verstehen 

Die zweite Superpower des Human Centered Design ist die Arbeit mit den Nutzenden. Die bekannteren qualitativen Methoden sind beispielsweise: 

• Interviews

• Analyse von Nutzungskontexten durch Beobachtungen und Hospitationen

• Usability Tests, um Feedback für die nächsten Iterationen einzuholen.

User Research ist leider häufig noch mit Missverständnissen und Vorurteilen behaftet: „nice to have“, langsam, teuer und vielleicht gar nicht nötig, weil "wir kennen unsere User schon lange".

Zusätzlich gibt es kognitive Faktoren, die trotz bester Absichten dazu führen, dass gerade Product Owner und Produktmanager sehr leicht nicht oder zu spät an Nutzerzentrierung denken: Unser Gedächtnis erinnert sich am besten an Dinge, die persönliche Relevanz haben und die episodisch sind, wie z.B. persönlich erlebte Situationen oder anschaulich geschilderte Geschichten. 

Als Produktentscheider:in erlebst du ständig persönlich Situationen mit deinen Vorgesetzten und Stakeholdern. Du erinnerst dich sehr eindrücklich an ihre Ziele und verbindest Emotionen mit diesen Erinnerungen. 

Mit Nutzenden hast du eher selten persönlich zu tun, wenn du dich nicht bewusst dazu entscheidest. Du erinnerst dich somit schlechter an ihre Bedürfnisse als an deine Vorgesetzten. Deine Empathie den Nutzenden gegenüber bleibt rein rational. Damit hast du zwar verstanden, was ihr Problem ist, aber es fühlt sich unbewusst weniger relevant an. 

Nutzerzentrierung muss aktiv gewollt sein. Gerade durch die Auslagerung von Aufgaben an KI wird dies noch verstärkt.

Exkurs: Wie Denken und Lernen Menschen?

Der Psychologe und Ökonom Daniel Kahneman beschreibt in seinem Bestseller "Schnelles Denken, langsames Denken" unser Denken mit Hilfe von zwei Systemen:

System 1 ist unser Default für den Alltag. Wir treffen unbewusst eigentlich täglich Millionen von Mikroentscheidungen, über die wir aber mit Hilfe des immer aktiven System 1 nicht mehr nachdenken müssen. System 1 ist emotional, stereotypisierend, schnell und automatisch. 

System 2 ist zuständig für kritische Abwägungen und komplexe, bewusste Entscheidungen. Es ist logisch und berechnend, dafür aber langsam und wird nur aktiv, wenn es wirklich notwendig ist. Das ist anstrengend. Kognitionsforscher:innen nennen diese Anstrengung auch Desirable Difficulties oder Friction, also produktiven Widerstand, der nachhaltiges Lernen ermöglicht. 

Bei der Arbeit mit KI ist größtenteils nur System 1 gefordert. Die Interaktion findet dabei ohne Widerstand, ohne Friktion statt: Die initiale Eingabe muss nicht gut durchdacht sein, man nähert sich im lockeren Dialog dem Ziel. Die KI liefert umgehend Output. Die Antworten erscheinen plausibel und sind wunderbar freundlich formuliert. Als Anwender habe ich keine soziale Reibung. Ich muss nicht befürchten für eine unpräzise und fachlich vielleicht dumme Anfrage verurteilt zu werden. Die KI erhebt niemals Widerspruch.

Was passiert? Die Lernanstrengung, der "productive struggle" wird umgangen. Die ganze "Arbeit" fühlt sich sehr angenehm an, weil die Auseinandersetzung mit den Inhalten nur oberflächlich passiert. Es kann dazu führen, dass wir deswegen unbewusst zukünftig häufiger die Arbeit mit KI bevorzugen statt zuerst selbst nachzudenken oder uns Feedback auszusetzen.

Und ja, den Output auf Richtigkeit zu kontrollieren fühlt sich jetzt umso anstrengender an, weil ich System 2 brauche. Ich muss das durchdenken, was ich vorher an die KI ausgelagert hatte.  

Bias werden verstärkt

Das Confirmation Bias bezeichnet die Tendenz, dass wir dazu neigen, Informationen so wahrzunehmen, dass wir unsere Annahmen bestätigen. Dieses Bias könnte bei der Arbeit mit KI eher verstärkt werden. Vielleicht wird der erste Prompt auch schon suggestiv formuliert. Sehr wahrscheinlich stellen wir keine kritischen Nachfragen in Richtungen, die nicht zu unserem Ziel passen würden.

Zusätzlich greift noch das Automation Bias: Wir Menschen neigen erwiesenermaßen dazu, automatisierten Systemen blind zu glauben und uns darauf zu verlassen. Wenn der Output auch noch so eloquent formuliert ist, was sollte daran nicht stimmen?

Friction und Cognitive Offloading 

Metakognition, das Wissen darüber, wie wir denken und wahrnehmen, ist auf einmal wichtig, weil wir nun statt selbst zu denken auch die Alternative wählen können: Teile oder das ganze Denken an eine Maschine auszulagern. Jeder, der mit KI arbeitet sollte für sich entscheiden:

• Welche Auswirkungen des "Cognitive Offloadings" möchte ich in Kauf nehmen?

• Zu welchem Zeitpunkt sollte unbedingt ein anderer Mensch oder mein Team involviert werden? 

Wenn wir nicht bewusst steuern wie und was wir selbst lernen und denken, könnten sich so langfristig unbemerkt kognitive Schulden aufbauen. Diese sind auch besser bekannt als "Cognitive Debt" und "Comprehension Debt". Kombiniert mit einer abnehmenden Toleranz für die Lern-Anstrengung könnte die ausschließliche Nutzung von KI für Denkaufgaben auch in eine Souveränitätsfalle führen.

Human in the Loop: Wie souverän möchtest du UX Entscheidungen treffen?

Jeder, der ein Produkt entwickelt, hat ein inneres, sogenanntes "mentales Modell" von seinen Nutzenden und Kunden. Die Teilnahme an Interviews, die Auswertung von User Research oder das Beobachten von Usability Tests.  Das alles erweitert und formt dein mentales Modell vom Nutzungskontext und schärft deinen Kompass für Produktentscheidungen. Wie viel und welche Wissensarbeit an eine KI ausgelagert wird, sollte eine bewusste Entscheidung sein.

"Data is the new oil", aber welche Daten?

Selbst wenn du dich als Entscheider:in überhaupt nicht für deine Kunden und Nutzenden interessieren solltest: An User Research führt kein Weg vorbei. KI ist nur so gut wie die Daten, die ihr zugrunde liegen. Gerade qualitative Daten – Herausforderungen, Ziele, Bedürfnisse konkreter Menschen – sind klassischer Output von User Research. 

Je spezialisierter deine Nutzer:innen sind, desto weniger brauchbar sind die Trainingsdaten frei zugänglicher Sprachmodelle. Bestes Beispiel ist etwa der "Gender Data Gap".

Ja, digitale Zwillinge oder synthetische User sind technisch gesehen Optionen, einzelne Personen oder ganze Gruppen digital abzubilden. Aber ihr Nutzen und ihre Zuverlässigkeit steht und fällt natürlich mit den zugrunde liegenden Daten. Gerade bei komplexen Anwendungen im B2B ist es ohnehin schwierig, Daten über die Nutzung eines digitalen Produkts zu sammeln. Und wenn Daten vorliegen, ist die nächste Frage, ob sie auch maschinenlesbar und brauchbar strukturiert vorliegen. Es erfordert vermutlich nicht unerheblichen Aufwand, einer KI ausreichend guten Kontext zu geben.

In den Papers “Digital Twins are Funhouse Mirrors: Five Key Distortions.” und “LLM Agents Grounded in Self-Reports Enable General-Purpose Simulation of Individuals” ist man von vorhandenen Daten ausgegangen und hat untersucht wie hilfreich eine maschinelle Simulation ist. Das Ergebnis:  Die Daten sind immer nur Rückblicke. Die KI-Simulationen zeigen kein menschlich irrationales Verhalten, sind stark stereotyp und reproduzieren natürlich nur das, was in den Trainingsdaten vorhanden ist. Für in die Zukunft gerichtete Signale z.B. für oder gegen neue Feature-Ideen sind digitale Zwillinge oder synthetische User nicht geeignet.