17.09.2026

Human-Centered AI: Vertrauen als Erfolgsfaktor

KI-Systeme erzeugen Frust: Sie konfrontieren Nutzer:innen mit überzeugend formulierten Falschinformationen, undurchschaubaren Mechanismen, verzerrten Daten und sie sind kompliziert zu bedienen. Damit KI ihr volles Potenzial entfalten kann, muss sie für User nachvollziehbar und intuitiv bedienbar sein, also menschenzentriert gestaltet sein. Wir geben Euch einen Überblick über die wichtigsten Stellschrauben von Human-centered AI (HCAI).

Verbreitung und Regulierung von KI

Mehr als die Hälfte der Menschen in Deutschland ab 16 Jahren nutzt KI beruflich oder privat (Bitkom, 2026). Auch in Unternehmen wächst der Einsatz schnell. 2025 setzten EU-weit 20 % der Unternehmen mit 10 oder mehr Beschäftigten KI-Technologien ein, ein Anstieg um 6,5 Prozentpunkte gegenüber dem Vorjahr (Eurostat, 2025).

Mit der Verbreitung wächst der Wunsch nach klaren Regeln und Mitgestaltung: Weltweit finden 70 % der Befragten eine Regulierung von KI notwendig (Gillespie et al., 2025). In der EU halten es 77 % für ziemlich oder sehr wichtig, Beschäftigte bei der Gestaltung und Einführung neuer digitaler Technologien am Arbeitsplatz mit einzubeziehen (European Commission, 2025).

Mit dem EU AI Act werden Schritte in Richtung Regulierung gegangen. Anbieter und Betreiber müssen seit Februar 2025 Maßnahmen ergreifen, um die KI-Kompetenz ihres Personals sicherzustellen (European Union, 2024, Art. 4). Seit August 2026 gelten Transparenzpflichten, nach denen Menschen erkennen können müssen, dass sie mit einem KI-System interagieren (European Union, 2024, Art. 50).

KI-Chatbot-Interface mit deutschen Sprachvorschlägen auf einem transparenten Display – eine Hand tippt auf eine Reiseempfehlung

Das Problem mit dem Vertrauen

Mann am Schreibtisch liest KI-Assistent-Antworten zum EU-Lieferkettengesetz auf einem Computerbildschirm

Beim Vertrauen in KI zeigt sich ein doppeltes Problem, das für die Gestaltung von KI-Systemen entscheidend ist. Auf der einen Seite fehlt Vertrauen: Weltweit sind nur 46 % der Befragten bereit, KI-Systemen zu vertrauen (Gillespie et al., 2025). In Deutschland ist fehlendes Vertrauen einer der Hauptgründe, KI gar nicht erst einzusetzen (Bitkom, 2026). Auf der anderen Seite ist das vorhandene Vertrauen häufig zu unkritisch: 66 % der weltweit befragten Beschäftigten übernehmen KI-Ergebnisse, ohne sie auf Richtigkeit zu prüfen (Gillespie et al., 2025).

Dafür gibt es mehrere Erklärungen: fehlende KI-Kompetenz, unklare Regeln in den Organisationen oder Systeme, die unzureichend auf ihre Nutzenden abgestimmt sind. Statt Menschen bei ihrer Arbeit wirksam zu unterstützen, erzeugen KI-Systeme mitunter das Gefühl, die eigene Expertise reiche für die Nutzung nicht aus. Hinzu kommen intransparente Mechanismen und Ergebnisse. So empfinden 42 % der Menschen in Deutschland KI als oft undurchsichtig und 41 % befürchten falsche Ergebnisse (Bitkom, 2026). Das nährt ein diffuses Misstrauen – dennoch werden Ergebnisse oft ungeprüft übernommen.

Was ist Human-centered AI (HCAI)?

Human-centered AI, also menschzentrierte Gestaltung von KI, ist an der Schnittstelle von künstlicher Intelligenz und Human-Computer Interaction (HCI) entstanden. Prägend sind zudem Human Factors und Ergonomie, partizipative Gestaltungsansätze sowie ethische und wertorientierte Perspektiven. Während Human-centered Design (HCD) als Prozess seit Langem etabliert und in der ISO 9241-210 (International Organization for Standardization, 2019) mit Prinzipien und Aktivitäten beschrieben ist, ist der Begriff Human-centered AI vergleichsweise neu. Zu den wichtigsten Merkmalen zählen das Einbeziehen von Menschen in den Entwicklungsprozess von KI-Systemen und das Ziel, diese so zu gestalten, dass sie den Menschen, die mit ihnen arbeiten, einen erkennbaren Nutzen bringen. Je nach HCAI-Ansatz werden dabei zusätzlich menschliche Kontrolle und Steuerbarkeit, Ethik und Verantwortung, Transparenz und Erklärbarkeit, Datenschutz und Sicherheit oder Nachhaltigkeit besonders gewichtet. (z.B. Shneiderman, 2022; Xu, 2026).

Was menschzentrierte KI-Gestaltung für uns ausmacht

Hand zeichnet mit orangem Buntstift eine Skizze: Personensymbol im Zentrum eines Sterns mit Glitzer-Elementen

Für unser Team bei UID ist der Mensch der entscheidende Erfolgsfaktor in der Entwicklung von KI-Systemen. Denn wer nicht die Technologie, sondern die Nutzer:innen in den Mittelpunkt stellt, schafft Lösungen mit echtem Mehrwert. Dafür erheben wir Bedürfnisse und Anforderungen, entwickeln passende Gestaltungslösungen und evaluieren diese gemeinsam mit den Nutzenden, um sie anschließend iterativ weiterzuentwickeln. Themen wie Ethical Design, Accessibility, Behavioral Design, Calm UX und Sustainable UX vervollständigen die menschzentrierte Perspektive und werden bei uns von Beginn an mitgedacht. Unser Ziel ist die Entwicklung von KI-Systemen, die zu den Werten und Bedürfnissen ihrer Nutzenden passen und ihnen den Zugang zu Inhalten und zur Entscheidungslogik des Systems ermöglichen, ohne sie dabei zu überfordern.

So gehen wir in KI-Projekten vor

Zu Beginn eines Projekts klären wir neben Zielen und technischen Möglichkeiten auch Fragen zu ethischen Standards und Werten, zu Datenschutz und Privatsphäre der Nutzenden sowie zu den Verantwortlichkeiten für KI-Ergebnisse. Die künftigen Anwender:innen beziehen wir von Beginn an in den Entwicklungsprozess ein, um ihre Bedürfnisse und Erwartungen, aber auch Vorbehalte und Ängste zu verstehen und in der Gestaltung zu adressieren. Dabei prüfen wir ergebnisoffen, ob KI für das jeweilige Bedürfnis überhaupt das passende Mittel ist. Lässt sich eine Anforderung mit einer regelbasierten oder schlicht besser gestalteten Lösung zuverlässiger erfüllen, empfehlen wir diesen Weg.

Sobald Anforderungen und Rahmenbedingungen geklärt sind, setzen wir erste Lösungen prototypisch um und denken dabei nicht nur den Happy Path, sondern auch mögliche missbräuchliche Nutzungen mit und konzipieren entsprechende Sicherheits- und Schutzmechanismen. Um frühzeitig festzustellen, ob Gestaltungslösungen zu den Anforderungen passen, testen wir Prototypen mit künftigen Nutzer:innen. Dabei spielen bei KI-Systemen neben der Usability insbesondere die Themen Transparenz und Erklärbarkeit eine entscheidende Rolle. Wichtig ist, Gestaltungslösungen kontinuierlich zu evaluieren und das Feedback zurück in die Entwicklung fließen zu lassen. Das gilt auch, und bei KI-Systemen im Besonderen, wenn sich diese bereits auf dem Markt und in Verwendung befinden.

Zwei Kolleginnen und Kollegen besprechen am Tisch gemeinsam Inhalte auf einem Laptop

Der Nutzen von menschzentrierten KI-Systemen

Menschzentrierte Gestaltung macht KI-Systeme zugänglicher, benutzbarer und nachvollziehbarer. Unsere Erfahrung zeigt, dass Frustration und Misstrauen dadurch abnehmen und Raum für begeisternde Nutzungserfahrungen entsteht. Davon profitieren eure Nutzenden, aber auch ihr als Organisation:

Höhere Akzeptanz. Ein System, das zu den Aufgaben und Erwartungen seiner Zielgruppe passt, wird freiwillig und regelmäßig eingesetzt statt umgangen.

Weniger Fehler im Arbeitsergebnis. Nachvollziehbare Ergebnisse und klare Hinweise auf Unsicherheiten fördern kritisches Prüfen und senken das Risiko, dass fehlerhafte Ausgaben ungeprüft übernommen werden.

Geringere Entwicklungskosten. Wer Annahmen früh am Prototyp überprüft, muss später, wenn Änderungen aufwendig geworden sind, deutlich weniger nachbessern.

Bessere regulatorische Ausgangslage. Transparenz, Nachvollziehbarkeit und wirksame menschliche Aufsicht zahlen direkt auf die Anforderungen des EU AI Act ein. Wer sie gestalterisch umsetzt, erfüllt sie nicht nur formal.

Klare Positionierung. In einem Umfeld, in dem Vorbehalte gegenüber KI verbreitet sind, sind verständliche und vertrauenswürdige Systeme ein spürbares Unterscheidungsmerkmal.

Der Aufwand für menschzentrierte Gestaltung entsteht früh im Projekt, der Nutzen wirkt über den gesamten Lebenszyklus eures KI-Systems.

Wenn ihr KI-Systeme mit euren Nutzenden im Mittelpunkt gestalten möchtet, unterstützen wir euch gerne: bei Ideenfindung und Neuentwicklung, bei Evaluation und Weiterentwicklung bestehender KI-Systeme oder bei eurer ganz individuellen Herausforderung. Lasst uns darüber sprechen, wo ihr heute steht und welcher nächste Schritt sich für euch lohnt.

KI-Vorhaben mit UID besprechen

Der Autor

Philipp Seidel arbeitet als User Experience Consultant bei UID. Seine Schwerpunkte liegen im User Research und in der Konzeption digitaler Produkte und Services. Darüber hinaus beschäftigt er sich mit der Frage, wie KI sinnvoll in unsere Arbeit integriert und menschzentriert gestaltet werden kann.

Einen Termin mit UID buchen