KI-Produkte gestalten, die sich überprüfen lassen.

01 — Das Vertrauensproblem

Vertrauen in KI ist eine Frage der Überprüfbarkeit.

Eine KI, die meistens richtigliegt, und ein Prüfer, der nicht erkennen kann, welche Antworten die falschen sind — das Ergebnis ist, dass alles nachgeprüft wird. Dann hat die Automatisierung nichts eingespart; sie hat einen Arbeitsschritt hinzugefügt. Menschen verweigern einer KI das Vertrauen nicht, weil das Modell Fehler macht. Sie verweigern es, weil das Interface ihnen keinen schnellen Weg gibt, herauszufinden, ob diese Antwort einer davon ist.

Das verschiebt die Designaufgabe. Nicht: Wie bringen wir Menschen dazu, der KI zu vertrauen? Sondern: Wie schnell kann eine Person bestätigen oder verwerfen, was die KI gerade gesagt hat — und was geschieht danach mit ihrem Urteil? Ein Hinweistext beantwortet keine der beiden Fragen. Ein Interaktionsmuster kann es.

Vertrauen ist kein Gefühl, das ein Interface erzeugt. Es ist eine Prüfung, die das Interface günstig macht.

02 — Die Muster

Fünf Interaktionsmuster, die eine KI prüfbar machen.

1. 01Belege an der Quelle.

   Jede Ausgabe zeigt, woher sie stammt — der Satz, die Zeile, die Regel — und das eine Interaktion entfernt, ohne die Liste zu verlassen.

   Prüfer lesen nicht mehr das ganze Dokument, um ein Feld zu bestätigen. Diese gesparte Zeit ist der Business Case.

2. 02Unsicherheit als Priorität, nicht als Zahl.

   Ein Konfidenzwert verlangt vom Prüfer, Statistik zu deuten. Stufen — läuft still durch, einen Blick wert, Bestätigung nötig — sagen ihm, wo er hinsehen soll.

   Das menschliche Urteil wird dort eingesetzt, wo das Modell schwach ist; der sichere Rest läuft ohne Klick durch.

3. 03Korrekturen, die zurückfließen.

   Eine Antwort zu korrigieren ist dieselbe Geste wie sie freizugeben, und die Korrektur bleibt am Beleg hängen.

   Das Modell lernt aus echten Prüfungen statt aus einem separaten Labeling-Vorhaben. Akzeptanz und Modellqualität sind nicht länger zwei Projekte.

4. 04Der Mensch handelt, das Modell schlägt vor.

   Nichts wird in ein führendes System geschrieben ohne eine menschliche Handlung an der Stelle, an der die Haftung liegt — und jede Handlung lässt sich zurücknehmen.

   Das ist der Satz, mit dem Recht und Compliance zustimmen.

5. 05Erklären in den Begriffen der Nutzer, nicht des Modells.

   Die Antwort auf „Warum das?“ ist ein Satz, eine Regel, ein Präzedenzfall — etwas, das ein Prüfer in drei Sekunden verwenden kann — keine Attention-Gewichte.

   Erklärbarkeit, die niemand öffnet, ist ein Feature. Erklärbarkeit, die die Prüfung beschleunigt, ist ein Produkt.

03 — Der Prototyp

Wie ein KI-Workflow in vier Wochen aussieht.

Der Ablauf der vier Wochen ist derselbe wie bei jeder Produktentscheidung — eine Entscheidung, ein Prototyp, eine Studie, eine schriftliche Empfehlung. Was sich ändert, ist, was nachgebildet wird und was echt sein muss.

• Echt: die Dokumente, die Daten, die Aufgaben, das Interface — und die Prüfer.
• Nachgebildet: das Modell. Seine Ausgaben sind vorbereitet und mit den Fehlern versehen, die Ihr Modell tatsächlich macht, in etwa der Häufigkeit, in der es sie macht — einschließlich der Fälle, in denen es sicher wirkt und falschliegt.
• Simuliert: die Konfidenzstufen, indem vorbereitete Ausgaben Stufen zugeordnet werden — so lässt sich die Lenkung der Aufmerksamkeit prüfen, bevor es eine Kalibrierung gibt.

Die Prüfung verlangt von den Prüfern dann nur eines: die Liste so abarbeiten wie im Arbeitsalltag. Gemessen wird, ob die eingebauten Fehler gefunden werden, wie viel Zeit ins Nachprüfen richtiger Antworten fließt und ob jemand sagen kann, warum eine Antwort markiert war. Das ist die Annahme, auf der die meisten KI-Funktionen ruhen — „Menschen finden, was zählt, ohne alles zu prüfen“ — und sie lässt sich absichern, bevor das Modell integriert ist.

Die vier Wochen im Detail →

04 — Wo es greift

Copilots, Dokumentenintelligenz, Entscheidungsunterstützung, Agenten.

• Copilots — Vorschläge innerhalb eines bestehenden Ablaufs. Die Designfrage: wann unterbrechen, und wie lässt man sich ohne Reibung ignorieren.
• Dokumentenintelligenz — Extraktion und Prüfung in großer Zahl. Die Frage: Wie wird Prüfen schneller als Lesen.
• Entscheidungsunterstützung — Bewertungen, Triage, Empfehlungen. Die Frage: Wer trägt die Verantwortung für die Entscheidung, die der Wert nahelegt, und was sieht diese Person, bevor sie handelt.
• Agentische Abläufe — mehrstufige Handlungen mit Werkzeugen. Die Frage: Wo sitzt der menschliche Kontrollpunkt, und was sieht eine Person, wenn der Agent anhält.

05 — Ein Beispiel

Ein Prüfablauf bei PwC, gebaut um eine einzige Frage.

Dokumentenextraktion im Enterprise-Maßstab, in der das Vertrauen der Prüfer das eigentliche Feature des Produkts war. Die Fallstudie zeigt alle fünf Muster in einem Interface — samt einer Demo, die Sie selbst durcharbeiten können. Entstanden als Teil des Produktteams bei PwC, nicht als Auftrag.

Zur Fallstudie →