Ein produktorientierter Ansatz: KI entwickeln, der die Menschen vertrauen

In Teil 2 dieser Serie haben wir uns mit der Machbarkeit befasst: ob eine KI-Idee angesichts der aktuellen Daten, Technologien und Beschränkungen umgesetzt werden kann. Diese Phase wird oft als Forderung missverstanden, alles im Voraus zu beweisen. In Wirklichkeit geht es bei der frühen Machbarkeit nicht um Gewissheit, sondern um Lernen.

Unserer Erfahrung nach nutzen die effektivsten Teams die Machbarkeit, um eine viel pragmatischere Frage zu beantworten: Ist diese Idee konkret genug, um sie heute mit echten Benutzern zu testen? Nicht optimiert. Nicht produktionstauglich. Einfach real genug, um Annahmen und Reibungspunkte aufzudecken.

Diese Unterscheidung ist wichtiger, als es zunächst scheint. In vielen Unternehmen erleben wir immer wieder, dass technisch erfolgreiche Prototypen monatelange Arbeit verschlingen, nur um dann zu scheitern, sobald sie auf echte Benutzer treffen. Der teuerste Misserfolg in der KI ist selten ein Modell, das schlecht abschneidet. Es ist ein Modell, das gut abschneidet und das falsche Problem löst oder das richtige Problem auf eine Weise löst, der die Menschen nicht vertrauen, die sie nicht verstehen oder die sie nicht annehmen.

Die Erwünschtheit steht also unmittelbar nach der anfänglichen Machbarkeit. Sobald eine Idee plausibel erscheint, besteht die nächste Priorität darin, zu überprüfen, ob sie einen sinnvollen Wert für die Menschen schafft, bevor tiefere technische Investitionen getätigt werden.

Sie brauchen keine perfekten Daten, keine vollautomatisierte Pipeline oder produktionsreife Modelle, um zu erfahren, ob eine KI-Lösung vertrauenswürdig ist, angenommen oder geschätzt wird. In der Tat verzögert das Warten auf die "Bereitschaft" oft die wichtigsten Erkenntnisse.

Bei den frühen Tests zur Zweckmäßigkeit steht die Erfahrung im Vordergrund, nicht die Leistung. Sie helfen dabei, Fragen wie diese zu beantworten:

Unternehmen können die Erwünschtheit durch leichtgewichtige Ansätze wie Concierge- oder Human-in-the-Loop-Erfahrungen oder sichere, kleine Pilotprojekte testen, um Antworten auf die oben genannten Fragen zu finden.

Diese Techniken ermöglichen es Teams, schnell und kostengünstig zu lernen. Wenn der Nutzen gering ist, kann das Unternehmen umschwenken oder aufhören, bevor es sich auf kostspielige Infrastrukturen, Datenprogramme oder organisatorische Veränderungen einlässt.

Was bedeutet Erwünschtheit im Zusammenhang mit KI?

In Bezug auf Produkte spiegelt die Erwünschtheit wider, ob eine Lösung ein Problem löst, das den Menschen tatsächlich am Herzen liegt, und zwar auf eine Weise, die ihrem Kontext und ihrem Verhalten entspricht. Bei KI stellt sich diese Frage in noch stärkerem Maße.

KI-Systeme unterstützen nicht nur Handlungen, sondern beeinflussen oder vermitteln oft auch Entscheidungen. Folglich geht die Erwünschtheit über die Nützlichkeit hinaus und umfasst auch Vertrauen, Klarheit und wahrgenommene Kontrolle.

Ein technisch fortschrittliches System, das sich undurchsichtig oder unvorhersehbar anfühlt, kann mehr Reibungsverluste als Vorteile mit sich bringen. Umgekehrt wird ein einfacheres Modell, das sich klar erklärt und sich konsistent verhält, oft schneller akzeptiert.

Bei der KI geht es also nicht um Beeindruckbarkeit. Es geht darum, ob die Menschen sich sicher genug fühlen, um sich auf sie zu verlassen, wenn die Ergebnisse wichtig sind.

Zwei Blickwinkel auf die Erwünschtheit: interner Nutzen und Kundennutzen

Die Erwünschtheit wird immer aus der Perspektive eines bestimmten Benutzers bewertet. Bei KI-Initiativen fällt der Benutzer in der Regel in eine von zwei Kategorien: interne Benutzer oder externe Kunden.

Nicht jede KI-Lösung muss beide Anforderungen gleichzeitig erfüllen. Wichtig ist, dass Sie sich darüber im Klaren sind, welche Sichtweise gilt, denn jede Sichtweise birgt andere Risiken und erfordert andere Formen der Validierung. Eine Vermischung dieser beiden Aspekte führt oft zu Lösungen, die zwar technisch solide, aber in der Praxis unerwünscht sind.

Interne Erwünschtheit: Die Kluft zwischen Einführung und Annahme

Interne Erwünschtheit liegt vor, wenn KI zur Unterstützung von Mitarbeitern, Teams oder internen Entscheidungsträgern entwickelt wird. In diesen Fällen ist die zentrale Frage nicht, ob die Technologie funktioniert, sondern ob die Menschen sich unter realem Druck auf sie verlassen werden.

Die innere Erwünschtheit wird durch gelebte Erfahrung geprägt. Sie hängt ab von:

Eine intern erwünschte KI-Lösung ist eine, der die Mitarbeiter genug Vertrauen schenken, um sie unter echtem Druck einzusetzen, nicht weil sie dazu angewiesen werden, sondern weil sie ihnen wirklich hilft, ihre Arbeit besser zu machen.

Kundenbegehrlichkeit: Die Kluft zwischen Merkmalen und wahrgenommenem Wert

Die Kundenwünsche werden berücksichtigt, wenn KI sich direkt auf das Kundenerlebnis auswirkt, z. B. durch Empfehlungen, Personalisierung, Automatisierung oder Entscheidungshilfen, die außerhalb des Unternehmens angeboten werden.

Hier geht es nicht um die Mechanismen der Akzeptanz, sondern um den wahrgenommenen Wert. Kunden beurteilen die Lösung auf der Grundlage ihrer Erfahrungen:

Eine vom Kunden gewünschte KI-Lösung ist eine, bei der der Wert sofort und ohne Erklärung ersichtlich ist und bei der das Vorhandensein von KI tatsächlich das Vertrauen stärkt, anstatt Bedenken zu wecken.

Wenn beide Objektive zutreffen

Bei einigen KI-Initiativen sind interne und Kundenwünsche keine getrennten Anliegen, sondern gelten gleichzeitig.

Dies ist der Fall, wenn ein KI-System interne Benutzer unterstützt, aber die Auswirkungen seiner Empfehlungen oder Aktionen direkt von den Kunden erfahren werden. In diesen Fällen sind internes Vertrauen und Kundenvertrauen eng miteinander verbunden.

Ein gängiges Beispiel ist der KI-gestützte Kundenservice und -support.

Stellen Sie sich einen KI-Copiloten vor, der Antworten vorschlägt, Kundenprobleme zusammenfasst oder den Supportmitarbeitern die nächsten Aktionen empfiehlt. Aus interner Sicht hängt die Erwünschtheit davon ab, ob die Agenten das Gefühl haben, dass das System ihnen wirklich hilft, indem es die kognitive Belastung reduziert, das Urteilsvermögen verbessert und eine schnellere Lösung unterstützt, ohne dass sie sich eingeengt oder überwacht fühlen.

Aus der Sicht des Kunden wird dasselbe System völlig anders beurteilt. Kunden sehen nicht die KI, sie erleben das Ergebnis. Es ist ihnen wichtig, ob die Antworten relevant, einfühlsam und konsistent sind und ob Probleme effektiv und nicht nur schneller gelöst werden.

Wenn Agenten dem System nicht vertrauen, ignorieren sie es oder setzen es außer Kraft, was zu einer inkonsistenten Nutzung führt. Wenn Kunden die Interaktionen als skriptgesteuert, übereilt oder unpersönlich empfinden, schwindet das Vertrauen, selbst wenn sich die internen Effizienzkennzahlen verbessern. In beiden Fällen kann die KI zwar technisch einwandfrei, aber in der Praxis unerwünscht sein.

Wenn beide Sichtweisen zutreffen, muss die Erwünschtheit über die gesamte Kette hinweg validiert werden: wie die KI die interne Entscheidungsfindung unterstützt und wie sich diese Entscheidungen auf die Kundenerfahrung auswirken. Ein nützlicher Test ist einfach: Wenn ein interner Benutzer zögert, einem Kunden den Einfluss der KI auf ein Ergebnis zu erklären, ist die Erwünschtheit noch nicht erwiesen.

Wie können Organisationen die menschliche Begierde verstehen?

Erwünschtheit entsteht durch Beobachtung und Einfühlungsvermögen, nicht durch Annahmen.

Unternehmen sollten nach Momenten Ausschau halten, in denen Menschen zögern, nachfragen oder sich ausgeliefert fühlen, intern oder extern. Dies sind oft die Orte, an denen Intelligenz den größten Mehrwert bietet.

Vier Praktiken helfen bei der Verankerung der Erwünschtheit:

Der Kreislauf schließt sich: zurück zur Machbarkeit, dann zur Durchführbarkeit

Sobald die Attraktivität nachgewiesen ist - durch reale Nutzung, nicht durch Enthusiasmus - kann sich das Unternehmen wieder verstärkt auf die Machbarkeit konzentrieren.

An diesem Punkt wird die Arbeit an der tieferen Machbarkeit zielgerichtet: Verbesserung der Datenqualität, Stärkung der Modelle, Härtung der Infrastruktur und Behandlung von wichtigen Randfällen. Die Bemühungen orientieren sich am Nachweis des Wertes, nicht an Spekulationen.

Erst wenn sich Machbarkeit und Wünschbarkeit gegenseitig verstärken, ist es sinnvoll, die Durchführbarkeit zu bewerten: die langfristige Wirtschaftlichkeit, das Betriebsmodell und die strategische Eignung der Lösung.

Im nächsten Teil dieser Serie werden wir uns mit der Rentabilität befassen und untersuchen, wie Unternehmen feststellen, welche KI-Initiativen es wert sind, langfristig aufrecht erhalten, skaliert und unterstützt zu werden.

Zurück zu Teil 1 der Serie