Jochen L. Leidner

Künstliche Intelligenz (KI) wird in der Praxis zur Entscheidungsfindung eingesetzt (Lossos et al., 2021). Dies erfordert jedoch Vertrauen in die verschiedenen KI-Methoden. Solches Vertrauen bildet sich, wenn Entscheidungsträger und Nutzer mentale Repräsentationen des Systems bilden können und sie die Ausgabe des Systems verstehen. KI muss also erklärbar sein, eine reine Black Box ist selbst bei hoher Qualität eines Systems unzureichend. Die „erklärbare KI“ (engl. „eXplainable Artificial Intelligence“, XAI) befasst sich mit der Entwicklung von KIModellen, die durch Menschen nachvollziehbar sind (Adadi und Berrada, 2018; Europäische Kommission, 2020). In diesem Kapitel werden wünschenswerte Eigenschaften industrieller KI-Systeme untersucht – speziell hinsichtlich der Erklärbarkeit – und am Beispiel von Unternehmensratings vorgestellt. Neben XAI als Aspekt der technischen Akzeptanz beleuchten wir die Interaktion zwischen Geschäftsmodell und der kundenseitigen Akzeptanz. H. Bartel (B) RealRate Inc., Berlin, Deutschland E-Mail: holger.bartel@realrate.ai M. Kraft · J. L. Leidner Hochschule Coburg, Coburg, Deutschland E-Mail: mirko.kraft@hs-coburg.de J. L. Leidner E-Mail: leidner@acm.org J. L. Leidner University of Sheffield, Sheffield, Großbritannien