Verständliche Künstliche Intelligenz in Assistenzsystemen an Mensch-System-Schnittstellen

Abstract

Jedes digitale System, das Menschen interaktiv unterstützt, sei es bei der Datenanalyse, bei der Erstellung von Diagnosen, bei der Steuerung von Prozessen, bei der Suche nach bisher nicht bekannten Lösungen, wobei auch immer, braucht Künstliche Intelligenz (KI). In der Praxis sind Daten im Allgemeinen unvollständig und dynamisch. Wenn die KI Interpretationen anbietet oder Vorschläge macht, dann sind alle diese Äußerungen der KI hypothetisch. Anders kann es nicht sein. Die KI lernt und wird immer besser – ein immer hilfreicherer Assistent. Menschen brauchen Transparenz der KI. Im Prozess der Interaktion müssen sie nachfragen, was die KI gemacht hat und warum. Oft genügt nicht eine einfache Antwort auf eine einfache Frage, denn sowohl das Lösen von Problemen als auch das Lernen der KI ist ein Prozess über der Zeit. Verständlichkeit der KI erfordert Erklärungsdialoge. Benötigt wird, was man im Englischen als Explainable Artificial Intelligence (XAI) bezeichnet. Erklärbare KI – kurz XAI – kann die Fragen beantworten, woher sie ihre Insbesondere der zweitgenannte Autor dankt den Freunden Prof. Dr. Jürgen Cleve, Hochschule Wismar, und Prof. Dr. Dr. Dietmar Janetzko, Cologne Business School, für intensive Diskussionen und unzählige Anregungen, die jetzt gar nicht mehr im Einzelnen herauszukristallisieren sind. Dass die Debatten oft nicht im Konsens endeten, tut dem keinen Abbruch. O. Arnold Professur Theoretische Informatik, Künstliche Intelligenz, FH Erfurt, Erfurt, Deutschland E-Mail: oksana.arnold@fh-erfurt.de K. P. Jantke (B) ADICOM Software KG, Weimar, Deutschland E-Mail: klaus.p.jantke@adicom.software

Themen

Über die Autor:innen

Zitieren

@incollection{arnold2023verständliche,
  author    = {Arnold, Oksana and Jantke, Klaus P.},
  title     = {{Verständliche Künstliche Intelligenz in Assistenzsystemen an Mensch-System-Schnittstellen}},
  booktitle = {{Entrepreneurship der Zukunft: Voraussetzung, Implementierung und Anwendung von Künstlicher Intelligenz im Rahmen datenbasierter Geschäftsmodelle}},
  editor    = {Gerth, Sebastian and Heim, Lars},
  publisher = {Springer Gabler},
  address   = {Wiesbaden},
  year      = {2023},
  pages     = {317--343},
  doi       = {10.1007/978-3-658-42060-4_13},
  note      = {Entrepreneurship der Zukunft. Voraussetzung, Implementierung und Anwendung von Künstlicher Intelligenz im Rahmen datenbasierter Geschäftsmodelle}
}