Grafik zeigt einen Kreis in dem diverse Amplitudenausschläge symbolisch dargestellt werden
Informatik Uni Augsburg

Erklärbare künstliche Intelligenz

Künstliche Intelligenz und maschinelles Lernen sind Forschungsfelder, welche die Art und Weise in der wir urbane Räume digital erleben beeinflussen. Um die öffentliche Wahrnehmung in Bezug auf KI besser einschätzen zu können und über die Funktionsweise und Limitierungen von KI-gestützten Systemen Aufklärung zu schaffen, ließen wir Besucher des deutschen Museums in München gemeinschaftlich ein neuronales Netz trainieren und erklärten mit Verfahren der erklärbaren künstlichen Intelligenz (XAI) dessen Entscheidungen.

Interaktive und kollaborative Ansätze wurden bereits erfolgreich in Bildungsszenarien eingesetzt. Für maschinelles Lernen und KI erfordern solche Ansätze jedoch in der Regel ein gewisses Maß an technischem Know-how. Um alltägliche Nutzer von KI-Technologien zu erreichen, entwickelten wir einen neuen interaktiven Ansatz, der Endnutzern hilft, KI besser zu zu verstehen: eine partizipative Show zum maschinellen Lernen.

Während der Show konnten die Teilnehmer gemeinsam Daten für ein neuronales Netzwerk zur Erkennung von Schlüsselwörtern sammeln und dessen Genauigkeit interaktiv trainieren und testen. Darüber hinaus wurden die Entscheidungen des Netzwerks anhand von einem etablierten XAI-Framework und einem virtuellen Agenten erklärt. In Zusammenarbeit mit dem deutschen Museum München führten wir mehrere prototypische Shows durch und befragten teilnehmende und nicht teilnehmende Besucher, um Erkenntnisse über ihre Einstellung gegenüber (X)AI zu gewinnen.

Wir konnten ableiten, dass der virtuelle Agent und die Einbindung von XAI-Visualisierungen in unsere Edutainment-Show im Allgemeinen positiv bewertet wurden, obwohl die von uns verwendeten Frameworks ursprünglich für Experten entwickelt wurden. Beim Vergleich beider Gruppen fanden wir heraus, dass sich die Teilnehmer im Vergleich zu den nicht teilnehmenden Besuchern deutlich kompetenter und positiver über die verwendeten Technologien äußerten.