AI Trust: Blick in die Black Box

Das Image von Künstlicher Intelligenz (KI) könnte besser sein. Zwar werden die Chancen ständig gepriesen. Doch gleichzeitig schwingt dabei auch etwas Bedrohliches mit. KI wird häufig als mysteriös, als unheimliche Macht gesehen. Berichte von diskriminierenden Algorithmen fördern dieses Bild. So sorgten Fälle in der Vergangenheit für Aufsehen, in denen KI-Systeme Menschen bestimmter Herkunft benachteiligten – zum Beispiel wenn sie von Banken bei der Kreditvergabe oder von Unternehmen im Recruiting eingesetzt wurden.

Die Ursache dafür konnten erst eingehende Studien offenlegen. In vielen dieser Fälle waren es die Trainingsdaten, die quasi selbst schon Diskriminierungen in sich trugen. Diese wurden von der KI dann nur weiter verfestigt.

Es gibt eine grundsätzliche Herausforderung: Häufig lässt sich bei KI nicht nachvollziehen, wie diese zu ihrem Ergebnis kommt. Denn solche Systeme werden nicht klassisch programmiert, sondern trainiert. Und je komplexer die KI, desto intransparenter sind ihre Entscheidungswege. Neuronale Netzwerke, die beim Deep Learning verwendet werden, sind quasi eine Black Box. Das macht das Vertrauen in entsprechende Lösungen schwierig.

Explainable AI – also erklärbare KI – ist daher ein Feld, mit dem sich derzeit viele Unternehmen, Forschungsinstitute und Initiativen beschäftigen. Es gibt verschiedene Ansätze, um die Black Box transparenter zu machen oder zumindest Wege zu finden, das Vertrauen in die KI zu stärken. So hat zum Beispiel IBM ein Set aus verschiedenen Werkzeugen zusammengestellt, die KI-Entscheidungen nachvollziehbar machen sollen. Die Lösung mit dem Namen AI Explainability 360 nutzt unterschiedliche Ansätze, weil auch wir Menschen im Alltag Entscheidungen auf verschiedene Arten erklären. Wir nutzen etwa Beispiele und Gegenbeispiele, arbeiten mit Regeln oder heben bestimmte Charakteristika hervor. Einem Arzt beispielsweise, der KI für seine Diagnosen nutzt, hilft es, wenn ihm bestimmte Fälle gezeigt werden, die dem aktuellen ähnlich sind oder sich von diesem komplett unterscheiden. Ein Bankkunde, dessen Kreditantrag abgelehnt wurde, wird wissen wollen, nach welchen Regeln dies geschehen ist und was er ändern muss.

Anwendende müssen der Künstlichen Intelligenz vertrauen, um sie einzusetzen

Das IBM-Set enthält unter anderem Algorithmen für fallbezogenes Denken sowie sogenannte Post-hoc-Erklärungen, die im Nachhinein bestimmte Entscheidungen nachvollziehbar machen. Einer der verwendeten Algorithmen erklärt zum Beispiel nicht nur, warum ein bestimmtes Ergebnis zustande kam, sondern auch, warum ein anderes ausgeschlossen wurde.

Beispiel für den Einsatz der Technik ist das amerikanische Gesundheitsnetzwerk Highmark Health. Dieses nutzt KI, um Patientendaten zu analysieren. Ziel ist es, das Sepsis-Risiko bei Patienten frühzeitig zu erkennen und entsprechende Gegenmaßnahmen einzuleiten. Data Scientists erstellten dafür ein Modell, das auch Versicherungsdaten einbezieht. Die Explainable-AI-Technik macht die Ergebnisse transparent und sorgt auch dafür, dass Bias – also Verzerrungen durch die KI – aufgedeckt werden.

Vertrauen in die KI ist aber grundsätzlich in allen Anwendungsbereichen relevant. Nicht nur die Mitarbeiter im Gesundheits- oder Finanzwesen müssen sich auf die Systeme verlassen können, sondern auch Nutzende entsprechender Technologien im industriellen Umfeld. Hier setzt das Start-up IconPro an. Es nutzt KI-Methoden, um Bilddaten in der Qualitätskontrolle auszuwerten und um Prozesse in der Fertigung abzusichern. Als Ergebnis erhalten die Nutzer dann etwa eine Prognose der zu erwartenden Qualität oder einen Optimierungsvorschlag.

Geschäftsführer Dr. Markus Ohlenforst weiß, dass das Vertrauen der Anwender in die KI wichtig ist. InconPro liste daher nach jedem Training des KI-Modells die wichtigsten Einflussfaktoren auf und zeige, wie diese auf den Output wirken. „Wenn ein Unternehmen Interesse hat, bieten wir diese erste Analyse umsonst an“, erklärt Ohlenforst. „Die Ergebnisse, die wir dann zeigen, beinhalten auch die wichtigsten Einflussgrößen.“ Das können bestimmte Einstellungen an einer Fertigungsmaschine sein, die dafür sorgen, dass diese Ausschuss produziert. „Wenn diese Informationen aus Sicht unserer Kunden Sinn ergeben, dann ist das erste Vertrauen in die Technik geschaffen.“

KI muss sicher und zuverlässig sein – sonst wird es mitunter lebensgefährlich

Während die Produktion von Ausschuss in der Fabrik zwar teuer und ärgerlich ist, hängen vom Einsatz der KI in Fahrzeugen sogar Menschenleben ab. Besonders beim autonomen Fahren ist Künstliche Intelligenz unverzichtbar. Die am Verkehrsgeschehen beteiligten Menschen müssen sich darauf verlassen können, dass die KI ihre Umgebung richtig wahrnimmt und die passenden Entscheidungen trifft. Damit beschäftigt sich unter anderem das Fraunhofer IKS. Dabei geht es jedoch weniger darum, Licht in die Black Box zu bringen. Stattdessen wird das Gesamtsystem sicher und zuverlässig gemacht, indem entsprechende Überwachungskanäle eingebaut werden. Die KI berechnet anhand der Informationen von verschiedenen Sensoren am Fahrzeug mehrere Alternativen für den Weg. Mit klassischen Algorithmen wird dann überprüft, ob diese sicher sind.

Zur Verwendung von KI im Ingenieurwesen wird vielerorts geforscht. So haben das Fraunhofer IOSB, das KIT sowie das FZI Forschungszentrum Informatik das Kompetenzzentrum für KI-Engineering (CC-KING) gegründet. „KI-Engineering hat zum Ziel, Künstliche Intelligenz und Machine Learning nutzbar zu machen, vergleichbar mit klassischem Engineering“, sagt Professor Jürgen Beyerer, wissenschaftlicher Leiter des Kompetenzzentrums. Im Mittelpunkt steht dabei unter anderem, das Verhalten der Systeme vorhersehbar und die Entscheidungen erklärbar zu machen. Ziel ist es, ein Standardvorgehen für KI-Engineering zu entwickeln.