Interview mit Mario Trapp: »Wir können keine Garantien für das Funktionieren von KI geben«

Im Interview mit Markus Strehlitz erklärt apl. Prof. Dr. habil. Mario Trapp, Institutsleiter des Fraunhofer ESK, wie sicher Künstliche Intelligenz (KI) heute ist und wie das Institut daran arbeitet, KI auch für sicherheitskritische Bereiche abzusichern.

apl. Prof. Dr. habil. Mario Trapp
© Fraunhofer ESK

Institutsleiter Mario Trapp im Interview mit Markus Strehlitz

Herr Trapp, was ist das Problem beim Einsatz von Künstlicher Intelligenz?
Mario Trapp: KI funktioniert meistens gut. Aber das »meistens« ist nicht genauer spezifiziert. Nutzen Sie einen Sprachassistenten?

Eher selten.
Trapp: Bei Sprachassistenten wie zum Beispiel Siri oder Alexa braucht man manchmal drei oder vier Anläufe, bis das System verstanden hat, was man wirklich meint. Das ist das Niveau, auf dem sich die KI zur Zeit bewegt. Man kann keine Garantie für ihr Funktionieren geben. Wenn es jedoch um sicherheitskritische Anwendungen geht, in denen etwa Menschenleben von der Technik abhängen, dann benötigt man Garantien.

Es besteht also bei KI derzeit noch ein relativ hohes Risiko, dass diese nicht das gewünschte Ergebnis liefert?

Trapp: Genau. Im vergangenen Jahr gab es in den USA einen Unfall eines Uber-Fahrzeugs mit einer Fußgängerin, die ein Rad schob. Diese wurde zwar als Objekt erkannt. Die KI klassifizierte die Fußgängerin aber als unkritisches Objekt, das man überfahren kann – wie zum Beispiel eine Plastiktüte. Und das ist letzten Endes die Problematik, die entstehen kann.

Heißt konkret?
Trapp: Fachlich gesprochen reden wir von einer so genannten Nichtlinearität bei der KI. Wenn wir Software testen und unsere Testfälle gut wählen, dann gehen wir davon aus, dass sie sich auch in der Realität, die sich immer irgendwo zwischen diesen Testfällen bewegen wird, sicher verhält. Davon können wir heute in der KI aber nicht ausgehen. Im Testfeld kann die KI ein Bild immer korrekt analysieren. Im realen Einsatz kann es jedoch passieren, dass nur ein kleines bisschen Rauschen in das Bild hineinkommt und auf einmal erhält man ein komplett anderes Ergebnis. Das macht die KI heute so schwer beherrschbar.

Institut für Kognitive Systeme

Auf Basis des bisherigen Fraunhofer ESK wird ein neues Münchner Fraunhofer-Institut aufgebaut: das Fraunhofer-Institut für Softwaretechnik Kognitiver Systeme. Alle neuen Entwicklungen finden Sie hier:

 

Institutsleiter Mario Trapp

Der persönliche Forschungsschwerpunkt von Institutsleiter apl. Prof. Dr. habil. Mario Trapp liegt in der Safety-Assurance autonomer und verteilter Systeme.