Künstliche Intelligenz (KI) – Gerne, aber sicher!

Mit unseren Ansätzen zur Absicherung von Künstlicher Intelligenz (KI) im Bereich Perzeption können Sie Ihre Black-Box- oder Grey-Box-Erkennungsverfahren, wie künstliche neuronale Netze, verlässlich verifizieren und validieren.

Nutzen Sie die Methoden und Algorithmen des Fraunhofer ESK, um Entscheidungen der Künstlichen Intelligenz zu prüfen und gegebenenfalls zu korrigieren. Damit Menschenleben und damit auch Ihre Reputation geschützt werden.
 

Möglicher Anwendungsfall: Autonomes Fahren


Ein möglicher Anwendungsfall für die Verfahren des Fraunhofer ESK ist das autonome Fahren. Ohne weitreichende Absicherungsmöglichkeiten stellt Künstliche Intelligenz (KI) im Auto eine Gefahr dar, da nie genau vorhergesagt werden kann, wie sie sich verhalten wird. Deswegen sorgt das Fraunhofer ESK mit seinen Angeboten zur Absicherung von Künstlicher Intelligenz dafür, dass das autonome Fahren jederzeit sicher und verlässlich ist!
 

Die größten Herausforderungen in der Anwendung von Künstlicher Intelligenz (KI) beim autonomen Fahren:

 

  • KI = Black-Box

d. h. der Entscheidungsfindungsprozess kann von Menschen nicht nachvollzogen werden und sich selbst erklärende KI-Ansätze, welche Entscheidungen der Künstlichen Intelligenz (KI) nachvollziehbar machen, sind in ausreichender Güte nicht absehbar. Eine Künstliche Intelligenz kann deshalb nicht mit den bekannten klassischen Methoden abgesichert werden.

  • KI ≠ Deterministisch

d. h. minimale Änderungen an den Eingangsdaten können das Ergebnis stark verändern. Ein formaler Nachweis, dass mit KI-Verfahren in jeder möglichen Situation eine sichere Entscheidung getroffen werden kann, ist somit nicht möglich.

  • KI basiert auf Sensordaten

sind Sensordaten auch nur leicht verändert, z. B. durch Verschmutzung, ungünstige Wetterbedingungen beim autonomen Fahren oder bisher unbekannte Situationen, kann dies einen großen Einfluss auf die Wahrnehmung und damit die Entscheidung der Künstlichen Intelligenz haben.

Profitieren Sie von unserer Kompetenz im Bereich Absicherung von Perzeption.

Möglichkeiten der Zusammenarbeit:

  • Direktauftrag – Wir sichern Ihre KI-Lösungen für Sie ab.
  • Wissenstransfer durch Kollaboration – Wir zeigen Ihnen in unseren Industry Labs, wie Sie Ihre KI absichern.