Das KI-Gesetz der EU und Hochrisiko-KI-Systeme

Das KI-Gesetz (engl. AI Act) ist ein Vorschlag der Europäischen Kommission, einen gemeinsamen regulativen und rechtlichen Rahmen für Künstliche Intelligenz (KI) zu schaffen. Der Ansatz des AI Act ist risikobasiert und legt eine Reihe von abgestuften rechtlichen und technischen Verpflichtungen fest. Diese sind abhängig davon, ob das KI-Produkt oder die Dienstleistung als ein System mit niedrigem, mittlerem oder hohem Risiko eingestuft wird, während andere KI-Anwendungen vollständig verboten werden.

Hochrisiko-KI-Systeme zum Beispiel für autonome Fahrzeuge oder medizinische Geräte können eine erhebliche Bedrohung für die Gesundheit, Sicherheit oder die Grundrechte der Einzelnen darstellen. Sie müssen eingehend geprüft und bewertet werden, bevor sie auf den Markt gebracht werden. Diese Bewertung wird vom Anbieter selbst durchgeführt. Die Einhaltung des AI Act wird für jede Organisation, die in naher Zukunft ein KI-basiertes System bereitstellt oder einsetzt, verpflichtend sein. Da das Gesetz eine breite Palette von Anwendungsfällen abdeckt, ist es wahrscheinlich, dass ein Unternehmen in den Geltungsbereich des AI-Gesetzes fällt.

AI-Act-Workshops

Eine proaktive Beurteilung der Konformität der KI-Systeme bietet Richtlinien für Design, Entwicklung und Einsatz eines KI-Systems, mindert die Risiken von KI-Ausfällen und kann Rufschäden sowie finanzielle Schäden durch Haftungsfragen vermeiden. Unsere AI-Act-Workshops bieten systematische Unterstützung für die Compliance Ihres KI-Systems und umfassen die folgenden Themen:

• Etablierung eines kontinuierlichen Risikomanagementsystems durch Identifikation, Analyse und Schätzung bekannter und vorhersehbarer Risiken und Bereitstellung von Maßnahmen zur Risikominimierung
• Sicherstellung von hochwertigen Trainings-, Validierungs- und Testdaten zur Minimierung von Diskriminierung und Bias in Datensätzen
• Bereitstellung von Methoden für Design und Bewertung von ML-Modellen, angepasst an Ihre Anwendungsanforderungen (z. B. Genauigkeit, Robustheit, Vorhersagesicherheit, Transparenz und Erklärbarkeit)
• Integration von Überwachungs- und Protokollierungsfähigkeiten und Bereitstellung automatisierter technischer Dokumentation
• Gewährleistung der Überwachung und Verifizierung von Sicherheits- und Leistungseigenschaften während des gesamten Lebenszyklus
• Unterstützung bei der Registrierung in der zukünftigen EU-Datenbank für Hochrisiko-KI-Systeme

Schulung »Machine Learning for Safety Experts«

Unsere Schulung »Machine Learning for Safety Experts« behandelt die grundlegenden Prinzipien zur Argumentation für die Sicherheit von Fahrzeugfunktionen, die maschinelles Lernen nutzen. Insbesondere konzentriert sich der Kurs auf den Einfluss des maschinellen Lernens auf die »Sicherheit der beabsichtigten Funktionalität« wie vom Standard ISO 21448 beschrieben. Der Kurs beinhaltet die folgenden Themen und kann an Ihren Anwendungsfall und Ihre Anforderungen angepasst werden:

• Einführung in das maschinelle Lernen anhand einer Beispielanwendung und öffentlich zugänglicher Daten
• Sicherheitsherausforderungen des maschinellen Lernens (ML)
• Kurze Einführung in relevante Safety-Standards und deren Auswirkung auf das maschinelle Lernen
• Safety-Lebenszyklus für ML-Funktionen
• Ableitung von Safety-Anforderungen für ML-Funktionen mit besonderem Schwerpunkt auf die Definition von sicherheitsrelevanten Eigenschaften wie Genauigkeit, Robustheit, Vorhersagesicherheit, Transparenz und Erklärbarkeit
• Einfluss von Trainings- und Testdaten auf die Sicherheit
• Methoden zur Leistungsbewertung der ML-Funktion in Bezug auf Sicherheitsanforderungen
• Safety-Analyse für maschinelles Lernen
• Architektonische Maßnahmen zur Verbesserung der Sicherheit von ML-Funktionen
• Methoden zur Gewährleistung der Sicherheit von ML-Funktionen während der Entwicklungs- und Laufzeit
• Sicherheitsargumente für maschinelles Lernen

Sie haben Interesse an einem Workshop oder einer Schulung? Dann kontaktieren Sie uns direkt, um Ihre Anforderungen zu besprechen: bd@iks.fraunhofer.de

Das Fraunhofer IKS profitiert von einem internationalen wissenschaftlichen Netzwerk zur Safety Assurance, z. B. der Universität York und dem Safety-Critical Systems Club, der Technischen Universität München (TUM) und der Ludwig-Maximilians-Universität München (LMU).