Herausforderungen beim Einsatz von KI in sicherheitskritischen Produkten

Infografik mit Veranstaltungsdetails

Künstliche Intelligenz (KI) und insbesondere maschinelles Lernen (ML) haben im vergangenen Jahrzehnt einen bemerkenswerten Aufschwung durch die Verfügbarkeit von hinreichend großen Datenmengen und geeigneten Rechenkapazitäten erfahren. Dabei finden KI und ML in immer mehr Domänen ihren Weg in Produkte, die auch für sicherheitskritische Systeme entwickelt werden, um Innovationen wie bspw. das hoch-automatisierte Fahren zu ermöglichen. Diesem Einsatz stehen eine Reihe von Herausforderungen gegenüber, die sich aus der besonderen Funktionsweise von KI und ML ergeben, insbesondere aus der Abhängigkeit des Verhaltens einer KI-Komponente von den verwendeten Daten. Am Fraunhofer-Institut für offene Kommunikationssysteme beschäftigt sich Martin Schneider in verschiedenen Forschungsprojekten mit dem Einsatz von KI, dessen Absicherung und mit Fragestellungen, die sich für eine Zertifizierung von KI ergeben. Im Vortrag geht er auf die Herausforderungen bei der Zulassung von KI, wie bspw. Overarching Properties, ein. Zudem wirft er einen Blick auf Security von KI, die sich durch die Abhängigkeit von Daten mit neuen Angriffsarten und Sicherheitsrisiken konfrontiert sieht. Die Detektion derartiger Schwachstellen sowie ihre Mitigation sind aktuelle Forschungsfragen.

Martin Schneider, Fraunhofer FOKUS, ist wissenschaftlicher Mitarbeiter und Gruppenleiter im Bereich Testen. Er beschäftigt sich seit vielen Jahren mit den Themen Security und Security Testing und vermehrt auch im Kontext von KI. Er unterstützt in Projekten die Industrie und öffentliche Einrichtungen, u.a. das Bundesamt für Sicherheit in der Informationstechnik, und ist aktiv in verschiedenen Standardisierungsgremien wie dem DIN und der ETSI.

Weitere Informationen zur kostenlosen Veranstaltung erhalten Sie hier.