KI Absicherung

Das Problem
Das Projekt

Projektlaufzeit: 01.07.2019 – 30.06.2022 | Website: ki-absicherung-projekt.de
Der Einsatz von Künstlicher Intelligenz ist ein Schlüssel für das hochautomatisierte Fahren. In KI Absicherung haben KI- und Sicherheitsexperten aus Industrie und Wissenschaft eine Methodik für eine Sicherheitsargumentation, die Schwachstellen von KI-Funktionen systematisch identifiziert, messbar macht und entschärft entwickelt. Das Ziel des Projekts war es, einen industriellen Konsens für eine methodische Absicherung von KI-Funktionen für den Anwendungsfall der Fußgängererkennung zu erzielen.
Die Absicherung von Funktionen, die KI-basierte Algorithmen nutzen, ist für die deutsche Automobilindustrie im internationalen Wettbewerb von entscheidender Bedeutung. Ein Konsortium aus OEMs, Zulieferern, Technologieanbietern und wissenschaftlichen Einrichtungen hat einen "Industriekonsens" über eine Methodik erarbeitet, mit der inhärente Schwachstellen in KI-Funktionen identifiziert und systematisch entschärft werden können. Die Methodik umfasst einen systematischen Ansatz zur Ableitung einer stringenten evidenzbasierten Sicherheitsargumentation.
Die Lösung
Unser Beitrag

Merantix Momentum entwickelte in KI Absicherung neue Methoden, die dazu beitragen, bekannte funktionale Unzulänglichkeiten und Sicherheitsbedenken bei tiefen neuronalen Netzen zu überwinden. Die Ergebnisse umfassen einen neuen Ansatz für aktives Lernen, einen neuartigen Ansatz für die Komprimierung von Netzwerken durch Pruning und die Bereitstellung eines Testrahmens, der dabei hilft, Beweise für eine allgemeine Sicherheitsstrategie für KI-Funktionen zu sammeln.
Unser Ergebnis
Weitere Projekte ansehen
Kontaktieren Sie uns
- Kritische und ganzheitliche Bewertung des Ansatzes
- Entwicklung von Leitfaden zur zuverlässigen Umsetzung
- Kostenfrei und unverbindlich
Jetzt Ihre KI-Reise mit uns starten
Jetzt im Merantix Momentum Newsletter anmelden.
Weitere Projekte ansehen
Kontaktieren Sie uns
- Kritische und ganzheitliche Bewertung des Ansatzes
- Entwicklung von Leitfaden zur zuverlässigen Umsetzung
- Kostenfrei und unverbindlich
