DeepXplore – Fehlercheck beim Autonomen Fahren
Um die Softwaresicherheit beim Autonomen Fahren zu gewähren, haben Forschende aus den USA DeepXplore entwickelt.
Die DeepXplore Methode geht auf die Forschung der Universität von Columbia und der Lehigh Universität zurück. Sie entwickelten eine Lösung unter Verwendung von Deep Learning Algorithmen.
Die Methode bedient sich dreier neuronaler Netzwerke, die die Balance zwischen Maximierung der Netzwerke-Anzahl und Reduktion widersprüchlicher Entscheidung zwischen diesen halten. Das System dient der Fehlerfindung, denn Fehlentscheidungen von Künstlichen Intelligenzen können tödlich enden. Das Ziel muss also ein 100prozentig verlässliches System sein, dass keine Fehler mehr macht.
Dabei geht es um Hackingangriffe, Entscheidungsfindung bei Autonomen Fahrzeugen und vor allem bei deren Bildauswertung. Die Analyse erfolgte bisher mit der Einspeisung von geänderten Bildern, die zu einem Fehler führen könnten oder ein Programm verändert zufällig ausgewählte Bilder leicht, die dann von der KI ausgewertet werden sollen.
DeepXplore testet die KI anders: Es erstellt Testbilder, deren Analyse wahrscheinlich zu Fehlern führen. Dabei werden alle Netzwerkneuronen aktiviert, so die Quelle. Bei Testläufen hat man tausende von bisher unentdeckten Fehlern ausmachen können. Aber es gibt keine Garantie, dass auch dieses System Fehler nicht übersieht.
