KI durch Muster beeinträchtigt

KI durch Muster beeinträchtigt

Forschende der Universität Tübingen und des Max-Planck-Instituts können die KI beim Autonomen Fahren mit Mustern durcheinanderbringen.

Das Autonome Fahren gelingt vor allem durch eine KI, die die Umwelt wahrnimmt und die Wegführung vornimmt. Doch diese KIs können manipuliert werden. Dies gelang schon des Öfteren. So haben Forschende der Universitäten Princeton und Purdue mit veränderten Schilder Verwirrung gestiftet.

Verkehrszeichen Erkennung

Einen sehr ähnlichen Ansatz verfolgten die Forschenden der Universität Tübingen und des Max-Planck-Instituts. Schon kleinste Veränderungen, wie ein Sticker auf einem Straßenschild, führten dazu, dass die KI falsch lag und es fortan keine verlässliche Objekterkennung mehr gab. So soll sich die Fahrtrichtung von Bussen oder Fahrrädern plötzlich geändert haben.

Die KIs erkennen, anders als Menschen, kleinste Veränderungen und dennoch reagieren sie nur auf das Gelernte. Sie wissen aber nicht um deren Bedeutung und so können kleinste Muster, eine gewaltige Wirkung auf die Wahrnehmung der KI haben.

Die Forschenden positionierten die kleinen Aufkleber irgendwo am Straßenrand und konnten den Effekt reproduzieren. Das angebrachte Muster machte sogar nur ein Prozent des sichtbaren Felds aus und dennoch führte es dazu, dass Verkehrsszenarien falsch eingeschätzt wurden. Wurde das Muster an der Heckscheibe eines anderen Autos angebracht, verursachte das eine längere Irritation der KI.

Die Erkennung von Straßenschildern gibt es schon in vielen Fahrzeugen und hilft dem Menschen bei der Vielzahl an Hinweisen den Durchblick zu behalten. Doch für das Autonome Fahren braucht es wohl eine andere Hilfestellung. Schon vor Jahren hat Google dafür den QR-Code ins Auge gefasst und entlang der A 9 gibt es ebenfalls spezielle Landmarken.

Außerdem sollten die Daten in einer Karte hinterlegt werden, sodass eine derartige Manipulation nicht vorkommen kann. Dafür hat Inrix die AV Road Rules entwickelt, wo Verkehrsregeln auf den Streckenabschnitten eingestellt sind.

Allerdings gibt es auch bei der KI-Analyse robustere Vorgehensweisen. Dazu zählt beispielsweise die Spatial-Pyramid-Architektur, die verschiedene Auflösungsraten für die Interpretation vornehmen. Aber auch diese Variation könnte in Zukunft manipuliert werden.

Das Start-up Neurocat aus Berlin hat sich dieser KI-Störung gewidmet und sieht noch ein großes Verbesserungspotenzial.

David Fluhr

Ich schreibe seit 2011 über das Thema Autonomes & Vernetztes Fahren. Ich habe Sozialwissenschaften an der HU Berlin studiert und bin seit 2012 selbstständiger Journalist. Kontakt: mail@autonomes-fahren.de

Das könnte dich auch interessieren …

Ads Blocker Image Powered by Code Help Pro

Ads Blocker Detected!!!

We have detected that you are using extensions to block ads. Please support us by disabling these ads blocker.

Powered By
100% Free SEO Tools - Tool Kits PRO