KI & Schildererkennung – Manipulation qua Straßenschild

Here Summer Banner 728x90

Forschenden aus verschiedenen Universitäten der USA ist es gelungen, eine Künstliche Intelligenz einfach auszutrixen.

Mit leichten Veränderungen von Schildern, gelang es Forschenden aus den USA, eine Künstliche Intelligenz bei der Bildverarbeitung zu verwirren und zu manipulieren.

Verkehrszeichen Erkennung

Eine Künstliche Intelligenz (KI) ist ein Algorithmus, welcher lernfähig ist. Um die KI zu trainieren, gibt es verschiedene Ansätze. Die herkömmliche Methode ist es, eine Datenbank von Bildern bereitzustellen, sodass die KI das Objekt erkennen kann. Inzwischen gibt es noch eine andere Methode von Cortica, die dem Problem gewappneter sein könnte. Doch kommen wir zum Problem.

In einer Zusammenarbeit der Universitäten von Washington, von Michigan, von Kalifornien (Berkeley) und der Stony Brook Universität, veränderten die Forschenden Bilder von Schildern leicht. Diese wurden der KI zur Analyse vorgelegt. Im Ergebnis lieferten die KIs eine falsche Interpretation. Verschiedene Maßnahmen lieferten verschieden hohe Fehlerraten – bis zu 100 Prozent. Man konnte derart sogar gewünschte Fehlinformationen „einblenden“.

Schon einige Aufkleber oder Graffiti auf einem Schild, machten es für die Künstliche Intelligenz schwer, es richtig zu interpretieren. Das Stopp-Schild war dementsprechend ein Schild mit einer Geschwindigkeitsbeschränkung. Das gleiche gilt für die Erkennung von Personen, Landschaften und Straßensituationen.

Doch die Bilderkennung durch eine Künstliche Intelligenz ist für das Autonome Fahren von enormer Bedeutung und nicht nur für die Schildererkennung, auch zur Positionsbestimmung. Die Forschenden haben auch andere Bilder manipuliert und die KI erzeugte falsche Ergebnisse. Aus einem Bild eines Gibbons plus das Rauschen eines TVs ohne Empfang wurde für die KI ein Bild eines Pandas.

Die Forschenden empfehlen zur Lösung des Problems einen multimodalen Ansatz für die Verkehrsschildererkennung. Derart sollte man sich nicht nur auf Kameras bei der Erfassung verlassen. Künftig, so die Forschenden, sollte man die Verkehrsschilder sowieso abschaffen, genau wie das Manuelle Fahren, dann wäre auch das Problem gelöst.

Tatsächlich gibt es verschiedene Ansätze die Schilder für solche Autos anzupassen. Google plante das vor einiger Zeit mit QR-Codes zu bewerkstelligen und auf dem digitalen Testfeld A 9 gibt es spezielle Landmarken für die Fahrzeuge.

Ein ähnliches Konzept verfolgten auch Forschende von Facebook und der Bar-Ilan-Universität, die durch minimale Veränderungen akustische Signale für die KI verändern konnten.

Quelle (englisch)

wkda_billig_tanken_650x260.gif

,

No comments yet.

Schreibe einen Kommentar