{"id":193314,"date":"2019-10-29T07:00:32","date_gmt":"2019-10-29T06:00:32","guid":{"rendered":"https:\/\/innovationorigins.com\/?p=193314"},"modified":"2019-10-29T07:00:32","modified_gmt":"2019-10-29T06:00:32","slug":"farbfleck-koennte-autonome-piloten-irritieren","status":"publish","type":"post","link":"https:\/\/ioplus.nl\/archive\/de\/farbfleck-koennte-autonome-piloten-irritieren\/","title":{"rendered":"Farbfleck k\u00f6nnte autonome Piloten irritieren"},"content":{"rendered":"

Ein Hackerangriff auf autonome Fahrzeuge k\u00f6nnte katastrophal sein. Und dabei scheint er nicht schwer: Ein Forscherteam des Max-Planck-Instituts f\u00fcr Intelligente Systeme (MPI-IS)<\/a> und der Uni T\u00fcbingen<\/a> zeigte nun auf, dass ein einfacher Farbfleck autonome Piloten komplett durcheinanderbringen k\u00f6nnte. Und dabei kann dieser Farbfleck sogar recht unauff\u00e4llig auf einem T-Shirt, als Heckscheibenaufkleber oder als Emblem auf einer Einkaufst\u00fcte aufgebracht werden.<\/p>\n

\n
\"\"
\u00a9MPI-IS<\/figcaption><\/figure>\n

\u201eWir haben drei, vielleicht vier Stunden gebraucht, um das Muster zu erstellen \u2013 das ging ganz schnell\u201c, beschreibt Anurag Ranjan, Doktorand in der Abteilung f\u00fcr Perzeptive Systeme am MPI-IS in T\u00fcbingen.<\/p><\/blockquote>\n

Ranjan ist Erstautor der Publikation \u201eAttacking Optical Flow\u201c<\/a>, einem gemeinsamen Forschungsprojekt der Abteilung f\u00fcr Perzeptive Systeme<\/a> und der Forschungsgruppe f\u00fcr Autonomes Maschinelles Sehen.<\/a><\/p>\n

Doch zum Gl\u00fcck gibt\u00b4s im Moment noch Entwarnung: Die Gefahr, dass aktuell auf dem Markt verf\u00fcgbare Serienfahrzeuge betroffen sind, ist gering. Dennoch informierten die Forscher vorsichtshalber einige Automobilhersteller, die derzeit selbstfahrende Modelle entwickeln. So k\u00f6nnen diese zeitnah auf das Risiko reagieren.<\/p>\n

Optischer Fluss wird gest\u00f6rt<\/h3>\n

In ihrer Forschungsarbeit pr\u00fcften Anurag Ranjan, seine Kollegen Joel Janai, Andreas Geiger und Michael J. Black die Robustheit einer Reihe verschiedener Algorithmen zur Bestimmung des sogenannten optischen Flusses. Derartige Systeme werden u.a. in selbstfahrenden Autos, in der Robotik, Medizin, bei Videospielen und in der Navigation verwendet. Der optische Fluss beschreibt die Bewegung in einer Szene, die von den Bordkameras erfasst wird.<\/p>\n

Neueste Entwicklungen im Bereich des maschinellen Lernens f\u00fchrten zu schnelleren und besseren Verfahren beim Berechnen von Bewegung. Die Forschung der T\u00fcbinger Wissenschaftler zeigt jedoch, dass derartige Verfahren anf\u00e4llig sind. So kann ein einfaches, buntes Muster, das als St\u00f6rsignal in die Szene platziert wird, irritieren. Und zwar auch, wenn sich das Muster nicht bewegt. Es k\u00f6nnte dazu f\u00fchren, dass tiefe neuronale Netze – diese werden heute h\u00e4ufig zur Flussberechnung eingesetzt -, falsch rechnen. Entspechend k\u00f6nnte das Netzwerk pl\u00f6tzlich kalkulieren, dass sich gro\u00dfe Teile der Szene in die falsche Richtung bewegen.<\/p>\n

Schon fr\u00fcher zeigten Wissenschaftler auf, dass selbst winzige Muster neuronale Netze verwirren k\u00f6nnen. So waren diese Ursache, dass Objekte wie Stoppschilder falsch klassifiziert wurden. Die T\u00fcbinger Forschungsarbeit stellte nun fest, dass auch Algorithmen zur Bestimmung der Bewegung von Objekten anf\u00e4llig f\u00fcr derartige Angriffe sind. Bei der Verwendung in sicherheitskritischen Anwendungen – wie in autonomen Fahrzeugen – darf dies nicht passieren. Hier m\u00fcssen diese Systeme hinsichtlich derartiger Angriffe absolut sicher funktioneren.<\/p>\n

Kleiner Fleck mit gro\u00dfer Wirkung<\/h3>\n

Die Forschenden arbeiteten seit M\u00e4rz vergangenen Jahres an dem Projekt attacking optical flow.<\/a> Im Zuge ihrer Forschungsarbeit waren sie \u00fcberrascht, dass selbst ein kleiner Fleck gro\u00dfes Chaos ausl\u00f6sen kann. Denn es reicht allein eine Gr\u00f6\u00dfe von weniger als 1 % des Gesamtbildes aus, um das System anzugreifen. Die kleinste St\u00f6rung verursachte, dass das System schwere Fehler bei seinen Berechnungen machte. Und davon war dann die H\u00e4lfte des Bildbereichs betroffen. Je gr\u00f6\u00dfer der Fleck, desto verheerender die Auswirkungen.<\/p>\n

\u201eDies ist bedenklich, da das Flow-System in vielen F\u00e4llen die Bewegung der Objekte in der gesamten Szene gel\u00f6scht hat\u201c, erkl\u00e4rt Ranjan.<\/p><\/blockquote>\n