{"id":194121,"date":"2019-11-05T07:28:49","date_gmt":"2019-11-05T06:28:49","guid":{"rendered":"https:\/\/innovationorigins.com\/?p=194121"},"modified":"2019-11-05T07:28:49","modified_gmt":"2019-11-05T06:28:49","slug":"zelfs-de-kleinste-kleurvlekken-kunnen-autonome-autos-in-de-war-brengen","status":"publish","type":"post","link":"https:\/\/ioplus.nl\/archive\/nl\/zelfs-de-kleinste-kleurvlekken-kunnen-autonome-autos-in-de-war-brengen\/","title":{"rendered":"Zelfs de kleinste kleurvlekken kunnen autonome auto’s in de war brengen"},"content":{"rendered":"

Een aanval van een hacker op autonome voertuigen kan rampzalig zijn. Maar het is zeker niet het enige risico waar de bouwers rekening mee moeten houden. Een onderzoeksteam van het Max Planck Instituut voor Intelligente Systemen (MPI-IS<\/a>) en de Universiteit van T\u00fcbingen<\/a> heeft nu aangetoond dat een eenvoudige kleurvlek – bewust of onbewust aangebracht – het gedrag van een zelfrijdende auto volledig kan verstoren. Zo’n vlek kan bijna ongemerkt ‘in beeld’ komen via een T-shirt, een sticker op de achterruit van een auto, of zelfs in een logo op een boodschappentas.<\/p>\n

\"\"
\u00a9MPI-IS<\/figcaption><\/figure>\n

“Het kostte ons drie, misschien vier uur om het patroon te construeren – het ging vrij snel,” merkt Anurag Ranjan, promovendus in de Perceiving Systems Department of the MPI-IS in T\u00fcbingen, Duitsland, <\/em>op. <\/em>Ranjan is de hoofdauteur van de paper getiteld “Attacking Optical Flow<\/a>,” een gezamenlijk onderzoeksproject met de Perceiving Systems Department<\/a> en de Autonoom Visiegroep<\/a> bij MPI-IS.<\/p>\n

De onderzoekers hebben uit voorzorg een aantal autofabrikanten ge\u00efnformeerd die momenteel werken aan de ontwikkeling van autonome modellen. Op die manier kunnen zij snel reageren op mogelijke risico’s.<\/p>\n

Optische flow is verstoord<\/h3>\n

In hun onderzoek hebben de onderzoekers de slimheid van een aantal verschillende algoritmes voor het bepalen van de ‘optische flow’ getest. Dit soort systemen wordt gebruikt in autonome voertuigen, robotica, geneeskunde, videospelletjes en navigatie. De optische flow verwijst naar de beweging in een sc\u00e8ne die door camera’s aan boord van een voertuig wordt vastgelegd.<\/p>\n

Recente ontwikkelingen op het gebied van machinaal leren hebben geleid tot snellere en betere methoden voor het berekenen van bewegingen. Het onderzoek van de T\u00fcbinger wetenschappers toont echter aan dat dergelijke methoden foutgevoelig zijn. Een eenvoudig, kleurrijk patroon dat aan een sc\u00e8ne wordt toegevoegd als een obstructief signaal kan bijvoorbeeld dingen verstoren – zelfs als het gekleurde patroon niet beweegt. Dit kan ertoe leiden dat de diepe neurale netwerken (die tegenwoordig vaak gebruikt worden voor stromingsberekeningen) verkeerde berekeningen maken. Als gevolg daarvan kan het netwerk plotseling (verkeerd) uitrekenen dat een groot deel van de elementen in een sc\u00e8ne de verkeerde kant op beweegt.<\/p>\n

Wetenschappers hebben al aangetoond dat zelfs kleine kleurpatronen de neurale netwerken kunnen verstoren. Dit was de reden waarom objecten zoals stoptekens in het verleden verkeerd werden geclassificeerd. De T\u00fcbinger onderzoekers ontdekten dat algoritmen die gebruikt worden om de bewegingen van objecten te bepalen, ook gevoelig zijn voor dit soort aanvallen. Duidelijk is dat systemen voor autonome voertuigen hier absoluut niet mee te maken mogen krijgen.<\/p>\n

Kleine vlek met een enorm effect<\/h3>\n

De onderzoekers werken sinds maart vorig jaar aan het project Attacking Optical Flow<\/a>. In de loop van hun onderzoek waren ze verbaasd dat zelfs een klein stukje kleur al voor veel chaos kan zorgen. Een grootte van minder dan 1% van het totale beeld is op zich groot genoeg om het systeem te verstoren. Maar hoe groter het kleurvlak, hoe verwoestender de impact. “Dit is verontrustend, omdat in veel gevallen het flow control systeem de beweging van objecten over de hele scene heeft weggevaagd”, zegt Ranjan.<\/p>\n