Leuvense wetenschappers leggen de zwakke punten van intelligente detectiesystemen bloot.
Slimme detectiesystemen bestaan uit een camera die beelden registreert en software die de beelden automatisch interpreteert. Als je hen beelden van verschillende mannen en vrouwen laat zien, slagen ze er na een tijdje in om personen te identificeren als mensen, ook al verschillen ze allemaal van grootte, haarkleur en gezicht. Ze kunnen ook mensen onderscheiden van voorwerpen, zoals stoelen.
De systemen zijn uitermate geschikt voor beveiliging. Waar bewakers vroeger urenlang naar schermen moesten staren om verdachten te identificeren, geven slimme detectiesystemen automatisch een signaal van zodra een indringer in het zicht van de camera’s komt, zelfs wanneer die zich probeert te verstoppen.
Helaas zijn de systemen niet helemaal onfeilbaar. Ze maken gebruik van patroonherkenning en hebben het soms moeilijk om patronen te herkennen. Om die problemen uit de systemen te halen, proberen onderzoekers van over de hele wereld om de detectiesystemen om de tuin te leiden. Ze maakten bijvoorbeeld duidelijk dat een kartonnen nepbril al voldoende kan zijn om een gezichtsherkenningssysteem helemaal in de war brengen.
In Leuven slaagden onderzoekers van EAVISE (Embedded and Artificially Intelligent Vision Engineering) erin om YOLO te misleiden, één van de meest populaire algoritmes om voorwerpen en personen te identificeren. Masterstudent Simen Thys en postdoc Wiebe Van Ranst hielden een kartonnen bordje van 40 vierkante centimeter voor hun lichaam waarop een door artificiële intelligentie ontworpen kleurrijke print te zien is. Het printje maakte hen helemaal onzichtbaar voor het systeem: ze werden niet herkend als mens, maar ook niet als voorwerp. Bij eerdere tests waarbij personen een T-shirt droegen met de afbeelding van een vogel, herkende het algoritme niet de mens, maar wel de vogel.
Toon Goedemé, hoofd van de onderzoeksgroep, bevestigt dat het onmogelijk te achterhalen valt waarom precies het patroon YOLO om de tuin heeft geleid, omdat algoritmes gebruikmaken van miljoenen parameters. ‘We hebben een kwetsbaarheid vastgelegd en moeten nu het lek dichten. In dit geval kan dat eenvoudigweg door het algoritme aan te leren dat mensen die een bordje met dit patroon erop vasthouden ook mensen zijn. Maar wellicht zijn er nog andere patronen die het systeem kunnen misleiden.’ Hij is ervan overtuigd dat beveiligingslekken nooit allemaal zullen worden gedicht, al weerhoudt dat er hem niet van om ze te blijven opsporen.
