Technologia (nie) rozpoznawania twarzy

Technologia wykrywania i rozpoznawania twarzy jest jedną z najbardziej rozwijanych obecnie gałęzi AI. Okazuje się jednak, że istnieje sposób aby ją oszukać.

Ostatnie miesiące dobitnie i na szeroką skalę pokazały jak globalnym problemem stała się kwestia ochrony danych online. Dzięki aferom takim jak błąd w procesorach Intel czy sprawa Facebooka i Cambridge Analytica, a w mniejszym stopniu także strach jaki spadł na branże online po wprowadzeniu RODO, miliony użytkowników na całym świecie miało okazję przekonać się jak wiele podmiotów ma dostęp do ich danych oraz jakie może to nieść konsekwencje. Kwestia prywatności i ochrony personaliów stała się jednym z najważniejszych tematów zarówno w branży technologicznej, jak i naukowej.

Grupa badaczy z Uniwersytetu Toronto właśnie ogłosiła znaczący sukces na tym polu. Zespół kierowany przez profesora Parhama Aarabi (ECE) i absolwenta uniwestytetu – Avisheka Bose (kandydat ECS MASc) opracował „filtr prywatności”, którego celem jest zakłócanie algorytmów rozpoznawania twarzy. System opiera się na dwóch algorytmach sztucznej inteligencji: jednym wykonującym ciągłe wykrywanie twarzy, a drugim zaprojektowanym do zakłócania pierwszego. Obie technologie zwalczają się i uczą się od siebie nawzajem.

mylący algorytm

Jak to działa w praktyce? Na zdjęcie nakładany jest „filtr”, w podobnym znaczeniu w jakim występuje to na Instagramie. Za jego pomocą algorytm zmienia specyficzne piksele w obrazie, sprawiając, że staje się on nierozpoznawalny dla algorytmu technologii wykrywania twarzy. Zmiany te są niemal niezauważalne dla ludzkiego oka i nie wpływają w znaczący sposób na jakość obrazu. Są jednak wystarczające aby oszukać sztuczną inteligencję.

Badacze przeprowadzili test na próbie obejmującej fotografie ponad 100 twarzy z różnych grup technicznych. Zdjęcia były wykonane w różnych warunkach oświetleniowych i w różnym otoczeniu. Wyniki okazały się imponujące – skuteczność algorytmu rozpoznawania twarzy zmniejszyła się z niemal 100% do zaledwie 0,5%. Twórcy rozwiązania już teraz pracują nad sposobem jego dystrybucji wśród użytkowników. Bardzo możliwe, że zostanie w tym celu stworzona specjalna aplikacja na telefon.

Nie da się zaprzeczyć, że doniesienia o „anty-algorytmie” sporo mówią o tym w jakim kierunku podąża świat tech. Badania nad sztuczną inteligencją, im bardziej zaawansowane, tym częściej obok zachwytu i zaciekawienia budzą w nas strach i niepokój. Choć bunt maszyn wciąż wydaje się raczej dość odległą perspektywą, inne negatywne czynniki postępu jak bezrobocie cyfrowe czy też ograniczenie naszego prawa do prywatności już stają się faktem. Wszystko to sprawia, że coraz częściej odczuwamy potrzebę korzystania z technologii, która w zamierzeniu ma ochronić nas przed działaniem lub skutkami innej technologii.