Co to jest deepfake? Komputerowo generowana pornografia to coraz większy problem

Czym są tzw. deepfakes? Technologia ma swoje dobre oblicza, ale, niestety, może być też bronią dla osób, które szantażują innych przy pomocy komputerowo generowanej pornografii.

Deepfakes to połączenie dwóch konceptów – deep learningu, czyli gałęzi machine learningu, oraz podróbek (ang. fakes). Deep learning to proces nauki algorytmu, czyli “maszyny”, rozpoznawania naturalnych dla ludzkiego mózgu zachowań, np.: rozpoznawanie twarzy. Podróbki, czyli człon “fake” odpowiada tutaj za niezgodne z rzeczywistością twory.

Deepfake to technika, która stosowana jest do łączenia i nakładania na siebie zdjęć i filmów na inne przy użyciu algorytmów. W ten sposób można uzyskać realistyczne, sfałszowane filmy, stwarzając okazję do manipulacji poprzez np. niemożliwą do odróżnienia przez widza zamianę twarzy aktorów występujących w filmie. Może to prowadzić do skompromitowania osoby poprzez fałszywe „obsadzenie jej” np. w roli w filmie pornograficznym. Technologia jest też wykorzystywana w postprodukcji filmowej.

Gdy mamy do czynienia z produkcją pornograficzną, wiemy, że grają w niej prawdziwe osoby. Jeśli zastosujemy tutaj sztuczna inteligencję, doprowadzimy do sfałszowania treści. Za pomocą SI aktorom i aktorkom porno zmieniane są między innymi twarze. W takim momencie powstaje tak zwany deepnude lub deep fake porn.

Deepfakes to coraz większy problem

Najczęściej “nową” twarzą, która pojawia się na miejscu oblicza kogoś z obsady filmu, jest znana osoba publiczna. Rezultatem może być nieprawdziwy “wyciek” prywatnych filmów lub zdjęć danej celebrytki czy celebryty. W praktyce istnieje szansa, że do takiej sytuacji mogło w ogóle nie dojść. Zdjęcia, owszem, istnieją, ale to nie ta osoba w rzeczywistości została na nich uwieczniona.

Deepfakes, czyli pornografia wygenerowana przez sztuczną inteligencję, zostały prawnie zabronione w stanie Virginia w Stanach Zjednoczonych. To pierwszy taki zapis prawny traktujący o sztucznie stworzonej pornografii.

Deepfakes jest potencjalnie bardzo niebezpieczną bronią, jeśli znajdzie się w nieodpowiednich rękach. Z pomocą technologii deep learning jesteśmy w stanie, dosłownie, zakłamać rzeczywistość. Najczęściej tego typu sytuacje mają miejsce w kontrolowanych i bezpiecznych warunkach, czyli w postprodukcji filmowej. W ten sposób dodawane są różne efekty specjalne oraz animacje. Coraz częściej deepfakes to także na przykład szantaże, fałszowanie wypowiedzi polityków czy nawet wpływ na wyniki wyborów.

Ale spokojnie, nie jest aż tak źle. Jeszcze jesteśmy w stanie rozróżnić prawdziwe nagranie od tego sfałszowanego za pomocą deep learningu. Twarze w deepfakes nie mrugają, nie mają naturalnej mimiki, a nawet nie poruszają ustami wraz z wypowiadanymi słowami. Wystarczy, że będziemy uważnie oglądać materiały dostępne w internecie, a będziemy w stanie się obronić przed podobnymi manipulacjami.

Technologię deepfake w swojej ostatniej kreacji reklamowej wykorzystała też np. polska firma Tymbark. W ramach promocji marki powstał teledysk do utworu „Wszystko mi mówi, że mnie ktoś pokochał”. Utwór wykonują Sanah, Vito Bambino, Artur Rojek i Kwiat Jabłoni. Zainteresowani mogą niejako „wystąpić” w teledysku do utworu, udostępniając zdjęcie swojej twarzy, które następnie jest animowane na jednej z występujących na ekranie postaci, tworząc deepfake.

Sanah, Rojek, Vito Bambino i Kwiat Jabłoni śpiewają stary hit dla Tymbarku. Dzięki deepfake można dołączyć teledysku!