Co przyniósł rok 2014?
W 2014 roku Ian Goodfellow, pracownik Apple, opracował technologię GAN (ang. Generative Adversarial Network, pol. Generatywne Sieci Współzawodniczące). Podzieliła ona algorytm sztucznej inteligencji na dwa segmenty. Jeden odpowiedzialny za generowanie wizerunku i drugi mający za zadanie weryfikację wiarygodności efektów pierwszego. Zatem proces kończy się w momencie, gdy drugi segment uzna, że wygenerowany wizerunek jest prawdziwy.
Deepfake byłby możliwy bez AI, ale raczej nikomu nie chciałoby się tworzyć go ręcznie. O ile jedno zdjęcie byłoby mniej problematyczne, tak już setki klatek z filmów pochłaniałyby za dużo czasu. Jednakże krytycznym wymogiem nadal byłyby umiejętności, które pozwalałyby na tworzenie realistycznych wizerunków odręcznie. A wykształcenie czegoś takiego wymagałoby lat praktyki lub wrodzonego talentu.
Z czasem jednak oprogramowanie przestało być używane tylko w ośrodkach badawczych. W związku z tym znacznie zyskało na popularności i dzisiaj każdy z nas może tworzyć deepfake’i nawet na smartfonie.
Deepfake? Nic prostszego!
Z pewnością każdy z nas nakładał jakiś filtr na zdjęcie profilowe, chociażby, żeby sprawdzić jakby wyglądało. Jednakże to tylko edycja charakterystyki obrazu. Natomiast prawdziwym deepfake’iem jest zmiana, bądź zamiana twarzy, która ostatnio stała się niesamowicie popularna przez aplikację FaceApp.
Zapewne wielu z Was już słyszało o tym oprogramowaniu dzięki memom lub znajomym, ponieważ jest zaskakująco skuteczna. W przeciwieństwie do swoich poprzedników, FaceApp skupia wiele różnych filtrów i możliwości w jednym miejscu oraz oferuje niekiedy zdumiewające efekty. Podmiana twarzy, zmiana płci, puszystość, starość, młodość, różne zarosty i fryzury to część „filtrów”, jakie oferuje aplikacja w darmowej wersji.
Oczywiście jak każda nowa aplikacja oferuję wersję premium, która odblokowuje sporo innych efektów oraz możliwość usunięcia znaku wodnego. Ciężkie warunki oświetleniowe lub wiele twarzy pod różnymi kątami rzadko wprowadza aplikację w zakłopotanie. Co prawda nie zawsze działa idealnie, ale chyba nie ma drugiej tak skutecznej aplikacji.
Deepfake’iem można nazwać też AR emoji, ponieważ zmienia nasz wizerunek. Wszelkie stworzenia lub przedmioty, nakładane na nasze twarze w czasie rzeczywistym lub w postprodukcji, zastępują oryginalny wygląd. Jednakże nie są żadnym zagrożeniem, a raczej miłym dodatkiem.
Zdjęcia zdjęciami, a co z filmami?
Wiarygodny deepfake w filmach jest dużo cięższy do utworzenia, ponieważ wymaga dokładnej edycji dziesiątek obrazów na sekundę. Zatem jeżeli chcielibyśmy nagrać film trwający 1 sekundę, przy nagrywaniu w 24 fpsach, to algorytm musiałby przetworzyć 24 zdjęcia. Edycja takiego nagrania w postprodukcji nie byłaby wielkim problemem, ale nadal potrzeba wydajnej jednostki. Jednakże utworzenie wideo‐deepfake’a w czasie rzeczywistym wymagałoby ogromnej mocy obliczeniowej, jeżeli chcielibyśmy, aby wyglądał realistycznie. W związku z tym, filmy będące deepfake’ami, najczęściej tworzone są na potężnych komputerach stacjonarnych.
Cyfrowy realizm
Deepfake z pewnością robi wrażenie, nie tylko ze względu na liczbę potencjalnych zagrożeń, ale dlatego też, że jest bardzo realistyczny. W związku z tym jest mylony z CGI (ang. Computer‐Generated Imagery, pol. Komputerowo Generowane Obrazy), czyli graficznymi tworami. Te wraz z przyrostem mocy obliczeniowej komputerów również wzbogaciły kinematografię i dezinformacje. Jednakże CGI po części też może być deepfakiem. Realistyczne filmy komputerowo wygenerowane, takie jak ten poniżej, również potrafią celowo wprowadzić w błąd.
Sztuka, czy przestępstwo?
Szczególnie o możliwościach deepfake’ów przekonali się atrakcyjni celebryci. Obecnie portale pornograficzne zalewane są wizerunkami znanych gwiazd, mimo tego, że większości z nich nawet nigdy nie była widziana nago. Na Reddicie i Discordzie powstają społeczności zajmujące się tworzeniem i nawet sprzedawaniem pornograficznych deepfake’ów znanych osób. Niestety ogólnodostępność narzędzi do podmian wizerunku doprowadziła do tego, że dotyczy to nie tylko celebrytów.
Twórcy tych deepfake’ów szukają w Internecie interesujących ich fotografii lub nagrań dla dorosłych. W związku z tym, że jest on przepełniony pornografią, nie jest to trudne. Zatem znalezienie osób z podobna sylwetka i odcieniem skóry, którą ma „ofiara”, to tylko kwestia czasu. Natomiast sama podmiana twarzy jest stosunkowo łatwa, ponieważ istnieje wiele banalnych w użytku narzędzi, które wykonują całą pracę za nas.
O ile samo w sobie tworzenie takich deepfake’ów jest mało szkodliwe, tak już wykorzystywanie ich do szantażu i manipulacji jest przestępstwem. Bardzo łatwo można zrujnować komuś życie i karierę upubliczniając takie treści. Znajomi lub fani nie zawsze będą w stanie odróżnić falsyfikat od oryginału, ponieważ deepfake stał się niesamowicie skuteczny po zaprezentowaniu GAN. Jeśli nie wierzysz, to polecam obejrzeć poniższy film.
Deepfake głosu?
Deepfake dotyczy nie tylko twarzy, ale również głosu. Ostatnio popularny stał się generator wypowiedzi głosowych Geralta, Króla Juliana oraz Garena. Bazuje on na próbkach głosu pochodzących z kwestii dialogowych tych bohaterów. Po wybraniu głosu, wpisujemy tekst, który chcemy, aby został wypowiedziany. Czyli jest to zamiana tekstu na mowę, z możliwością wybrania czytającego głosu. Internauci często wykorzystują potem te wypowiedzi w memach, śmiesznych filmikach. Jednakże zdarzają się przypadki, gdzie ktoś używa tego narzędzia do tworzenia anonimowych obraźliwych wypowiedzi.
O ile w przypadku nieistniejących postaci jest to niegroźne, tak już osoby fizyczne mogą na tym poważnie ucierpieć. Ofiarą takiej manipulacji głosem padł m.in. Chezjusz, czyli starszy pan w podeszłym wieku, który postanowił zacząć gamingową karierę na YouTube, co jest dość niespotykane. W ostatnim czasie jego głos zaczął towarzyszyć nie tylko na filmach z jego minecraftowych przygód. Niedawno powstało liczne grono „komików”, które stworzyło generator głosu Chezjusza.
Nie byłoby nic w tym złego, gdyby wypowiedzi utworzone za jego pomocą nie były podłożone pod film, w którym ktoś przejeżdża cywili w GTA. A dodatkowe niecenzuralne obelgi kierowane właśnie w osoby trafiające pod koła pojazdu potęgują tylko niesmak. Niepokojące jest też to, z jaką dokładnością kwestie naśladują prawdziwy głos Chezjusza, mimo to, że nigdy ich nie wypowiedział.
Obraźliwe i niecenzuralne wypowiedzi mogą bardzo negatywnie wpłynąć na wizerunek Chezjusza, jeśli ktoś nie zorientuje się, że zostały sztucznie wykreowane. Całkowicie mogą zrujnować wizerunek spokojnego i kulturalnego starszego Pana, którym jest. Ponadto napływ omylnych zgłoszeń jego kanału może doprowadzić do zamknięcia jego kanału.
Deepfake zagraża każdemu
W czasach, gdzie nasze wizerunki znajdują się w jakiejś bazie danych, każdy z nas może znaleźć się na deepfake’u. Ponadto duża część z nas publikuje swoje zdjęcia na ogólnodostępnych portalach społecznościowych. Zatem znalezienie naszej twarzy i wykorzystanie jej w ośmieszającym nas porno to żaden problem.
Manipulowanie wypowiedziami polityków i celebrytów, szantaże publikacją pornografii z naszym wizerunkiem, to jedne z wielu potencjalnych zagrożeń. Jednakże najbardziej absurdalnym z nich jest to, że deepfake z naszym wizerunkiem zagraża biometrycznym zabezpieczeniom. Absurdalne jest dlatego, że deepfake powstał po to, aby je ulepszyć.
Wiele osób korzysta chociażby w swoich smartfonach i laptopach z rozpoznawania twarzy. Jednakże nie każde urządzenie wspiera tę metodę weryfikacji tożsamości przy użyciu dodatkowych sensorów, pozwalających skanować twarz w 3 wymiarach. Najczęściej dzieje się to w 2D, czyli na podstawie zdjęcia naszej twarzy. A to w teorii oznacza, że do odblokowania naszego urządzenia wystarczyłby nasz wydrukowany wizerunek. Jednakże obecne metody rozpoznawania twarzy wykrywają też naturalny jej ruch. Jednakże animowany i dopracowany deepfake mógłby wystarczyć do uzyskania dostępu do naszego telefonu, jeżeli wpadłby w niepowołane ręce.
Również niepokojące może być wykorzystywanie deepfake’ów do manipulowania i dezinformacji. Zastosowanie tego do tworzenia szkodliwych i nieprawdziwych wypowiedzi, jako rządowa propaganda może jeszcze bardziej podzielić wiele społeczeństw. Dlatego w przyszłości możemy spodziewać się więcej afer politycznych w krajach totalitarnych lub dyktaturach. I tak ‐ napisałem więcej, ponieważ już takie miały miejsce.
Jedną z głośniejszych była sytuacja na Indyjskich wyborach z 2020r. Zmanipulowana wypowiedź Manoja Tiwariego, na której przemawiał w innym dialekcie, niż oryginalnie, wzbudziła wiele kontrowersji i postawiła go w złym świetle. Niepokojąco wiarygodne odzwierciedlenie ruchu ust i barwy głosu z pewnością wprowadziło wiele osób w błąd i przez to stracił część poparcia. Ta sytuacja pokazuje, że deepfake jest bardzo potężnym i skutecznym narzędziem w odpowiednich rękach.
AI kontra AI
Zdjęcia naszych twarzy prędzej, czy później trafią do internetowych baz danych, czy to przez monitoring lub media społecznościowe. Zatem ciężko jest być całkowicie nieuchwytnym i można tylko minimalizować ogólnodostępność naszego wizerunku.
Oprogramowanie stworzone z myślą o zmianach wizerunku powinno korzystać z algorytmów chociażby wykrywających nagość. Sztuczna inteligencja zajmująca rozpoznawaniem i blokowaniem pornografii jest obecna między innymi na Facebooku. Zdecydowanie ograniczyłoby to szerzenie się deepfake’ów służących do szantażowania lub rujnowania czyjegoś wizerunku.
Dodaj komentarz