Deepfake jest kontrowersyjną techniką, która budzi coraz liczniejsze emocje i dyskusje. W idealnym świecie byłaby wspaniałym rozwiązaniem. Niestety wykorzystywana jest również do manipulacji i szerzenia dezinformacji. Na czym polega deepfake?
Co to jest deepfake?
Nazwa techniki deepfake pochodzi od dwóch angielskich słów: deep (od deep learning, czyli głębokie uczenie maszynowe) oraz fake (czyli fałsz). Jest to nowoczesna technika obróbki obrazu z pomocą sztucznej inteligencji.
Deepfake może być zdjęciem, gifem, animacją czy filmem, który został zmieniony i nie przedstawia prawdziwych sytuacji.
Całość jest zaskakująco łatwa do przygotowania. Wystarczą fragmenty i próbki filmów, dźwięków, głosów lub zdjęć, które zostają ze sobą połączone poprzez specjalnie przygotowane algorytmy. Powstały w ten sposób materiał jest całkowicie fałszywy, a przy tym trudno go odróżnić od autentycznych nagrań.
Deepfake można wykorzystywać w sposób pozytywny i negatywny. Niestety ze względu na ludzką naturę i styl życia w XXI wieku, często stosowany jest do manipulacji i szerzenia dezinformacji.
Deepfake w praktyce
Wyjątkowo pozytywnym i kreatywnym zastosowaniem techniki deepfake może szczycić się The Dali Museum na Florydzie w Stanach Zjednoczonych. Muzeum skupia się wokół niezwykłej twórczości Salvadora Daliego, a deepfake został wykorzystany do przywrócenia artysty do życia (oczywiście w sensie metaforycznym). Technologia sprawia, że wszystkie osoby odwiedzające muzeum mogą porozmawiać ze słynnym malarzem, a także zrobić sobie z nim selfie.
Deepfake jest również popularnym źródłem rozrywki na platformach takich jak YouTube, TikTok czy Instagram. Można tam znaleźć wiele humorystycznych i intrygujących materiałów, na których przerobione zostały sceny z filmów, a także aktorzy i celebryci.
Technika może być wykorzystana również w celach edukacyjnych, a także w generatorach głosu (na przykład dla osób niemych). Niestety deepfake często używany jest w sposób negatywny. W Internecie jest wiele przerobionych filmów z politykami, a to z kolei może mieć konsekwencje globalne związane z wynikami wyborów, gospodarką, giełdą, a nawet bezpieczeństwem narodowym.
Kolejnym problematycznym zastosowaniem deepfake’ów jest branża pornograficzna. W tym przypadku twarze aktorów zamienione są na twarze celebrytów. Ta metoda wykorzystywana jest również przez złodziei i oszustów, którzy w ten sposób szantażują zwyczajne osoby. Tworzą fałszywy materiał wideo z daną osobą, a później żądają zapłaty za nierozpowszechnianie filmu.
Z podrobionymi filmami walczą duże firmy, takie jak Twitter, Facebook, Microsoft czy Amazon. Trwają również prace nad oprogramowaniem pozwalającym każdemu użytkownikowi zidentyfikować zmanipulowane materiały.
Jak odróżnić deepfake od prawdziwego nagrania?
To zadanie niestety nie jest łatwe. Podróbki są coraz lepszej jakości, a fałszywe postacie poruszają się i mówią w sposób niezwykle realistyczny. Chcąc rozpoznać deepfake, warto zwrócić uwagę na takie detale jak:
– rozbieżności audio i wideo (na przykład dźwięk niezgodny z ruchem ust czy niepasujące dźwięki otoczenia)
– błędne ujęcia i przeskakujące klatki filmu
– charakterystyczne, chociaż często trudne do zauważenia rozmycia obrazu
– nienaturalne ułożenie kończyn lub światło odbijające się w niewłaściwy sposób
Fałszywych nagrań jest coraz więcej w Internecie i zawsze warto zachować szczególną ostrożność. Jeśli ktoś zachowuje się w inny sposób niż zazwyczaj (nietypowe ruchy, inny ton głosu czy zmieniona mimika), to dla bezpieczeństwa można założyć, że jest to deepfake. Niestety nie zawsze jest możliwe rozpoznanie zmanipulowanego materiału.
Deepfake a prawo
Deepfake może kolidować z każdym aspektem prawa, choć sama technika nie została jeszcze bezpośrednio zdefiniowana w przepisach prawa. Trzeba wykazać się ostrożnością (szczególnie w przypadku powstania ryzyka zniesławienia, naruszenia praw autorskich czy danych osobowych).
Ogólnodostępne aplikacje i programy sprawiają, że każdy może robić fałszywe materiały wideo. Jeśli chce się z nich korzystać na własny użytek, na przykład w celu wcielenia się w bohatera ulubionego filmu, to nie ma z tym problemu. Jeśli jednak zacznie się przerabiać materiały z politykami czy celebrytami, to mogą pojawić się zarzuty o zniesławienie. Nie powinno również używać się fałszywych nagrań w celach komercyjnych.