Czas zmierzyć się z deepfake’ami

Internet! Choć niewątpliwie znajdujemy tam wiele wiarygodnych informacji, coraz trudniej odróżnić prawdziwe wiadomości od plotek, fakty od fakenewsów. W przyszłości może być jeszcze gorzej. Dlaczego? Z powodu deepfake’ów, czyli bardzo przekonujących nagrań audio i wideo, które pozwalają dosłownie włożyć w czyjeś usta cudze słowa.

Jeśli staniemy się bardziej krytyczni wobec tego, co widzimy w Internecie, oraz uświadomimy sobie potencjalne szkody wynikające z udostępniania fałszywych informacji i nauczymy tego samego nasze dzieci, możemy się przyczynić do stworzenia silniejszego i bezpieczniejszego Internetu.

Jak działa deepfake?

Te fałszywe nagrania noszą nazwę „deepfake”, ponieważ są oparte na technologii głębokiego uczenia (ang. deep learning) będącej odmianą sztucznej inteligencji. Technologia ta umożliwia  manipulowanie obrazem i dźwiękiem, przez co trudno odróżnić oryginalne treści do fałszywych.   

Podczas tworzenia deepfake’a technologia uczy się odrębnie kodować i odkodowywać dwie różne twarze, z których jedna może należeć do sławnej osobistości wypowiadającej określone słowa, a druga do kogoś mówiącego zwykle coś kontrowersyjnego. Taka obróbka obrazu i dźwięku daje możliwość manipulacji, w efekcie której podkłada się czyjś wizerunek pod inną osobę na nagraniu. Ponadto za pomocą tej samej technologii można nałożyć np. inną twarz na postać  będącą przedmiotem deepfake’a. 

Nieubłagany postęp

Na szczęście technologia deep learningu jeszcze nie zaszła za daleko, dzięki czemu większość takich sfabrykowanych materiałów można wciąż łatwo wykryć. Postępy są jednak szybkie, zwłaszcza jeśli chodzi o wprowadzanie drobnych zmian w warstwie audio, które mogą diametralnie zmienić sens wypowiedzi. Co więcej, podstawowe technologie tworzenia deepfake’ów są już w zasięgu przeciętnego człowieka mającego trochę wiedzy technologicznej, za darmo lub za niewielką opłatą.

Choć technologia deepfake może służyć dobrym celom, np. podczas produkcji filmów (dzięki niej nie trzeba ponownie nagrywać tych samych scen), zwykle jest wykorzystywana niezgodnie z prawem, np. do tworzenia treści pornograficznych z użyciem twarzy celebrytów bez ich zgody. W związku z tym istnieją poważne obawy, że takie materiały mogą się przyczynić do zmiany wyniku wyborów, załamania rynku, zrujnowania czyjejś kariery, a nawet jeszcze większych przestępstw.

Polowanie na fałszerzy

Ustawodawcy i przedsiębiorstwa technologiczne poważnie traktują problem deepfake’ów. I dobrze! Facebook, YouTube, Twitter i stan Kalifornia próbują w ostatnim czasie zablokować dystrybucję takich treści, ale na efekty musimy jeszcze poczekać. Rozwiązaniem mógłby być wymóg oznaczania nagrań wideo cyfrowymi znakami wodnymi i podpisami, co pozwoliłoby przeciętnemu odbiorcy upewnić się co do osoby twórcy. Jest też nadzieja, że pojawi się precyzyjna technicznie metoda oznaczania deepfake’ów przed ich publikacją lub przynajmniej szybkiego ostrzegania przed nimi. Jedyne, co możemy zrobić do czasu udostępnienia takich rozwiązań, to zachować czujność i pomóc innym w jej utrzymaniu.

Kluczowe kwestie

Gdy znajdziesz na swoim profilu społecznościowym lub w innym miejscu w Internecie nowy film wideo, pamiętaj o trzech następujących zasadach:

  1. Powstrzymaj się od jakichkolwiek działań. Jeśli film wydaje Ci się w jakikolwiek sposób podejrzany, nie wierz w to, co widzisz, nie reaguj, nie udostępniaj materiału i nie komentuj go. 
  2. Zadaj sobie kilka pytań. Skąd pochodzi nagranie? Czy zachowanie osoby widocznej na filmie wydaje się dla niej nietypowe? Dlaczego określona osoba lub organizacja udostępnia ten materiał w Internecie?
  3. Gdy widzisz coś podejrzanego w Internecie, zawsze możesz to zignorować. Jeśli jednak coś wzbudzi Twój szczególny niepokój i uważasz, że może to być deepfake, zgłoś ten przypadek administratorowi serwisu lub aplikacji. O ile YouTube, Facebook i Twitter starają się usuwać filmy deepfake, to my jako społeczność możemy im w tym pomóc, odpowiednio oznaczając takie materiały.


Deepfake, jak każda inna technologia, może przynieść nam korzyści lub szkody. Zmniejszymy ryzyko szkód, jeśli będziemy wiedzieć, czym jest deepfake. Należy też pamiętać o trzech powyższych zasadach, które można przyjąć jako dobry zwyczaj w odniesieniu do praktycznie wszystkiego, co oglądamy w sieci. Powinniśmy również wpajać wspomniane trzy zasady naszym dzieciom, głównym odbiorcom treści wideo w Internecie.

Deepfake to dziś część wirtualnego świata, z którym musimy nauczyć się żyć. Jeśli jednak technologia ta znajdzie się w niewłaściwych rękach, może wyrządzić olbrzymie straty. Indywidualne działania każdego z nas mogą temu zapobiec. Wystarczy, że poświęcimy na to trochę czasu.

Dodaj komentarz

Twój adres email nie zostanie opublikowany. Pola, których wypełnienie jest wymagane, są oznaczone symbolem *

This site uses Akismet to reduce spam. Learn how your comment data is processed.