Deepfake to technologia wykorzystująca sztuczną inteligencję (AI) do tworzenia lub manipulowania obrazami, filmami i dźwiękiem w sposób, który sprawia, że wydają się one autentyczne, choć przedstawiają wydarzenia, które nigdy nie miały miejsca, lub osoby wykonujące działania, których nie wykonywały. Nazwa „deepfake” pochodzi od połączenia dwóch angielskich słów: „deep learning” (głębokie uczenie się, będące podkategorią uczenia maszynowego) oraz „fake” (fałszywy), co podkreśla zarówno techniczne podstawy, jak i cel tej technologii – tworzenie realistycznych falsyfikatów. Deepfake opiera się na zaawansowanych algorytmach, takich jak generatywne sieci przeciwstawne (GAN), które składają się z dwóch elementów: generatora, tworzącego fałszywe treści, oraz dyskryminatora, oceniającego ich autentyczność, co pozwala na ciągłe doskonalenie efektów
Od kiedy istnieje i skąd się wzięła nazwa?
Pojęcie deepfake pojawiło się po raz pierwszy pod koniec 2017 roku, kiedy użytkownik Reddita o pseudonimie „deepfakes” opublikował serię filmów por*ograficznych, w których wykorzystano technologię zamiany twarzy, umieszczając wizerunki znanych osób w istniejących materiałach wideo. To właśnie od jego pseudonimu pochodzi nazwa technologii, która szybko zyskała rozgłos. Choć manipulacja obrazem i dźwiękiem istnieje od dawna – np. w postaci Photoshopa czy efektów specjalnych w kinie – deepfake wyróżnia się zastosowaniem AI, co pozwala na niespotykaną wcześniej precyzję i dostępność. W ciągu kilku miesięcy od debiutu technologia stała się obiektem zainteresowania zarówno hobbystów, jak i badaczy, co zapoczątkowało jej błyskawiczny rozwój.
Jak szybko rozwija się technologia deepfake?
Rozwój deepfake jest napędzany przez coraz większą dostępność narzędzi oraz danych treningowych. W 2019 roku firma Deeptrace odnotowała obecność 7964 filmów deepfake w sieci, a zaledwie dziesięć miesięcy później liczba ta wzrosła do 14 678. To niemal dwukrotny wzrost w niespełna rok, co pokazuje, jak szybko ta technologia się rozprzestrzenia. Dzięki aplikacjom takim jak Zao czy MyHeritage, które umożliwiają łatwe tworzenie deepfake’ów, technologia stała się dostępna dla przeciętnego użytkownika, a nie tylko dla specjalistów. Postęp w algorytmach GAN i dostęp do ogromnych baz danych (np. zdjęć i filmów z mediów społecznościowych) sprawiają, że jakość deepfake’ów poprawia się z roku na rok, a ich wykrycie staje się coraz trudniejsze. Szacuje się, że w 2025 roku liczba deepfake’ów w obiegu sięgnie 8 milionów rocznie, co świadczy o lawinowym tempie rozwoju.
W jaki sposób wykorzystywana jest technologia deepfake? Przykłady
Deepfake znajduje zastosowanie w wielu dziedzinach – zarówno pozytywnych, jak i kontrowersyjnych. Oto kilka przykładów:
Rozrywka i sztuka: W przemyśle filmowym deepfake pozwala na „ożywienie” zmarłych aktorów, jak w przypadku Jamesa Deana, który miał „zagrać” w filmie Finding Jack. W 2023 roku zespoły ABBA i KISS współpracowały z firmami technologicznymi, aby stworzyć deepfake’owe awatary do wirtualnych koncertów, oferując fanom nowe doświadczenie artystyczne.
Edukacja i kampanie społeczne: David Beckham pojawił się w kampanii przeciwko malarii, gdzie dzięki deepfake’om „mówił” w dziewięciu różnych językach, zwiększając zasięg przekazu. Podobnie muzeum Dalí w St. Petersburgu wykorzystało deepfake, aby Salvador Dalí „opowiadał” o swoich dziełach i robił selfie z odwiedzającymi.
Humor i satyra: Deepfake jest popularny wśród twórców memów i komików. Przykładem jest wideo, w którym aktor Bill Hader płynnie „przemienia się” w Ala Pacino i Arnolda Schwarzeneggera podczas wywiadu, co stało się viralowym hitem.
Marketing: Marka Dove wykorzystała deepfake w kampanii Toxic Influence, gdzie matki „dawały” toksyczne porady dotyczące urody, aby zwrócić uwagę na szkodliwe wpływy mediów społecznościowych na młodzież.
Osobiste zastosowania: Aplikacje takie jak MyHeritage umożliwiają użytkownikom ożywienie starych rodzinnych zdjęć, co stało się popularne wśród osób chcących „porozmawiać” z przodkami.
Wykorzystanie deepfake niezgodnie z prawem – przykłady
Niestety, deepfake jest również wykorzystywany w sposób nielegalny i nieetyczny. Oto przykłady:
Por*ografia bez zgody: W 2023 roku deepfake’owe filmy por*ograficzne z Emmą Watson i Scarlett Johansson pojawiły się w sieci, wywołując skandal. W 2024 roku podobne obrazy Taylor Swift rozprzestrzeniły się online, co doprowadziło do zaostrzenia przepisów w niektórych krajach.
Oszustwa finansowe: W 2019 roku brytyjska firma energetyczna straciła 243 tys. euro po tym, jak CEO otrzymał telefon od „szefa” z niemieckiej centrali, który okazał się deepfake’owym głosem wygenerowanym przez AI. W 2023 roku oszuści wykorzystali deepfake wideo w spotkaniu na Zoomie, podszywając się pod CFO firmy, co doprowadziło do straty 25 milionów dolarów.
Manipulacja polityczna: W 2022 roku deepfake prezydenta Ukrainy Wołodymyra Zełenskiego, wzywający żołnierzy do poddania się, został rozpowszechniony podczas wojny z Rosją. Choć szybko zdemaskowany, pokazał potencjał technologii do siania chaosu.
Zniesławienie: W 2019 roku deepfake Nancy Pelosi, sprawiający, że wyglądała na nietrzeźwą, obejrzały miliony osób, podważając jej wiarygodność. Podobne ataki dotknęły innych polityków, jak João Doria w Brazylii.
Phishing i szantaż: Deepfake jest wykorzystywany do tworzenia fałszywych nagrań głosowych lub wideo, które służą do wyłudzania danych lub pieniędzy od osób prywatnych, często w ramach tzw. spearphishingu.
Do czego może doprowadzić technologia w kontekście działań niezgodnych z prawem?
Jeśli rozwój deepfake’ów nie zostanie uregulowany, konsekwencje mogą być katastrofalne:
Erozja zaufania społecznego: Gdy granica między prawdą a fałszem stanie się niewidoczna, ludzie mogą przestać wierzyć w jakiekolwiek media, co stworzy „społeczeństwo zerowego zaufania”. To może ułatwić manipulację opinią publiczną i podważyć demokratyczne procesy.
Masowe oszustwa: Deepfake może być używany do tworzenia fałszywych dowodów w sprawach sądowych, manipulacji cenami akcji (np. fałszywe oświadczenia CEO) czy oszustw na dużą skalę, jak fałszywe inwestycje promowane przez „celebrytów”.
Destabilizacja polityczna: Fałszywe nagrania polityków mogą wywoływać skandale dyplomatyczne, protesty, a nawet konflikty zbrojne, jeśli np. przywódca „ogłosi wojnę” w deepfake’u.
Przemoc i szantaż: Deepfake por*ografia może być narzędziem zastraszania, szczególnie wobec kobiet, mniejszości czy aktywistów, co zwiększy ryzyko przemocy i samobójstw wśród ofiar.
Kryzys bezpieczeństwa narodowego: Deepfake może być wykorzystany przez obce państwa do szerzenia dezinformacji, np. fałszywe rozkazy wojskowe czy podszywanie się pod przywódców, co zagrozi stabilności państw.
Szacunki wskazują, że straty finansowe z tytułu deepfake’owych oszustw mogą wzrosnąć z 12 miliardów dolarów w 2023 roku do 40 miliardów w ciągu trzech lat, co podkreśla pilność problemu.
Czy deepfake był wykorzystywany wobec polityków, np. Putina?
Tak, deepfake był wykorzystywany wobec polityków, w tym Władimira Putina. Oto konkretne przykłady:
Deepfake Putina i Kim Dzong Una: 29 września 2020 roku na YouTube pojawiły się deepfake’i Putina i Kim Dzong Una, stworzone przez grupę RepresentUs. Filmy miały ostrzegać przed ingerencją w wybory w USA, ukazując przywódców jako „komentatorów” amerykańskiej demokracji. Choć opatrzono je disclaimerem, nie wyemitowano ich publicznie z obawy przed reakcją widzów.
Fałszywe przemówienie Putina: 5 czerwca 2023 roku nieznane źródło nadało deepfake Putina na wielu rosyjskich stacjach radiowych i telewizyjnych, co wywołało chwilową panikę. Nagranie zostało szybko zdemaskowane, ale pokazało, jak technologia może destabilizować sytuację w kraju.
Wojna informacyjna w Ukrainie: Podczas inwazji Rosji na Ukrainę w 2022 roku pojawiały się deepfake’i Putina „ogłaszającego kapitulację”, stworzone jako satyra lub dezinformacja. Choć nie miały dużego wpływu, były częścią szerszej kampanii informacyjnej.
Te przypadki pokazują, że deepfake jest już używany wobec polityków, w tym Putina, zarówno w celach politycznych, jak i satyrycznych. Jednak ich skuteczność zależy od kontekstu – w sytuacjach kryzysowych mogą wywołać większy chaos niż w spokojniejszych czasach.
Wnioski i przyszłość
Deepfake to technologia o dwóch obliczach: z jednej strony oferuje kreatywne możliwości w sztuce, edukacji i rozrywce, z drugiej – stanowi poważne zagrożenie dla prywatności, bezpieczeństwa i demokracji. Jej rozwój przyspiesza dzięki łatwości użycia i powszechności danych, co sprawia, że walka z nielegalnym wykorzystaniem staje się coraz trudniejsza. Przykłady użycia wobec polityków, jak Putin, pokazują, że deepfake już teraz wpływa na politykę, a jego potencjał w przyszłości może być jeszcze bardziej destrukcyjny.
Aby ograniczyć zagrożenia, potrzebne są wielopoziomowe działania: od edukacji społecznej, przez rozwój technologii wykrywania (np. analizy mikroekspresji czy blockchainowej weryfikacji), po surowe regulacje prawne. W 2023 roku Wielka Brytania wprowadziła Online Safety Act, penalizujący deepfake’i seksualne, a w Kanadzie Bill C-63 ma na celu zwalczanie dezinformacji online. Podobne kroki są niezbędne globalnie, bo w świecie, gdzie „widzieć to wierzyć” traci znaczenie, deepfake może zmienić rzeczywistość w sposób, którego nie da się cofnąć.
Deepfake: (c) Karykatury.com / GR
Zobacz też:
>
>
