Deepfake to coraz bardziej popularna technologia, która pozwala na tworzenie fotorealistycznych manipulacji wideo. Deepfake może być używany do tworzenia fałszywych informacji. Dezinformacja przy użyciu deepfake stwarza poważne zagrożenie dla demokracji i bezpieczeństwa publicznego, ale także może doprowadzić do wpadnięcia w pułpakę manipulacji (np. dotyczącą rzekomej zdrady czy szantażu). W tym artykule omówimy, jak zidentyfikować deepfake i nie dać się nabrać.

Czym jest deepfake i gdzie się go wykorzystuje?

Deepfake to technologia, która polega na sztucznym generowaniu wideo, które wydają się realistyczne. Deepfake wykorzystuje sieci neuronowe i algorytmy uczenia maszynowego do tworzenia nowych wideo poprzez nałożenie twarzy jednej osoby na ciało innej osoby. Wideo te wydają się być autentyczne, ale tak naprawdę są fałszywe.

Deepfake jest wykorzystywany w różnych celach np. w filmach i teledyskach. Twarze aktorów lub piosenkarzy są nakładane na ciała innych osób, aby osiągnąć efekt specjalny lub humorystyczny. Pamiętamy to z teledysków Michaela Jacksona. Podobnie w reklamie, deepfake umożliwia tworzenie reklam z udziałem celebrytów i aktorów, którzy nie mają czasu lub nie chcą uczestniczyć w procesie tworzenia reklamy. Deepfake pozwala na stworzenie wideo, w którym celebryci wydają się mówić i działać w określony sposób.

Deepfake używany jest także na bardziej grząskim gruncie jakim jest polityka i pornografia. W polityce deepfake może być wykorzystywany do manipulowania opinią publiczną poprzez tworzenie fałszywych filmów przedstawiające polityków w niekorzystnym świetle. Tego rodzaju firmy viralowe rozpowszechnia się np. w social mediach.

Deepfake jest także coraz częściej wykorzystywany do tworzenia fałszywej pornografii, w której twarz jednej osoby jest nakładana na ciało innej osoby. To stwarza poważne problemy związane z wykorzystaniem cudzego wizerunku.

Warto zauważyć, że deepfake może być używany w różnych celach, niektóre z nich są niewinne (np. sztuka), podczas gdy inne mogą stanowić poważne zagrożenie dla bezpieczeństwa publicznego oraz prywatności.

Identyfikacja deepfake polega na szukaniu błędów

W celu zidentyfikowania deepfake, warto zwrócić uwagę na błędy wideo, takie jak niedoskonałości w ruchu lub w tle. Deepfake może mieć też problemy z zachowaniem proporcji między twarzą a resztą ciała lub z zachowaniem naturalnego ruchu ust. Szczególnie to ostatnie jest bardzo dobrym miernikiem.

Trzeba zdać sobie sprawę, że błędy deepfake mogą wynikać z różnych czynników, w tym z jakości materiałów źródłowych, algorytmów użytych do generowania wideo oraz umiejętności i intencji twórców deepfake. Niestety trzeba zrozumieć, że jeżeli ktoś zapłaci bardzo dużo, to nawet eksperci mogą mieć problemy z rozpoznaniem, czy mamy do czynienia z realnym video, czy z fałszywką.

Oto niektóre z cech, które często występują w deepfake i mogą pomóc w identyfikacji fałszywych wideo:

• Artefakty graficzne – renderowanie graficzne wymaga zazwyczaj dobrego sprzętu i czasu, stąd deepfake może zawierać artefakty graficzne, takie jak zniekształcenia twarzy, niedopasowanie kolorów skóry, niezgodność ruchu ust z dźwiękiem, lub niedopasowanie ruchu ciała z tłem.
• Brak naturalnych mimicznych wyrazów – deepfake może nie zawierać naturalnych mimicznych wyrazów twarzy, takich jak zmarszczki, ruchy oczu, lub wyrazisty ruch warg.
• Nierealistyczne ruchy – deepfake może zawierać nierealistyczne ruchy ciała lub twarzy, które nie odpowiadają naturalnemu zachowaniu osoby. Pamiętajmy jednak, że np. w teledysku Michaela Jacksona „Smooth Criminal” tancerze pochylają się pod kątem 45 stopni bez wykorzystania efektów komputerowych, dzięki specjalnym butom!
• Niespójność z tłem – jest to widoczne szczególnie w produkcjach bardziej amatorskich i robionych w pośpiechu. Deepfake może wyglądać nienaturalnie w kontekście otaczającego środowiska, jak gdyby osoba była wstawiona do nieodpowiedniego miejsca.
• Brak zgodności z oryginalnym wideo – deepfake może mieć inne proporcje twarzy, kształt głowy lub inny kolor oczu niż osoba, która jest imitowana.
• Słaba jakość dźwięku – deepfake może zawierać dźwięk, który nie pasuje do wideo, lub dźwięk może być słabej jakości, co wskazuje na manipulację w postprodukcji. Wyraźnie widoczne jest także podkładanie obrazu pod polski dźwięk.
• Brak autentyczności – Deepfake może po prostu wyglądać „dziwnie” lub „fałszywie”, co sugeruje, że został stworzony w celu oszukania lub dezinformacji.

Podsumowanie

Na błędy deepfake składają się na niedoskonałe elementy, szczegóły, które wskazują na to, że wideo jest fałszywe i zostało stworzone przy użyciu sztucznej inteligencji. Deepfake może być zagrożeniem w określonej sytuacji po prostu musimy nauczyć się nie ufać każdej informacji wideo automatycznie oraz musimy także nauczyć się dostrzegać detale. To pozwoli na zidentyfikować deepfake i uniknąć wpadnięcia w pułapkę manipulacji.

Odnośniki

• Fooled twice: People cannot detect deepfakes but think they can (iScience)
• Are You Better Than a Machine at Spotting a Deepfake? (scientificamerican.com)
• The People Onscreen Are Fake. The Disinformation Is Real (nytimes.com)
• Czym jest deepfake? Instytut Cyberbezpieczeństwa (youtube.com)
• Jak tworzyć filmy DeepFake? – poradnik krok po kroku (youtube.com)