Wyjaśnienie Deepfakes: sztuczna inteligencja, która sprawia, że ​​fałszywe filmy są zbyt przekonujące

Zobaczyć to uwierzyć. Cóż, przynajmniej tak było, zanim zdaliśmy sobie sprawę, że ludzie mogą łatwo i przekonująco sfałszować filmy, aby napędzać oszustwa i przepisywać historię. Chociaż znaleźliśmy sposoby na obalenie większości fałszywych obrazów, jest jeden postęp technologiczny, który wciąż nabiera tempa, utrudniając rozróżnienie, co jest prawdziwe, a co fałszywe.

Deepfake zmienia wszystko, co uważaliśmy za możliwe w przypadku sfabrykowanych filmów. Oto, co warto wiedzieć o tym, czym są deepfake, a także o zagrożeniach, jakie niesie ze sobą ta technologia…

Co to jest deepfake?

Termin deepfake pochodzi od połączenia słów „deep learning” i „fakes”. Dzieje się tak, ponieważ oprogramowanie sztucznej inteligencji przeszkolone w syntezie obrazu i wideo tworzy te filmy. Tak więc definicja deepfake to fałszywe wideo lub obraz wygenerowany przy użyciu sztucznej inteligencji w celu zastąpienia twarzy i głosu przedstawianej postaci. Ta sztuczna inteligencja może nałożyć twarz jednego obiektu (źródła) na wideo innego (celu). Tymczasem bardziej zaawansowane formy technologii deepfake mogą zsyntetyzować zupełnie nowy model osoby za pomocą gestów twarzy źródła oraz obrazów lub wideo podmiotu, pod którego chcą się podszyć.

Technologia może tworzyć modele twarzy na podstawie ograniczonych danych wizualnych, takich jak jeden obraz. Jednak im więcej danych musi opracować sztuczna inteligencja, tym bardziej realistyczny jest wynik.

Właśnie dlatego politycy i celebryci są tak łatwymi celami dla deepfake’ów, ponieważ w Internecie dostępnych jest tak wiele danych wizualnych, które oprogramowanie może wykorzystać. Ponieważ oprogramowanie deepfake jest dostępne na platformach typu open source, ludzie w Internecie nieustannie udoskonalają i opracowują prace innych.

Skąd się biorą deepfake’i?

Technologia kryjąca się za deepfake’ami została opracowana do wielu celów. Podobnie jak Photoshop, oprogramowanie ma zastosowania profesjonalne, rozrywkowe i hobbystyczne. I podobnie jak w przypadku Photoshopa, pomimo tego, że pierwotni twórcy nie mieli złych intencji podczas tworzenia oprogramowania, nie powstrzymało to ludzi przed używaniem go do złośliwych celów.

Technologia zamiany twarzy była początkowo używana głównie w przemyśle filmowym. Jednym z najbardziej znanych przykładów jest film Rogue One: A Star Wars Story z 2016 roku. W filmie twórcy wykorzystali technologię zamiany twarzy i syntezy wideo, aby odtworzyć postać Wielkiego Moffa Tarkina.

W filmie powstała także młodsza wersja księżniczki Lei. W obu przypadkach modele twarzy oryginalnych aktorów zostały nałożone na aktorów zastępczych.

Aplikacje takie jak Snapchat również wykorzystują technologię zamiany twarzy do tworzenia zabawnych filtrów dla użytkowników. Twórcy tych aplikacji nieustannie udoskonalają wykrywanie i śledzenie twarzy, aby skuteczniej stosować te filtry.

Inni opracowali narzędzia do syntezy wideo do tworzenia hologramów do celów edukacyjnych. Na przykład w ramach jednego projektu opracowano oprogramowanie do syntezy wideo i twarzy, aby zeznania osób, które przeżyły Holokaust, mogły być prezentowane w muzeum jako interaktywne hologramy.

Technologia Deepfake szybko się rozwija

Uczenie maszynowe ułatwia życie, ale w tym przypadku znacznie ułatwia fałszowanie. Tak jak sztuka generowana przez sztuczną inteligencję zmienia branżę artystyczną, tak deepfake zmieniły naturę wideo online. Ale niektóre z tych zmian są negatywne.

Po pierwsze, oprogramowanie deepfake jest powszechnie i bezpłatnie dostępne. FakeApp, na przykład, jest popularnym wyborem do tworzenia deepfake’ów. Nie potrzebujesz zaawansowanych umiejętności, aby zastosować zamianę twarzy, oprogramowanie zrobi to za Ciebie.

Ale ponieważ sztuczna inteligencja i głębokie uczenie się pomagają w tworzeniu głębokich podróbek, technologia również poprawia się i staje się bardziej przekonująca w zastraszającym tempie. Czasami te zmiany nie są widoczne gołym okiem, co utrudnia stwierdzenie, co jest prawdziwe, a co nie. Istnieje kilka charakterystycznych znaków, które pomogą Ci wykryć deepfake, takie jak obcinanie krawędzi lub zniekształcanie twarzy pod pewnymi kątami.

W świecie pełnym fałszywych wiadomości przekonujące deepfake mogą okazać się chaotyczną siłą przeciwko temu, co uważamy za prawdę. Wzrost liczby deepfake’ów ma również miejsce w czasie, gdy synteza głosu AI i generatory głosu AI również się rozwijają.

Sztuczna inteligencja może nie tylko generować fałszywe filmy, ale może również generować modele głosu dla ludzi. Oznacza to, że nie potrzebujesz personifikatora, aby brzmiało to tak, jakby polityk składał oburzające oświadczenie. Zamiast tego możesz wyszkolić sztuczną inteligencję, aby naśladowała ich głos.

Konsekwencje deepfake’ów

Chociaż możesz używać deepfake’ów do tworzenia zabawnych filmów, wiele osób używa ich również do złośliwych celów. Ludzie używali FakeApp do tworzenia fałszywych filmów przedstawiających celebrytów w kompromitujących scenariuszach.

Co więcej, w większości krajów żadne przepisy nie regulują jeszcze tego rodzaju treści, co utrudnia ich regulację. Chociaż wciąż jesteśmy daleko od dystopii rządzonej przez dezinformację i fałszywe dowody wideo, które widzimy w filmach takich jak The Running Man, jesteśmy już zbyt zaznajomieni ze skutkami fałszywych wiadomości.

Konsekwencje deepfake’ów wykorzystywanych do celów politycznych są dwojakie. Po pierwsze, znacznie ułatwia rozpowszechnianie fałszywych wiadomości. Filmy częściej niż tekst lub obrazy przekonają ludzi, że faktycznie wydarzyło się coś fikcyjnego. Ludzie już wierzą nagłówkom z fałszywych stron internetowych bez żadnych dowodów.

Jednym z przykładów deepfake’ów wykorzystywanych do wprowadzania ludzi w błąd jest deepfake z 2022 roku, który renderował wideo przedstawiające prezydenta Ukrainy Wołodymyra Zełenskiego nakazującego żołnierzom poddanie się. Okazało się to fałszywe, ale wideo nadal krążyło w mediach społecznościowych.

Z drugiej strony, deepfake może również ośmielić polityków do unikania odpowiedzialności. Zawsze mogliby łatwo twierdzić, że nagranie audio lub wideo jest w rzeczywistości deepfake.

Jak walczymy z deepfake’ami?

Ochrona przed filmami typu deepfake może być trudna. Istnieją jednak sposoby, w jakie firmy pracują, aby ułatwić wykrywanie deepfake’ów. Istnieje wiele narzędzi służących do zwalczania złośliwych fałszywych filmów. Wiele z tych narzędzi wykorzystuje sztuczną inteligencję do wykrywania manipulacji w filmach.

AI Foundation stworzyła wtyczkę do przeglądarki o nazwie Reality Defender, która pomaga wykrywać fałszywe treści online. Inna wtyczka, SurfSafe, również przeprowadza podobne kontrole. Oba te narzędzia mają na celu pomóc internautom w odróżnianiu faktów od fikcji.

Renomowane witryny sprawdzające fakty również rozszerzyły swoją działalność o wywoływanie sfabrykowanych filmów. W międzyczasie Microsoft uruchomił również technologię, która pomaga zwalczać fałszywe filmy wideo.

Nawet Departament Obrony USA zainwestował w oprogramowanie do wykrywania deepfake’ów. W końcu co by się stało, gdyby w sieci pojawił się przekonujący film przedstawiający światowego przywódcę wypowiadającego wojnę lub wystrzeliwującego rakietę przeciwko innemu krajowi? Rządy potrzebują narzędzi do szybkiej weryfikacji legalności filmu.

Niezamierzone konsekwencje uczenia maszynowego

Nie ma wątpliwości, że technologia sztucznej inteligencji i głębokie uczenie maszynowe poprawiają nasze życie na wiele sposobów. Ale technologia ma również niezamierzone konsekwencje. Trudno przewidzieć, w jaki sposób ludzie mogą wykorzystywać określoną technologię do złośliwych celów, a deepfake jest tego przykładem.