Deep fake’i są coraz lepsze. ZAO App podbija internet

Kolejna aplikacja wykorzystująca uczenie maszynowe do manipulacji wideo stała się viralem. ZAO App oferuje doświadczenie na poziomie dotąd raczej niedostępnym, w niemal perfekcyjny sposób wpasowując zdjęcia użytkowników do dowolnych filmów. Wygląda na to, że póki co aplikacja jest wykorzystywana raczej zabawy, ale jej duże możliwości mogą posłużyć również mało szlachetnym celom.

Kolejna moda

ZAO App to owoc pracy chińskich developerów. Efekty osiągane przy użyciu aplikacji są imponujące, a niekiedy wręcz niepokojące. Dość łatwo bowiem wyobrazić sobie sytuację, w której program pozwalający na łatwe wstawianie dowolnych twarzy do każdego wideo zostaje wykorzystany w niewłaściwy sposób.

Nie tak dawno temu świat zachwycał się FaceApp, aplikacją, która za sprawą internetowej mody przeżywała swoją drugą młodość. Rosyjskie oprogamowanie oferujące imponująco realistyczne możliwości w zakresie postarzania i odmładzania twarzy widniejących na dowolnych dostarczanych przez użytkowników zdjęciach budziło kontrowersje związane z rzekomą koniecznością udzielenia aplikacji bardzo szerokich uprawnień. W rzeczywistości aplikacja wymagała od użytkowników zaakceptowania regulaminu, którego zakres był dość standardowy jak na usługę internetową. Obecnie problemy z prywatnością często pojawiają się właśnie w kontekście rozmów o ZAO App, a do zarzutów wobec aplikacji dodać należy obawy o sposób wykorzystania stworzonych dzięki niej filmów.

Najlepszy deepfake?

ZAO App to bodaj najdoskonalsza aplikacja do tworzenia deep fake’ów, jaka powstała do tej pory. Na szczęście (lub nieszczęście?) zachodnich użytkowników w tym momencie dostępna jest ona tylko na rynku chińskim, gdzie szturmem podbija lokalny App Store. Nie da jej się znaleźć w sklepie z aplikacjami pod żadną inną szerokością geograficzną. Oczywiście można spróbować poszukania odpowiednich plików na własną rękę, ale jest to wysoce ryzykowne.

Jak łatwo się domyślić, ZAO App, podobnie jak FaceApp i inne programy służące do zaawansowanej manipulacji wideo, korzysta z algorytmów sztucznej inteligencji w celu generowania obrazu na podstawie przesłanego zdjęcia. W przeciwieństwie do produktu rosyjskiego aplikacja stworzona przez chińskich developerów jest w stanie stworzyć trójwymiarowy, ruchomy obraz, który łatwo pomylić z prawdziwym filmem. Innymi słowy, ZAO App z imponującą wręcz precyzją jest w stanie podłożyć do wybranego filmu dowolny załadowany przez użytkownika dwuwymiarowy obraz twarzy, sprawiając, że tylko najwprawniejsze oko dostrzeże tę ingerencję. Osoba, która nie wie, że do wideo została “wstawiona” konkretna twarz (albo po prostu rozpozna scenę ze znanego sobie filmu), najczęściej nie będzie miała szansy na odróżnienie przerobionego filmu od prawdziwego. Sieć została więc zalana przerobionymi filmikami, które demonstrują możliwości oferowane przez aplikację.

Niezwykła prostota

Jak wynika z relacji użytkowników aplikacji, które można znaleźć w różnych miejscach w internecie, obsługa ZAO App ma być niezwykle prosta. Wystarczy, że użytkownik załaduje do aplikacji kilka swoich (lub cudzych) selfie, najlepiej z różnymi minami, a następnie wybierze plik wideo. Oprogramowanie samo rozpozna miejsce, w którym należy podłożyć twarz, a także zajmie się odtworzeniem odpowiedniej mimiki, tak aby film jak najlepiej imitował zupełnie prawdziwe, nieprzerobione nagranie.

Prostota z jaką możemy wstawić swoją twarz do dowolnego istniejącego na świecie filmu z jednej strony zachwyca, a z drugiej przeraża. Obszar deepfake’ów, czyli fotografii i filmów przerobionych w sposób, który niemal uniemożliwia rozpoznanie, czy mamy do czynienia z prawdziwym materiałem, jest bowiem dość niebezpieczny. Jedni powiedzą, że to niegroźna zabawka, a inni przytomnie zauważą, że istnieje nieskończona liczba zastosowań takiej aplikacji, które nie należą do szlachetnych, by wspomnieć tylko o przygotowywaniu materiałów obliczonych na skompromitowanie konkretnych osób. Niebezpieczeństwo dostrzegł chiński komunikator (a tak naprawdę megaaplikacja agregująca mnóstwo usług) WeChat, który zablokował przesyłanie filmików stworzonych za pośrednictwem ZAO App.

Źródło: theguardian.com, komputerswiat.pl. Zdjęcie główne artykułu pochodzi z unsplash.com.

Oferty pracy z