Newsy

Deepfake może być nowym etapem wojny informacyjnej. Filmy fałszujące rzeczywistość mogą być wykorzystywane przez wywiady obcych państw

2019-07-29  |  06:00

To może być kolejny etap wojny informacyjnej przed wyborami prezydenckimi w 2020 roku. Technologia deepfake daje praktycznie nieograniczone możliwości, a można ją wykorzystywać domowymi sposobami. Zmanipulowane filmy wideo, dzięki sztucznej inteligencji są nie do odróżnienia od prawdziwych nagrań. Mogą służyć do produkcji na masową skalę fake newsów. Trwają pracę nad oprogramowaniem, które ma pomóc ocenić prawdziwość pojawiających się filmów.

– Deepfake używa bardzo zaawansowanych narzędzi sztucznej inteligencji, które mogą być używane w różnych celach. Generuje zawartość medialną, która nie jest prawdziwa. Może ludzi po prostu oszukiwać, wprowadzać w błąd. To przykład tworzenia fake newsów, przy czym deepfake koncentruje się na generowaniu kontentu wideo – tłumaczy w rozmowie z agencją Newseria Innowacje dr hab. Dominik Ślęzak z Instytutu Informatyki Uniwersytetu Warszawskiego.

Amerykańska Izba Reprezentantów ostrzega, że technologia deepfake może być wykorzystywana przez wywiady wrogich państw i stanowić zagrożenie dla dyskusji publicznej i bezpieczeństwa narodowego USA. O technologii pozwalającej wyprodukować w pełni profesjonalne filmy wideo zrobiło się głośno już w 2017 roku. To wtedy w sieci zaczęły krążyć sfałszowane filmy pornograficzne, gdzie aktorkom cyfrowo podmieniono twarze na te należące do celebrytek. To jednak był dopiero początek.

– Sztuczną inteligencję, a konkretnie sieci neuronowe, można wykorzystać też pozytywnie. To np. ulubiona gra online, gdzie główny bohater może mnie przypominać. Innym przykładem są symulacje w medycynie. Np. możemy mieć bazę danych zapisów wideo przypadków bardzo poważnych schorzeń i spróbować dostosować te zapisy do parametrów nowego pacjenta – wymienia dr hab. Dominik Ślęzak.

Ostatnie przykłady pokazują jednak, że technologia deepfake to przede wszystkim niemal nieograniczone możliwości do wypuszczania fałszywych informacji. Niedawno w internecie można było obejrzeć rzekomą pijaną Nancy Pelosi, spikerkę Izby Reprezentantów. Mówiła niewyraźnie i bardzo powoli, tymczasem okazało się, że po prostu jej wypowiedź została spowolniona o kilkadziesiąt procent. Wcześniej jednak filmik z jej udziałem udostępnił choćby były burmistrz Nowego Jorku Rudy Giuliani. W sieci krążyły też fałszywe nagrania z Barackiem Obamą, Donaldem Trumpem czy Markiem Zuckerbergiem.

– Jeżeli ktoś używa tej technologii bez zgody osób, których zdjęcia są wykorzystywane, np. do tworzenia nieprawdziwych filmów czy właśnie przekręcania czyichś orędzi, czyli nie tylko wyciągania z kontekstu jakiejś wypowiedzi, ale wkładanie w czyjeś usta zupełnie nowych wypowiedzi, to są to narzędzia bardzo niebezpieczne – wskazuje ekspert.

Kilka tygodni temu pojawiła się aplikacja DeepNude. Dzięki niej można było „rozebrać” kobiety – wystarczyło zdjęcie, by dzięki sztucznej inteligencji zobaczyć, jak wygląda ona nago. Po licznych protestach aplikacja została zamknięta, ale w sieci krążą jej kolejne wersje. To tylko przykład aplikacji, która mogła być bardzo pomocna i służyć np. do skanowania ludzi do celów bezpieczeństwa, tymczasem była wykorzystana zupełnie inaczej.

– Sztuczna inteligencja będzie nam dawała coraz silniejsze narzędzia, analizę danych, symulowania rzeczywistości, zmieniania rzeczywistości. Jest to jednak nasza odpowiedzialność, jak będziemy tych narzędzi używać – podkreśla dr Ślęzak.

Pojawiają się aplikacje, które mają pomóc rozpoznać fałszywe materiały. Niektóre bardzo dokładnie sprawdzają mimikę, inne – częstotliwość mrugania i na tej podstawie oceniają stopień prawdopodobieństwa, że nagranie zostało spreparowane. Dopóki jednak nie zostaną opracowane takie przepisy, które pozwolą całkowicie unieszkodliwić technologię, wyścig będzie trwał.

– To podobnie jak w branży cyberbezpieczeństwa. Z jednej strony są hakerzy, którzy atakują nasze maszyny, próbują je zawirusować, a my próbujemy to wykryć i przeciwdziałać. Tak samo w dziedzinie deepfake’a można do tego podejść. Trzeba się nauczyć odróżnić prawdziwy kontent od tego spreparowanego i odpowiednio reagować – mówi dr hab. Dominik Ślęzak.

Czytaj także

Więcej ważnych informacji

Jedynka Newserii

IT i technologie

UE w 80 proc. technologicznie polega na innych krajach. Zależność cyfrowa od USA i Chin może być zagrożeniem dla bezpieczeństwa

Unia Europejska w alarmującym stopniu jest uzależniona od dostawców technologii z USA i Chin. W ponad 80 proc. polega na państwach trzecich w zakresie produktów cyfrowych, usług, infrastruktury oraz własności intelektualnej. – To sytuacja, która w kontekście bezpieczeństwa danych i stabilności gospodarczej jest po prostu nie do zaakceptowania – ocenia Michał Kobosko, europoseł z Polski 2050. Ogranicza to zdolność Europy do innowacji, konkurowania oraz utrzymania kontroli nad jej gospodarką cyfrową.

Prawo

Rzecznik MŚP na mocy nowej ustawy ma objąć ochroną także rolników. Na zmianach skorzystają też duże firmy

Trwają prace nad zmianą ustawy o Rzeczniku Małych i Średnich Przedsiębiorców. Jej projekt jest na etapie konsultacji i przewiduje wiele modyfikacji w obszarze kompetencji organu, który do tej pory obejmuje ochroną jedynie mikro-, małe i średnie firmy. Wraz z wejściem w życie nowej ustawy będzie mógł podejmować działania na rzecz ogółu przedsiębiorców, w tym m.in. rolników, adwokatów czy wspólników spółek. Kompetencje Rzecznika Praw Przedsiębiorców zostaną rozszerzone także m.in. w zakresie opiniowania i inicjowania przyjęcia aktów prawnych.

Konsument

GUS chce walczyć z fake newsami. Współpraca z sektorem prywatnym ma pomóc ograniczyć chaos informacyjny

Tradycyjna statystyka, oparta wyłącznie na cyklicznych badaniach i danych administracyjnych, przestaje wystarczać, by analizować dynamiczne zmiany w czasie rzeczywistym. Z tego powodu Główny Urząd Statystyczny stawia na nowoczesne podejście oparte na integracji danych, budowie spójnej struktury informacyjnej państwa oraz współpracy z sektorem prywatnym. – Jesteśmy na dobrej drodze do budowy infrastruktury informacyjnej państwa po to, żeby uniknąć halucynacji sztucznej inteligencji, chaosu czy dezinformacji – podkreśla Marek Cierpiał-Wolan, prezes Głównego Urzędu Statystycznego.

Szkolenia

Akademia Newserii

Akademia Newserii to projekt, w ramach którego najlepsi polscy dziennikarze biznesowi, giełdowi oraz lifestylowi, a  także szkoleniowcy z wieloletnim doświadczeniem dzielą się swoją wiedzą nt. pracy z mediami.