Facebook wypowiada wojnę zmanipulowanym przekazom wideo

Korporacja ogłosiła wczoraj, że wszczyna procedurę usuwania ze swoich serwerów fałszywych filmów oraz innych zmanipulowanych przekazów wideo (z ang. deepfake) i że w przyszłości nie będzie ich można rozpowszechniać w tej społecznościowej sieci.

Firma informuje, że zamierza stosować różnego rodzaju najnowsze technologie i wielopłaszczyznowe podejście, które pozwolą jej rozwiązać ten problem, zwracając szczególną uwagę na treści generowane automatycznie przez boty i sztuczną inteligencję, które są w ostatnim czasie prawdziwym utrapieniem sieci społecznościowych. Aby stworzyć jak najlepsze mechanizmy rozpoznające takie treści, Facebook zamierza ściśle współpracować z ośrodkami akademickimi, zatroskanymi tym zagadnieniem rządami oraz szeroko pojętym przemysłem.

Obecnie takie zmanipulowane treści można tworzyć stosunkowo prosto, posługując się takimi ogólnodostępnymi aplikacjami jak Photoshop. Niektórzy sięgają jednak po bardziej wyrafinowane metody i wykorzystują do tego celu sztuczną inteligencję oraz technikę głębokiego uczenia się, tworząc za ich pomocą filmy zniekształcające rzeczywistość i inne tego rodzaju treści znane jako „deepfake”.

Zobacz również:

Są to produkty sztucznej inteligencji lub uczenia maszynowego, które to technologie łączą, zastępują lub nakładają na siebie różne treści na wideo, po to aby wydały się autentyczne i trudne do zdemaskowania. Walka z tego rodzaju zmanipulowanymi przekazami jest już dużo trudniejsza i wymaga stosowania specjalnych narzędzi.

Przekazy wideo podejrzane o to iż zostały zmanipulowane będą dodatkowo weryfikowane przez zewnętrzne podmioty mające odpowiedzieć na pytanie czy zawarta w nich treść jest fałszywa. Na tym etapie Facebook znacznie ograniczy dystrybuowanie takich przekazów lub odrzuci je, jeśli będzie im towarzyszyć reklama.

Ponadto do tych użytkowników, którzy spróbują rozpowszechniać takie treści przed ich ostatecznym usunięciem z witryny, będą rozsyłane ostrzeżenia, że są prawdopodobnie fałszywkami. Facebook nawiązał już współpracę a agencją prasową Reuters, której celem jest jak to określono „pomoc redakcjom na całym świecie w identyfikowaniu podróbek i zmanipulowanych mediów poprzez bezpłatne kursy szkoleniowe prowadzone w trybie online”.


TOP 200