Nowatorskie narzędzie pomoże skuteczniej walczyć z dezinformacją w Internecie

Badacze z Uniwersytetu Cornella opracowali nowe narzędzie do walki z dezinformacją w Internecie. Technologia ułatwi wykrywanie zmanipulowanych nagrań wideo.

Zespół informatyków z amerykańskiego Uniwersytetu Cornella stworzył nowatorskie narzędzie, które może skutecznie zwalczać dezinformację pojawiającą się w sieci. Technologia może być pomocna w walce z fałszywymi filmami generowanymi przez AI, technologią deepfake oraz zmanipulowanymi treściami wideo.

Narzędzie do walki ze sfałszowanymi nagraniami wideo

W ostatnich latach Internet zalewa masa dezinformacji, produkowanej najczęściej przez chińskie i rosyjskie trolle. Przeciętnemu użytkownikowi coraz trudniej jest więc odróżnić prawdę od fałszywych treści. Zwłaszcza że dzięki AI, te ostatnie wyglądają coraz bardziej wiarygodnie. Badacze z całego świata pracują więc nad rozwiązaniami, które pozwolą ograniczyć zalew fake newsów, fałszywych filmów wykorzystujących deepfake oraz innych tego typu treści.

Obiecujące osiągnięcia na tym polu mają informatycy z Uniwersytetu Cornella, którzy pochwalili się właśnie stworzeniem narzędzia do walki z dezinformacją. Opracowali technikę znakowania wodnego, zwaną „iluminacją z kodowaniem szumów”. Technologia ukrywa dane weryfikacyjne w samym świetle, pomagając śledczym w identyfikacji zmanipulowanych nagrań wideo. System dodaje ledwo zauważalne migotanie do źródeł światła w scenie. Kamery rejestrują ten pseudolosowy wzór, mimo że widzowie nie są w stanie go wykryć. A każda lampa lub ekran, który migocze, nosi swój własny, unikalny kod.

Znakowanie światłem pomoże odróżnić fałszywkę

Każdy znak wodny zawiera wersję nieskompresowanego nagrania o niskiej wierności ze znacznikiem czasu, przy nieco innym oświetleniu. Kiedy ktoś manipuluje filmem, zmienione fragmenty zaczynają zaprzeczać temu, co widać oryginalnym filmie z kodem, a to z kolei pozwala zobaczyć, gdzie wprowadzono zmiany. Jeśli ktoś spróbuje wygenerować fałszywy film za pomocą sztucznej inteligencji, powstałe filmy z kodem będą wyglądać jak losowe wariacje oryginalnego materiału. Rozwiązanie może przydać się zwłaszcza podczas nagrań z konferencji polityków, które mogą zostać zmanipulowane.

Naukowcy wprawdzie przyznają, że szybki ruch i silne światło słoneczne mogą ograniczać skuteczność tej techniki. Są jednak pewni jej przydatności w takich sytuacjach jak prezentacje w salach konferencyjnych, wywiady telewizyjne czy wykłady.

Metoda zostanie publicznie zaprezentowana już 10 sierpnia, podczas konferencji SIGGRAPH.