Deepfake ma nowego wroga, to narzędzie wykryje głos wygenerowany przez AI

Pulse Inspect to nowe oprogramowanie, oparte na AI, które może znacznie ukrócić ilość oszustw deepfake, z wykorzystaniem sklonowanego głosu. Narzędzie jest w stanie wykryć go z 99% dokładnością.

Sztuczna inteligencja otworzyła nowe możliwości przed przestępcami, którzy mogą wykorzystywać ją by jeszcze skuteczniej oszukiwać swoje ofiary. Zwłaszcza w przypadku przestępstw na tzw. wnuczka, służącym do wyłudzania pieniędzy. Wystarczy bowiem krótka próbka głosu danej osoby, by sklonować go tak dokładnie, że nawet rodzina i znajomi będą mieli problem z ustaleniem czy jest prawdziwy.

Sztuczna inteligencja walczy z deepfake

Jak grzyby po deszczu powstają więc narzędzia, których zadaniem jest wykrywanie klonowanego głosu. Jednym z nich jest Pulse Inspect, opracowane przez firmę Pindrop. Jest to oprogramowanie wykorzystujące AI, stworzone do walki z deepfake. Potrafi ono z dużą dokładnością określić, czy próbka audio jest oryginalna, czy też wygenerowała ją AI.

Producent przekonuje na swojej stronie, że narzędzie jest efektem ośmioletnich badań i prac rozwojowych, a zastosowano w nim kilkadziesiąt patentów. Technologia jest w stanie wykryć sklonowany głos na podstawie nawet w krótkich próbek audio, trwających zaledwie 6 sekund. Oprogramowanie przeszkolone na 20 mln fałszywych i prawdziwych próbek głosu, analizuje każdą z dostarczonych mu próbek. Wykorzystuje w tym celu unikalne cechy dźwiękowe różnych algorytmów służących do tworzenia deepfake oraz dodatkowe cechy prawdziwych głosów.

Firma twierdzi, że jeśli fałszywa próbka powstanie z wykorzystaniem znanych już narzędzi do klonowania głosu, Pulse Inspect jest w stanie wykryć oszustwo z aż 99 procentową dokładnością. Gdyby jednak oszuści użyli narzędzia, z którym oprogramowanie nie miało jeszcze do czynienia, wówczas skuteczność wyniesie 96,4%. Jeśli technologię połączy się z innymi czynnikami, takimi jak analiza głosu, analiza wzorców zachowań, profile urządzeń i metadane operatora, współczynnik wykrywania deepfake będzie jeszcze wyższy.

Oczywiście technologia do wykrywania oszustw nie jest jeszcze doskonała. Przeprowadzone przez firmę testy wykazały, że oprogramowanie nie klasyfikowało poprawnie głosów prawdziwych i fałszywych w 3 z 84 przetestowanych próbek. Producent zapewnia jednak, że będzie doskonalił swoje dzieło, by wyeliminować ten niewielki odsetek błędnych wskazań.

Tego typu technologia może być w przyszłości bardzo użyteczna, znacznie poprawiając walkę z oszustwami deepfake, których jest coraz więcej.