Oszustwa głosowe z użyciem AI. Aplikacja wykrywa podszywanie

Aplikacja Savi skanuje w czasie rzeczywistym przychodzące połączenia, SMS-y i wiadomości głosowe, by wykrywać modulacje głosu wygenerowane przez narzędzia sztucznej inteligencji. Ma wskazywać użytkownikowi, gdy głos prawdopodobnie został zsyntetyzowany lub zmodyfikowany.

Savi korzysta z modelu Gemini opracowanego przez Google. Model został dodatkowo wytrenowany na ponad 50 tysiącach zgłoszeń dotyczących oszustw zebranych w około cztery miesiące. Analizy obejmują zarówno sygnał audio, jak i treść wiadomości tekstowych.

Aplikację opracowali bracia Patrick i Ryan Coughlin. Obaj pracowali wcześniej w firmach technologicznych, w tym w Cisco, Splunk i Apple. Prace nad Savi rozpoczęły się po próbie oszustwa wymierzonej w ich matkę. Startup pozyskał około 7 milionów dolarów finansowania na rozwój produktu.

Savi dostępne jest obecnie tylko w Stanach Zjednoczonych. Usługa oferowana jest w modelu subskrypcyjnym — 8 dolarów miesięcznie lub 63 dolary rocznie — z opcją planu rodzinnego obejmującego bliskich. Aplikacja działa podczas połączeń i przy analizie przychodzących wiadomości oraz poczty głosowej.

Oszustwa wykorzystujące syntezę głosu opierają się na możliwości sklonowania czyjegoś głosu na podstawie niewielkiego fragmentu nagrania. Przestępcy dzwonią do bliskich, podając nagłe zdarzenia, jak wypadek czy porwanie, i proszą o pilny przelew. Zastosowanie silnych emocji i presji czasu utrudnia ofiarom weryfikację informacji.

W odpowiedzi na takie zagrożenia firmy technologiczne rozwijają własne mechanizmy weryfikacji. Google wprowadza aktualizacje do aplikacji Telefon, Kontakty i Wiadomości, które mają umożliwić potwierdzenie tożsamości rozmówcy przez komunikację z urządzeniem po drugiej stronie połączenia. Takie rozwiązania wymagają użycia domyślnych aplikacji Google i systemu Android. Twórcy Savi podkreślają, że ich aplikacja może być przydatna tam, gdzie nie wszyscy członkowie rodziny korzystają z Androida lub z natywnych aplikacji Google.