Pindrop przedstawia oprogramowanie Pulse Inspect do wykrywania fałszywych klonów głosowych AI, aby pomóc powstrzymać oszustwa i dezinformację
Firma Pindrop zaprezentowała oprogramowanie Pulse Inspect do wykrywania fałszywych klonów głosowych AI, aby pomóc powstrzymać oszustwa i dezinformację. Oprogramowanie wykorzystuje opatentowane technologie do niezawodnego wykrywania ponad 90% głosów generowanych przez sztuczną inteligencję, nawet przy próbkach audio o długości poniżej dziesięciu sekund.
Głosy sklonowane przez sztuczną inteligencję stały się tak przekonująco prawdziwe, że miliony osób straciło je w wyniku oszustw. Na początku tego roku złodzieje ukradli 25 milionów dolarów pracownikowi finansowemu w międzynarodowej firmie z Hongkongu, wykorzystując fałszywą rozmowę wideo, w której użyto fałszywych głosów dyrektora finansowego i innych pracowników. Deepfake'owe filmy polityczne były wykorzystywane do wpływania na wynik wyboróww tym nadchodzących wyborów w USA w 2024 roku. Fałszywe połączenia głosowe od polityków również zostały stworzone i wykorzystanewywołując wiele zamieszania.
Pindrop bada tę kwestię od ośmiu lat i posiada 25 patentów na wykrywanie fałszywych dźwięków. Ich najnowsza sztuczna inteligencja Pulse Inspect została przeszkolona na ponad 20 milionach prawdziwych i fałszywych próbek głosu. Fałszywe próbki głosu z ponad 370 różnych narzędzi do klonowania zapewniają wysoki wskaźnik wykrywalności. Sztuczna inteligencja dzieli próbki głosu na czterosekundowe klipy do analizy, wykorzystując unikalne cechy audio różnych algorytmów deepfake i dodatkowe cechy audio prawdziwych głosów do identyfikacji podróbek. Umożliwia to Pulse Inspect wykrywanie podróbek w 90% przypadków w obliczu sklonowanych głosów z nigdy wcześniej nie spotykanych narzędzi deepfake i 99% przypadków w obliczu głosów z wcześniej widzianych narzędzi.
Firmy powinny wiedzieć, że oprogramowanie do wykrywania oszustw nigdy nie jest doskonałe. Niedawny test Pulse Inspect przeprowadzony przez NPR wykazał, że oprogramowanie nie sklasyfikowało poprawnie prawdziwych i fałszywych głosów w 3 z 84 testowanych próbek. Wskaźnik niepowodzeń na poziomie 3,6% pozostawia atakującym niewielką szansę na odniesienie sukcesu, a firmy powinny zawsze stosować dogłębną obronę, aby chronić swoje aktywa.
Czytelnicy, którzy martwią się o swoje aktywa i swoich bliskich, powinni zabezpieczyć swoje konta za pomocą metod dwuskładnikowych, takich jak kody dostępu wysyłane SMS-em lub fizyczny klucz dwuskładnikowy(taki jak ten na Amazon), i upewnić się, że członkowie rodziny używają tajnego słowa lub frazy do weryfikacji swojej tożsamości podczas podejrzanych połączeń.
Źródło(a)
Pindrop uruchamia Pulse Inspect: Najnowocześniejsze rozwiązanie do walki z fałszerstwami i rozprzestrzenianiem się dezinformacji
PindropⓇ PulseTM Inspect umożliwia mediom, sieciom społecznościowym, organizacjom non-profit i rządom utrzymanie integralności treści poprzez identyfikację dźwięku generowanego przez sztuczną inteligencję z 99% dokładnością
Atlanta, GA - 15 sierpnia 2024 r. - Pindrop, światowy lider w dziedzinie uwierzytelniania głosowego i bezpieczeństwa od 2011 r., ogłosił dziś uruchomienie PindropⓇ PulseTM Inspect w wersji Preview. To innowacyjne narzędzie, najnowszy dodatek do najnowocześniejszej rodziny produktów PindropⓇ PulseTM do głębokiego wykrywania podróbek, może wykrywać mowę generowaną przez sztuczną inteligencję w dowolnym cyfrowym pliku audio z 99% dokładnością. Po wprowadzeniu Pindrop Pulse na początku tego roku i najnowszym finansowaniu Pindrop w lipcu, Pindrop Pulse Inspect rozszerza technologię Pindrop poza centra telefoniczne, ale teraz oferuje nowy przypadek użycia dla organizacji medialnych, organizacji non-profit, agencji rządowych i sieci mediów społecznościowych. Pulse Inspect szybko analizuje i weryfikuje, czy pliki multimedialne zawierają syntetyczną mowę, dzięki czemu klienci mogą proaktywnie zapobiegać rozprzestrzenianiu się dezinformacji i utrzymywać wiarygodność marki.
Generatywna sztuczna inteligencja doprowadziła do wzrostu liczby deepfake'ów, stanowiąc poważne zagrożenie dla wiarygodności organizacji. W raporcie Pindrop dotyczącym nastrojów konsumenckich związanych z deepfake'ami i klonami głosowymi szacuje się, że ponad 12 milionów dorosłych osób w USA zna kogoś, kto osobiście korzystał z deepfake'ów stworzonych bez ich zgody. Te syntetyczne pliki są często rozpowszechniane za pośrednictwem platform takich jak YouTube, TikTok, Instagram, Facebook i media informacyjne. Aby zapobiec narażeniu na te ewoluujące zagrożenia, organizacje mogą zastosować tę najnowocześniejszą technologię w celu ochrony swojego publicznego wizerunku i wiarygodności. Rozwiązanie Pulse firmy Pindrop radzi sobie z tym problemem, wykrywając podróbki z wyjątkową dokładnością.
Przyjmując Pulse Inspect, użytkownicy mogą przesyłać pliki audio na platformę Pindrop, aby szybko i dokładnie określić, czy pliki zawierają syntetyczną mowę. Pindrop zapewnia natychmiastowe wyniki deepfake i wgląd w określone części pliku, które zostały zidentyfikowane jako zawierające artefakty syntetyczne lub deepfake, dzięki czemu użytkownik może zwrócić większą uwagę na ten segment podczas przeglądania i przeprowadzania analizy. Dzięki Pulse Inspect użytkownicy mogą podejmować szybkie działania w celu ochrony integralności treści przed dystrybucją na dowolnej publicznej platformie informacyjnej, społecznościowej lub wydawniczej.
"Od ponad dekady Pindrop jest liderem innowacji w zakresie uwierzytelniania głosowego i bezpieczeństwa. Na przykład, odkryliśmy źródłowy silnik TTS używany w incydencie deepfake Bidena na początku tego roku, a krytyczna potrzeba solidnych mechanizmów wykrywania deepfake pojawiła się głośno i wyraźnie w moich rozmowach z dziesiątkami interesariuszy z różnych branż" - powiedział współzałożyciel i dyrektor generalny Pindrop, Vijay Balasubramaniyan. "Dzisiaj uruchamiamy Pulse Inspect, aby rozszerzyć naszą wiedzę w zakresie wykrywania fałszywych danych na organizacje takie jak media, organizacje non-profit, rządy i sieci mediów społecznościowych w kluczowym momencie historii. Dzięki Pulse Inspect umożliwiamy organizacjom ochronę integralności ich treści i przywracamy zaufanie do nowoczesnej ery cyfrowej"
Pulse Inspect jest zasilany przez zaawansowaną technologię wykrywania deepfake firmy Pindrop, która według niezależnego badania NPR jest o 40 punktów procentowych bardziej skuteczna niż najbliższy konkurent. Pindrop przeszkolił swój model wykrywania deepfake na ponad 350 narzędziach do generowania deepfake, ponad 20 milionach unikalnych wypowiedzi i ponad 40 językach, obejmujących ponad 90% języków używanych w Internecie. Ciągłe wyniki deepfake są dostarczane co cztery sekundy, umożliwiając identyfikację treści syntetycznych i ludzkich w mediach mieszanych. Ciągłe śledzenie żywotności umożliwia Pulse Inspect wykrycie, które segmenty dźwięku są syntetyczne, a które prawdziwe, co jest szczególnie pomocne, gdy tylko część dźwięku jest deepfake. Łatwa w użyciu, oparta na API platforma przetwarzania wsadowego i prosty interfejs użytkownika zapewniają przejrzystą analizę (syntetyczne vs. niesyntetyczne) z regulowanymi progami w oparciu o tolerancję ryzyka, ostatecznie oszczędzając czas, pieniądze i zasoby.
"Jako lider w dziedzinie syntetycznego głosu dla Hollywood, Respeecher ustanowił wytyczne i zasady, które zapewniają, że nasza technologia nie jest niewłaściwie wykorzystywana i pozostajemy zaangażowani w pionierski etyczny rozwój i wykorzystanie technologii klonowania głosu AI" - powiedział Alex Serdiuk, dyrektor generalny i współzałożyciel Respeecher, partnera Pindrop. "Technologia Pulse Inspect firmy Pindrop pomaga nam zapewnić, że nasza technologia wykrywania wyprzedza generatywne zagrożenia związane z atakami AI. Jesteśmy podekscytowani uruchomieniem Pindrop Pulse Inspect i z niecierpliwością czekamy na oddanie tej technologii w ręce naszych wspólnych klientów, aby mogli oni kryminalistycznie zbadać każdy dźwięk i określić jego syntetyczne pochodzenie"
"W związku ze zbliżającymi się wyborami w USA i dramatycznym wzrostem liczby syntetycznych dźwięków generowanych przez sztuczną inteligencję pojawiających się w tych połączeniach w 2024 r., YouMail, wizualna poczta głosowa i usługa blokowania połączeń Robocall, uznaje Pindrop Pulse Inspect za rozwiązanie umożliwiające dokładne wykrywanie fałszywych połączeń głosowych" - powiedział Mike Rudolph, dyrektor ds. technologii w YouMail. "Technologia Pindrop była nie tylko odporna na różne formaty audio, ale także imponująco dokładna na dużą skalę. Cieszymy się, że możemy współpracować z Pindrop, aby zidentyfikować robocall związane z wyborami, które są deepfake'ami, zwłaszcza że liczba tych połączeń rośnie w krytycznym okresie wyborczym w USA"
"TrueMedia.org to niedochodowy, bezpartyjny projekt AI mający na celu walkę z dezinformacją w kampaniach politycznych poprzez identyfikację zmanipulowanych mediów" - powiedział Oren Etzioni, dyrektor generalny TrueMedia.org. "Nasza kompleksowa ocena wykazała, że wykrywanie deepfake audio Pindrop ma lepszą dokładność niż inne alternatywy w wykrywaniu mowy syntetycznej. Cieszymy się, że możemy współpracować z Pindrop w tej misji i dodać technologię wykrywania deepfake Pindrop do rozwiązania dla naszych klientów i użytkowników na całym świecie"
