menu szukaj
tygodnik internetowy ISSN 2544-5839
nowe artykuły w każdy poniedziałek
tytuł monitorowany przez IMM i PSMM
zamknij
Czytaj gazety  PDF. Na kmputerze, czytniku, tablecie i smartfonie.

8.07.2024 Prawo w mediach

Deepfake, Lip Sync i artefakty. Jak oszuści używają sztucznej inteligencji

grg/ mick, PAP Nauka w Polsce

W internecie pojawia się coraz więcej przestępstw typu deepfake - ostrzegają eksperci z instytutu badań Naukowej i Akademickiej Sieci Komputerowej. Technika oszustw polega na wykorzystaniu głosu i twarzy znanych osób, obrobionych przy pomocy sztucznej inteligencji.

Deepfake, Lip Sync i artefakty. Jak oszuści używają sztucznej inteligencjiilustracja: bing.com/create

Eksperci z NASK poinformowali, że w internecie pojawia się coraz więcej oszustw opartych na filmach, w których używa się wizerunku osób publicznych, jak np. piłkarz Robert Lewandowski czy ministra zdrowia Izabela Leszczyna. W filmach używa się techniki "lip sync" (synchronizacja ruchu ust - PAP), tak by sztucznie wygenerowany głos zgadzał się z ruchem ust i gestykulacją - wyjaśniono. Sam termin deepfake wynika z połączenia techniki sztucznej inteligencji "deep learning" (z ang. zaawansowane uczenie się) oraz fake (z ang. fałszywy).

W komentarzu NASK przytacza przykład z marca br., kiedy to w serwisie społecznościowym pojawił się film typu deepfake z właścicielem i prezesem firmy InPost Rafałem Brzoską. Pomimo szybkiej reakcji pokrzywdzonego i zgłoszenia sprawy do administratorów serwisu Meta, film był dostępny na platformie przez wiele dni.

- Technologie umożliwiają obecnie przestępcom łatwe manipulacje materiałami audiowizualnymi. W przypadku technologii typu +text-to-speech+, wystarczy im zaledwie kilka sekund nagranego głosu, aby stworzyć nowy podkład dźwiękowy, który może być zsynchronizowany z materiałem wideo, na przykład z dowolnego przemówienia czy wiecu politycznego. Dla technologii +speech-to-speech+, w której intonacja, emocje zawarte w głosie są bardziej złożone, do wykonania podróbki potrzebny jest dłuższy fragment, około jednej minuty oryginalnego materiału" - wyjaśniła kierowniczka zespołu NASK ds. analizy deepfake Ewelina Bartuzi-Trokielewicz.

REKLAMA

Eksperci przekazali, że w maju br. ponownie nastąpił wysyp filmów typu deepfake, które wykorzystują wizerunek znanych osób jak np. influencera Kamila Labuddy, prezydenta Andrzeja Dudy czy ponownie Rafała Brzoski. Jak dodali, na kradzież wizerunku i głosu są narażone osoby znane, jak np. aktorzy, celebryci czy biznesmeni oraz cieszące się zaufaniem w pewnych kręgach i traktowane jako autorytet.

- Użytkownicy mediów społecznościowych powinni ostrożnie podchodzić do treści wideo, które wydają się niezweryfikowane lub podejrzane. Dotyczy to zwłaszcza tych materiałów, które mają potencjalny wpływ na publiczne postrzeganie znaczących postaci i instytucji - przestrzegła ekspertka NASK.

Jak podkreślono tego typu oszustwa stają się coraz trudniejsze do wykrycia. Rozwijająca się sztuczna inteligencja pozwala coraz dokładniej podkładać sztucznie wygenerowany głos, jednak eksperci zaznaczyli, że nie jest to niemożliwe. Należy oglądany film sprawdzić od strony technicznej i analizować jego przekaz.

Wśród zastrzeżeń technicznych sugerujących oszustwo eksperci wymieniają: zniekształcenie obraz w okolicy ust, problem w odwzorowaniu uzębienia, nienaturalny ruch głową i mimika, błędy w odmianie słów czy nietypową intonację.

Amazon Prime
- Coraz częściej oszuści stosują też technikę dodawania szumów i różnego rodzaju plam na nagraniach, co ma na celu zakłócenie klarowności przekazu obrazu, ukrycie artefaktów generowanych przez sztuczną inteligencję oraz dezorientację algorytmów automatycznej detekcji deepfake`ów - dodała Bartuzi-Trokielewicz.

NASK dodał, że w filmach zastosowane są różne socjotechniki mające nakłonić odbiorcę, jak np.: obietnica szybkiego zysku, wyjątkowość oferty połączona z ograniczonym dostępem w czasie, ponaglanie do działania oraz odwoływanie się do emocji odbiorcy.

W przypadku zaobserwowania takiego materiału NASK zachęca do szybkiej reakcji oraz poinformowania odpowiednich organów, które mogą uchronić innych od zostania ofiarą oszustwa. Można np. zgłosić materiał do zespołu CERT Polska poprzez sms (numer: 8080) lub stronę incydent.cert.pl. Istnieje możliwość przesłania materiału na adres mailowy instytutu (deepfake@nask.pl), który pozwoli na analizę materiału w celu opracowania możliwości zapobiegania takim praktykom w przyszłości.

Źródło: naukawpolsce.pl

Udostępnij znajomym:

dodaj na Facebook prześlij przez Messenger dodaj na Twitter dodaj na LinkedIn

PRZERWA NA REKLAMĘ

Najnowsze w dziale Prawo w mediach:

Prawo wkrótce będzie tworzyć nam AI. Prognozy eksperta PIE [ROZMOWA]

Mira Suchodolska
– Zanim algorytmy zaczną wydawać wyroki, pewnie jeszcze minie trochę czasu, ale już wkrótce AI będzie pomagała tworzyć uzasadnienia do decyzji sądowych i uczestniczyć w procesie tworzenia aktów prawnych – przewiduje Ignacy Święcicki, kierownik Zespołu Gospodarki Cyfrowej w Polskim Instytucie Ekonomicznym.

Jak rządy w Azji Południowej manipulują mediami. Raport IFJ

Krzysztof Fiedorek
Azja Południowa zmaga się z ogromnymi wyzwaniami w utrzymaniu demokracji i wolności prasy. Najnowszy raport Międzynarodowej Federacji Dziennikarzy (IFJ), „Artificial Independence: The Fight To Save Media and Democracy”, przedstawia rosnące zagrożenia dla dziennikarzy, którzy mierzą się z przemocą, presją finansową i cenzurą

Influencer i podatki. Jaki podatek od umowy barterowej?

Mikołaj Gendaszyk
Influencer otrzymuje produkty lub usługi w zamian za promocję, recenzję lub innego rodzaju działania marketingowe. Barter polega więc na wymianie usług lub towarów bez bezpośredniego przepływu pieniędzy. Rodzi się zatem wątpliwość, w jaki sposób umowy barterowe powinny być rozliczane pod kątem fiskusa.

Podobne artykuły:

Rozpoznać fake news. Technologie do tworzenia fałszywych informacji

BARD
Do fałszowania informacji coraz częściej wykorzystywana jest sztuczna inteligencja. Istnieje już oprogramowanie, dzięki któremu można manipulować wystąpieniami publicznymi polityków. Boty coraz częściej są wykorzystywane także w Polsce, a hejt i trolling to jedne z największych zagrożeń dla internetu.

Prywatność w sieci to oksymoron. "Ktoś Cię namierzył"

Dawid Michnik
„Ktoś Cię namierzył/You’ve been tracked!” To hasło kampanii organizowanej przez Fundację Panoptykon wspólnie z holenderską organizacją Bits of Freedom i belgradzkim d:mode studio. Jej celem jest uświadomienie internautom, że prywatność w sieci to mit i propozycja zmiany zasad reklamowej gry w internecie.

Oświadczenie Rady Etyki PR w sprawie influencerów i blogerów

Rada Etyki Public Relations
Rada Etyki Public Relations z niepokojem obserwuje postępujące zacieranie różnic między public relations a wieloma innymi, odrębnymi dziedzinami komunikacji rynkowej i społecznej.

Co ePrivacy będzie oznaczać w praktyce?

Milena Wilkowska
Rozporządzenie ePrivacy ma dostosować przepisy w zakresie ochrony prywatności i danych w komunikacji elektronicznej do obecnych realiów rynkowych i postępu technicznego.

więcej w dziale: Prawo w mediach

dołącz do nas

Facebook LinkedIn X Twitter Google RSS

praca w mediach

Wydawca, redaktor
praca stacjonarna i online Dziennikarz, reporter
oferty mediów lokalnych, regionalnych i ogólnopolskich Grafik, Social Media, SEO, reklama
Warszawa • Białystok • Bydgoszcz • Gdańsk • Katowice • Kielce • Kraków • Lublin • Łódź • Olsztyn • Opole • Poznań • Rzeszów • Szczecin • Toruń • Wrocław • Zielona Góra • Praca zdalna Więcej

reklama

WhitePress - zarabiaj na swojej stronie
Dwornik.pl • szkolenia • warsztaty • marketing internetowy



Sklep reportera

Sklep reportera

Niedrogie laptopy, notebooki i netbooki
Niedrogie laptopy, notebooki i netbooki
do pisania
Cyfrowe lustrzanki i aparaty kompaktowe
Cyfrowe lustrzanki i aparaty kompaktowe
dla fotoreportera
Książki i e-booki o mediach
Książki i e-booki o mediach
do czytania
Drony wideo i latające kamery
Drony wideo i latające kamery
dla pilota
Gimbale do stabilizacji wideo
Gimbale do stabilizacji wideo
dla operatora
Oprogramowanie i aplikacje
Oprogramowanie i aplikacje
dla twórców
więcej produktów

zarabiaj

Zarabiaj przez internet

więcej ofert
gazety w PDF i epub

Czytaj gazety w PDF i EPUB

Okładka 21.WIEK HISTORY
21.WIEK HISTORY
Okładka Gazeta Wyborcza
Gazeta Wyborcza
Okładka National Geographic Traveler
National Geographic Traveler
Okładka Rzeczpospolita
Rzeczpospolita
Okładka Tygodnik Do Rzeczy
Tygodnik Do Rzeczy
Okładka Wysokie Obcasy Extra
Wysokie Obcasy Extra
więcej e-gazet

Reporterzy.info

Dla głodnych wiedzy

Nasze serwisy

Współpraca


© Dwornik.pl Bartłomiej Dwornik 2oo1-2o25
stats