menu szukaj
tygodnik internetowy ISSN 2544-5839
nowe artykuły w każdy poniedziałek
tytuł monitorowany przez IMM i PSMM
zamknij
REKLAMAAmazon Prime

8.07.2024 Prawo w mediach

Deepfake, Lip Sync i artefakty. Jak oszuści używają sztucznej inteligencji

grg/ mick, PAP Nauka w Polsce

W internecie pojawia się coraz więcej przestępstw typu deepfake - ostrzegają eksperci z instytutu badań Naukowej i Akademickiej Sieci Komputerowej. Technika oszustw polega na wykorzystaniu głosu i twarzy znanych osób, obrobionych przy pomocy sztucznej inteligencji.

Deepfake, Lip Sync i artefakty. Jak oszuści używają sztucznej inteligencjiilustracja: bing.com/create

Eksperci z NASK poinformowali, że w internecie pojawia się coraz więcej oszustw opartych na filmach, w których używa się wizerunku osób publicznych, jak np. piłkarz Robert Lewandowski czy ministra zdrowia Izabela Leszczyna. W filmach używa się techniki "lip sync" (synchronizacja ruchu ust - PAP), tak by sztucznie wygenerowany głos zgadzał się z ruchem ust i gestykulacją - wyjaśniono. Sam termin deepfake wynika z połączenia techniki sztucznej inteligencji "deep learning" (z ang. zaawansowane uczenie się) oraz fake (z ang. fałszywy).

W komentarzu NASK przytacza przykład z marca br., kiedy to w serwisie społecznościowym pojawił się film typu deepfake z właścicielem i prezesem firmy InPost Rafałem Brzoską. Pomimo szybkiej reakcji pokrzywdzonego i zgłoszenia sprawy do administratorów serwisu Meta, film był dostępny na platformie przez wiele dni.

- Technologie umożliwiają obecnie przestępcom łatwe manipulacje materiałami audiowizualnymi. W przypadku technologii typu +text-to-speech+, wystarczy im zaledwie kilka sekund nagranego głosu, aby stworzyć nowy podkład dźwiękowy, który może być zsynchronizowany z materiałem wideo, na przykład z dowolnego przemówienia czy wiecu politycznego. Dla technologii +speech-to-speech+, w której intonacja, emocje zawarte w głosie są bardziej złożone, do wykonania podróbki potrzebny jest dłuższy fragment, około jednej minuty oryginalnego materiału" - wyjaśniła kierowniczka zespołu NASK ds. analizy deepfake Ewelina Bartuzi-Trokielewicz.

REKLAMA

Eksperci przekazali, że w maju br. ponownie nastąpił wysyp filmów typu deepfake, które wykorzystują wizerunek znanych osób jak np. influencera Kamila Labuddy, prezydenta Andrzeja Dudy czy ponownie Rafała Brzoski. Jak dodali, na kradzież wizerunku i głosu są narażone osoby znane, jak np. aktorzy, celebryci czy biznesmeni oraz cieszące się zaufaniem w pewnych kręgach i traktowane jako autorytet.

- Użytkownicy mediów społecznościowych powinni ostrożnie podchodzić do treści wideo, które wydają się niezweryfikowane lub podejrzane. Dotyczy to zwłaszcza tych materiałów, które mają potencjalny wpływ na publiczne postrzeganie znaczących postaci i instytucji - przestrzegła ekspertka NASK.

Jak podkreślono tego typu oszustwa stają się coraz trudniejsze do wykrycia. Rozwijająca się sztuczna inteligencja pozwala coraz dokładniej podkładać sztucznie wygenerowany głos, jednak eksperci zaznaczyli, że nie jest to niemożliwe. Należy oglądany film sprawdzić od strony technicznej i analizować jego przekaz.

Wśród zastrzeżeń technicznych sugerujących oszustwo eksperci wymieniają: zniekształcenie obraz w okolicy ust, problem w odwzorowaniu uzębienia, nienaturalny ruch głową i mimika, błędy w odmianie słów czy nietypową intonację.

REKLAMA

- Coraz częściej oszuści stosują też technikę dodawania szumów i różnego rodzaju plam na nagraniach, co ma na celu zakłócenie klarowności przekazu obrazu, ukrycie artefaktów generowanych przez sztuczną inteligencję oraz dezorientację algorytmów automatycznej detekcji deepfake`ów - dodała Bartuzi-Trokielewicz.

NASK dodał, że w filmach zastosowane są różne socjotechniki mające nakłonić odbiorcę, jak np.: obietnica szybkiego zysku, wyjątkowość oferty połączona z ograniczonym dostępem w czasie, ponaglanie do działania oraz odwoływanie się do emocji odbiorcy.

W przypadku zaobserwowania takiego materiału NASK zachęca do szybkiej reakcji oraz poinformowania odpowiednich organów, które mogą uchronić innych od zostania ofiarą oszustwa. Można np. zgłosić materiał do zespołu CERT Polska poprzez sms (numer: 8080) lub stronę incydent.cert.pl. Istnieje możliwość przesłania materiału na adres mailowy instytutu (deepfake@nask.pl), który pozwoli na analizę materiału w celu opracowania możliwości zapobiegania takim praktykom w przyszłości.

Źródło: naukawpolsce.pl

Udostępnij znajomym:

dodaj na Facebook prześlij przez Messenger dodaj na Twitter dodaj na LinkedIn

PRZERWA NA REKLAMĘ

Zobacz artykuły na podobny temat:

Mowa nienawiści. Jak ją zatrzymać?

Paweł Kowalewicz
Według badania NASK z grudnia 2016 roku, 32 proc. polskich nastolatków było wyzywanych w Internecie, co piąty był poniżany i ośmieszany, a co dziesiąty szantażowany. Jeszcze gorzej wyglądają te dane, gdy nastolatki opowiadali o swoich znajomych.

Hejt w komentarzach. Jak go ograniczyć, jak z nim walczyć

Ludwika Tomala
Hejt nie jest domyślnym sposobem komunikacji w sieci. A walka z toksycznym językiem nie oznacza łamania wolności słowa - tłumaczy językoznawca dr Paweł Trzaskowski. Badacz opisuje mechanizmy hejtu i skuteczne sposoby na ograniczenie tego zjawiska.

Książki z najlepszych i legalnych źródeł. Czytaj z Kulturą Na Widoku

Szymon Majewski
Biografie Stanisława Lema i Witolda Gombrowicza. Najnowsza powieść Zygmunta Miłoszewskiego i opowiadania Olgi Tokarczuk. Poezja, klasyki literatury światowej, przedwojenne poradniki i książki edukacyjne dla dzieci. Łącznie ponad 130 tytułów - tyle literackich pereł znajdziecie w Kulturze Na Widoku.

Zasada domniemania niewinności a media

dr Anna Malicka-Ochtera
Czy w dobie internetu, wszechobecnych kamer i podsłuchów, przecieków z postępowania przygotowawczego oraz błyskawicznego tempa przepływu informacji, podstawowa zasada procesu karnego, czyli zasada domniemania niewinności ma rację bytu? Kogo dotyczy ta zasada? Jakie jest jej znaczenie oraz czas obowiązywania?

Nowe regulacje w sprawie utrwalania audycji i reklam przez nadawców

Krajowa Rada Radiofonii i Telewizji
Nowa regulacja Krajowej Rady Radiofonii i Telewizji wprowadza obowiązek utrwalania i przechowywania przez nadawców audycji, reklam i innych przekazów w postaci plików cyfrowych. Przepisy weszły w życie 13 października 2017 roku.

Jak współpraca z kancelarią prawną może pomóc w pracy dziennikarskiej?

artykuł sponsorowany
Dziennikarstwo to nie tylko poszukiwanie prawdy, ale również umiejętne poruszanie się w gąszczu, często zawiłych, przepisów prawnych. Współpraca z kancelarią prawną staje się koniecznością dla dziennikarzy, którzy z jednej strony chcą dostarczać czytelnikom treści najwyższej jakości, a z drugiej działać zgodnie z literą prawa.

PITy 2017 - rozliczenie roczne dziennikarza

Pitax.pl
Przed przystąpieniem do wypełnienia rocznej deklaracji podatkowej, koniecznie sprawdźmy, czy nasze rozliczenie roczne PIT za 2017 rok uwzględnia prawidłowo wyliczone przez płatnika koszty uzyskania przychodu. Deklaracje podatkowe PIT są co roku aktualizowane. [artykuł sponsorowany]

więcej w dziale: Prawo w mediach

dołącz do nas

Facebook LinkedIn X Twitter Google RSS

praca w mediach

Wydawca, redaktor
praca stacjonarna i online Dziennikarz, reporter
oferty mediów lokalnych, regionalnych i ogólnopolskich Więcej

reklama


Dwornik.pl • szkolenia • warsztaty • marketing internetowy

zarabiaj

Zarabiaj przez internet

więcej ofert



Reporterzy.info

Dla głodnych wiedzy

Nasze serwisy

Współpraca


© Dwornik.pl Bartłomiej Dwornik 2oo1-2o24