Czy to naprawdę się wydarzyło? AI zaciera granicę między prawdą a fałszem

ilustracja: Geralt • Pixabay Content License

Zdjęcie wydawało się już jednak czymś znacznie trudniejszym do zakwestionowania a nagranie często stanowiło niemal ostateczny argument w każdej dyskusji. Skoro kamera zarejestrowała konkretną osobę, jej twarz, głos i zachowanie, trudno było uciec od wrażenia, że mamy przed sobą zapis rzeczywistości a nie czyjąś interpretację wydarzeń.

Sztuczna inteligencja zaczyna jednak powoli, choć bardzo wyraźnie, podważać ten sposób myślenia. Dziś możliwe staje się stworzenie materiału, na którym konkretna osoba wypowiada słowa, których nigdy nie powiedziała, wykonuje gesty, których nigdy nie wykonała, albo znajduje się w miejscu, do którego w rzeczywistości nigdy nie trafiła. Można odtworzyć jej głos, sposób mówienia, mimikę i ruch twarzy a następnie zbudować wokół niej historię, która wygląda na autentyczną tylko dlatego, że coraz trudniej dostrzec prawdziwą granicę pomiędzy tym, co zostało zarejestrowane a tym, co zostało wygenerowane.

Największa zmiana nie polega więc wyłącznie na tym, że otrzymaliśmy kolejne zaawansowane narzędzie technologiczne. Znacznie ważniejsze jest to, że zaczyna zmieniać się nasze podstawowe podejście do obrazu i dźwięku, czyli rzeczy, które przez lata traktowaliśmy jako najbardziej oczywiste potwierdzenie tego, że coś takiego rzeczywiście miało miejsce.

Nagranie przestaje być końcem dyskusji

Jeszcze do niedawna pytania dotyczące wiarygodności materiału były stosunkowo proste. Zastanawialiśmy się, czy nagranie rzeczywiście istnieje, skąd pochodzi, kto je wykonał i czy przedstawia konkretne wydarzenie. W świecie, w którym coraz większą rolę odgrywają narzędzia wykorzystujące sztuczną inteligencję, dochodzi jednak pytanie znacznie bardziej fundamentalne: czy wydarzenie, które oglądamy, w ogóle miało miejsce w rzeczywistym świecie?

Oczywiście fałszowanie obrazu nie narodziło się wraz z AI. Zdjęcia retuszowano od dziesięcioleci, filmy montowano w taki sposób, aby zmieniać ich znaczenie a za pomocą specjalistycznego oprogramowania można było ingerować zarówno w obraz, jak i dźwięk. Różnica polega na tym, że przygotowanie przekonującej manipulacji przez długi czas wymagało wiedzy, odpowiednich narzędzi, doświadczenia i często wielu godzin pracy. Dziś coraz więcej rozwiązań staje się dostępnych dla osób, które nie mają profesjonalnego zaplecza technicznego a efekt końcowy może wyglądać na tyle wiarygodnie, że przeciętny odbiorca nie będzie w stanie od razu ocenić, gdzie kończy się rzeczywistość a zaczyna cyfrowa kreacja.

Nie oznacza to oczywiście, że nagrania przestaną mieć znaczenie. Oznacza raczej, że samo ich istnienie nie zawsze będzie wystarczającym argumentem. Coraz ważniejsze stanie się to, skąd materiał pochodzi, w jakich okolicznościach powstał, kto go udostępnił i czy można znaleźć inne źródła potwierdzające przedstawione wydarzenia.

Fałszywy materiał nie musi trafić do milionów osób

Kiedy pojawia się temat deepfake`ów, wyobraźnia często podsuwa nam spektakularne przykłady: fałszywe przemówienie polityka, nagranie znanego przedsiębiorcy albo kompromitujący film z udziałem celebryty. Tymczasem znacznie bardziej prawdopodobne i w wielu przypadkach groźniejsze zastosowanie tej technologii może dotyczyć zupełnie zwyczajnych ludzi, którzy nie mają milionów obserwujących ani rozpoznawalnego nazwiska.

Wyobraźmy sobie pracownika, który otrzymuje wiadomość głosową od osoby brzmiącej dokładnie jak jego przełożony. Głos jest znajomy, sposób mówienia nie wzbudza podejrzeń a polecenie wydaje się konkretne i pilne: trzeba wykonać przelew, przesłać dokument albo przekazać określone dane. W takim przypadku nie ma potrzeby tworzenia perfekcyjnego materiału, który oszuka specjalistów zajmujących się technologią. Wystarczy, że będzie on przekonujący dla jednej osoby w konkretnym momencie, zwłaszcza wtedy, gdy działa ona pod presją czasu i ma poczucie, że nie powinna zadawać dodatkowych pytań.

To właśnie w tym miejscu sztuczna inteligencja spotyka się z mechanizmami, które oszuści wykorzystują od dawna. Technologia nie musi zmieniać ludzkiej psychologii, ponieważ ludzie nadal reagują na pośpiech, autorytet, strach i zaufanie w podobny sposób. AI może jednak sprawić, że manipulacja będzie bardziej przekonująca niż klasyczny podejrzany e-mail albo wiadomość napisana łamaną polszczyzną.

Znajomy głos może uruchomić odruchową reakcję szybciej niż tekst a twarz konkretnej osoby może stworzyć poczucie bezpieczeństwa tam, gdzie wcześniej pojawiłaby się ostrożność. Dlatego wraz z rozwojem technologii coraz większego znaczenia nabiera zwykły, niemal banalny nawyk: w sytuacjach wymagających szybkiej decyzji, zwłaszcza dotyczącej pieniędzy lub ważnych informacji, warto potwierdzić komunikat drugim, niezależnym kanałem.

AI zmienia również sposób prowadzenia sporów

Fałszywe materiały mogą służyć oszustwom, ale byłoby błędem ograniczanie całej dyskusji wyłącznie do tego zagrożenia. Równie interesujące a dla wielu osób znacznie bliższe codziennemu życiu, są konflikty, które już od dawna przenoszą się do świata cyfrowego.

Internet zmienił sposób, w jaki ludzie się ze sobą spierają. Kłótnia pomiędzy wspólnikami, konflikt po zakończeniu związku, nieporozumienie pomiędzy pracownikiem i pracodawcą czy nawet zwykły sąsiedzki spór mogą dziś pozostawić po sobie długą cyfrową historię. Są wiadomości zapisane w komunikatorach, skreeny, zdjęcia, nagrania, maile i wpisy publikowane w mediach społecznościowych, które czasami stają się kolejnym etapem konfliktu a nie jego dokumentacją.

AI może dodatkowo skomplikować tę rzeczywistość. Jeżeli technologia pozwala stworzyć realistyczny materiał przedstawiający konkretną osobę w kompromitującej sytuacji, pojawia się nowy rodzaj zagrożenia dla reputacji. Człowiek może zostać zmuszony do tłumaczenia się z wydarzenia, które nigdy nie miało miejsca, podczas gdy materiał zdążył już trafić do współpracowników, znajomych lub przypadkowych użytkowników Internetu.

Mechanizm rozpowszechniania takich treści jest przy tym dobrze znany i nie wymaga nawet sztucznej inteligencji. Najpierw pojawia się materiał, później przyciąga uwagę, następnie zaczynają się udostępnienia, komentarze i własne interpretacje. Dopiero po pewnym czasie ktoś próbuje ustalić, czy rzeczywiście przedstawiał prawdę. AI nie stworzyła tego mechanizmu, ale może dostarczyć mu nowych, znacznie bardziej przekonujących materiałów.

A co, jeśli prawdziwe nagranie zostanie uznane za fałszywe?

To być może jeden z najbardziej interesujących paradoksów związanych z rozwojem tej technologii. Zazwyczaj patrzymy na deepfake przede wszystkim jako na sposób tworzenia fałszywych obrazów, głosów i nagrań. Istnieje jednak również odwrotne ryzyko, które może z czasem stać się równie istotne.

Jeżeli wszyscy wiemy, że materiały wideo można dziś generować i modyfikować przy użyciu AI, łatwiej będzie również zakwestionować nagrania autentyczne. Osoba rzeczywiście zarejestrowana podczas konkretnego zdarzenia może twierdzić, że materiał został zmanipulowany albo w całości wygenerowany przez sztuczną inteligencję. W ten sposób rozwój technologii może stworzyć problem nie tylko z fałszowaniem rzeczywistości, ale również z obroną prawdziwych wydarzeń przed zarzutem, że są cyfrową manipulacją.

To z kolei zmienia sposób, w jaki będziemy musieli myśleć o materiałach cyfrowych. Coraz większe znaczenie może mieć nie tylko samo nagranie, ale również jego pochodzenie, historia i kontekst. Kto je zarejestrował? Gdzie zostało zapisane? Czy można ustalić, kiedy powstało? Czy istnieją inne materiały lub dowody potwierdzające przedstawione wydarzenia? W przyszłości pytanie o istnienie nagrania może być więc dopiero początkiem znacznie szerszej analizy.

Technologia nie odpowiada za sposób, w jaki zostanie wykorzystana

W dyskusji o sztucznej inteligencji bardzo często pojawia się potrzeba znalezienia jednej, prostej odpowiedzi. Czy deepfake jest legalny? Czy można wykorzystać czyjś głos? Czy stworzenie fałszywego nagrania jest przestępstwem? Problem polega na tym, że rzeczywistość jest znacznie bardziej złożona a sama technologia nie zawsze pozwala automatycznie ocenić konkretną sytuację.

Znaczenie ma przede wszystkim to, co zostało stworzone, kogo dotyczy materiał, w jakim celu został wykorzystany i jakie skutki wywołał. Zupełnie inaczej można patrzeć na eksperyment technologiczny lub materiał satyryczny a inaczej na sytuację, w której fałszywy głos, wizerunek lub nagranie zostają wykorzystane do oszustwa, podszywania się pod inną osobę albo świadomego wyrządzenia jej szkody.

Jak wyjaśnia adwokat Ernest Mocarski, samo stworzenie zmanipulowanego materiału nie przesądza jeszcze automatycznie o odpowiedzialności karnej. Istotne znaczenie ma przede wszystkim sposób jego wykorzystania oraz konsekwencje, jakie może wywołać wobec konkretnej osoby. To ważne rozróżnienie, ponieważ w publicznej dyskusji o AI często próbujemy sprowadzić bardzo różne sytuacje do prostego pytania, czy dana technologia jest dobra, czy zła, podczas gdy rzeczywisty problem zaczyna się zazwyczaj znacznie później, w chwili, gdy człowiek postanawia wykorzystać konkretne narzędzie przeciwko drugiej osobie.

Fałszywy obraz może wywołać bardzo realne skutki

W świecie cyfrowym coraz trudniej zachować pełną kontrolę nad własnym wizerunkiem i reputacją. Przedsiębiorca może zostać przedstawiony jako uczestnik nieuczciwego procederu, pracownik może pojawić się w nagraniu sugerującym zachowanie, którego nigdy nie było a czyjś głos może zostać wykorzystany do przekazania fałszywej informacji. W każdym z tych przypadków technologia może stworzyć coś, co wygląda jak dokumentacja rzeczywistości, choć w rzeczywistości jest jedynie jej cyfrową imitacją.

Techniczne ustalenie, że materiał został zmanipulowany, nie zawsze oznacza jednak szybkie rozwiązanie problemu. Jeżeli nagranie zdążyło dotrzeć do klientów, współpracowników, znajomych lub członków rodziny, skutki mogą pozostać nawet wtedy, gdy fałszerstwo zostanie później udowodnione. Zaufanie buduje się długo a w świecie Internetu można je podważyć znacznie szybciej, niż później odbudować.

Właśnie dlatego problem związany z rozwojem AI nie dotyczy wyłącznie informatyków, prawników czy specjalistów od nowych technologii. Dotyczy każdego, kto posiada głos, twarz, wizerunek i jakąkolwiek obecność w świecie cyfrowym.

W świecie AI warto nauczyć się nowego odruchu

Nie oznacza to, że od tej chwili powinniśmy traktować każde nagranie jako potencjalną manipulację. Taka postawa byłaby równie niepraktyczna, jak bezrefleksyjne wierzenie we wszystko, co pojawia się na ekranie. Potrzebny jest raczej nowy rodzaj ostrożności, który nie polega na obsesyjnym poszukiwaniu fałszu, ale na umiejętności zatrzymania się wtedy, gdy sytuacja wywołuje silne emocje albo wymaga natychmiastowego działania.

Jeżeli materiał wydaje się wyjątkowo sensacyjny, przedstawia zdarzenie, które trudno zweryfikować, albo ma skłonić nas do szybkiej decyzji, warto poświęcić chwilę na sprawdzenie źródła i poszukanie dodatkowego potwierdzenia. W przypadku wiadomości dotyczącej pieniędzy szczególnie rozsądne jest skontaktowanie się z daną osobą innym kanałem. Prosty telefon, dodatkowa wiadomość czy osobiste potwierdzenie mogą czasami znaczyć więcej niż najbardziej przekonujące nagranie wygenerowane przez zaawansowany system.

Czy to naprawdę się wydarzyło?

To pytanie przez lata miało stosunkowo proste znaczenie. Dziś zaczyna obejmować znacznie więcej niż jeszcze niedawno. Nie zawsze wystarczy już ustalić, czy istnieje nagranie i co dokładnie przedstawia. Coraz częściej konieczne będzie również pytanie o to, kto stworzył materiał, w jaki sposób powstał i czy rzeczywiście dokumentuje wydarzenia, które na pierwszy rzut oka wydają się oczywiste.

Sztuczna inteligencja prawdopodobnie nie sprawi, że z dnia na dzień przestaniemy ufać własnym oczom i uszom. Może jednak nauczyć nas większej ostrożności wobec czegoś, co przez lata traktowaliśmy jako niemal niepodważalny dowód. W świecie, w którym technologia potrafi coraz skuteczniej naśladować rzeczywistość, wiarygodność nie zawsze będzie wynikała z tego, jak przekonująco coś wygląda.

Nagranie, które jeszcze niedawno mogło kończyć dyskusję, coraz częściej może być jedynie początkiem najważniejszych pytań.