20.11.2023 Rynek medialny
Mowa nienawiści i ekstremizm. Luki w politykach platform social media
NB
Naukowcy z Uniwersytetu Huddersfield w Wielkiej Brytanii wykazali, że użytkownicy mediów społecznościowych nawet przez połowę czasu tam spędzanego mogą mieć styczność z przekazami z mową nienawiści i treściami ekstremistycznymi. To daje średnio około 70 minut dziennie.

Naukowcy wskazują na dużą rozbieżność między negatywnymi doświadczeniami osób korzystających z portali społecznościowych a wprowadzonym przez te serwisy poziomem zabezpieczeń przed rozpowszechnianiem niepożądanych treści.
- Szacunkowa liczba osób, które obecnie korzystają z mediów społecznościowych na świecie, wynosi około 60 proc., co oznacza, że korzystają z nich właściwie wszyscy, jeśli odliczymy osoby zbyt młode, żeby mieć konto w mediach społecznościowych, i osoby będące podeszłym wieku. Mówimy więc o populacji w wieku od około 16 lat do 70- czy 80-latków, która stale rośnie - mówi agencji Newseria Innowacje Thomas Williams z Uniwersytetu Huddersfield w Wielkiej Brytanii. - Z biegiem lat media społecznościowe stały się częścią życia codziennego i komunikacji, również w pracy. Wiele osób realizuje się zawodowo w mediach społecznościowych. Należą one więc do istotnych elementów naszego życia społecznego w internecie.
Badanie opublikowane przez Global Network on Extremism and Technology miało na celu porównanie doświadczeń użytkowników social mediów pod względem narażenia na treści nienawistne i ekstremistyczne (w tym promujące rasizm, antysemityzm i ksenofobię) a zabezpieczeniami wprowadzonymi przez te serwisy.
Doświadczenia użytkowników zbadano za pomocą kwestionariusza zawierającego skalę narażenia na ekstremalne treści (OECE). Składał się z:
- 12 pytań na temat mowy nienawiści,
- 8 dotyczących treści ekstremistycznych.
Każde pytanie dotyczące mowy nienawiści dotyczyło innego tematu, np. konkretnych ras, płci i religii. Część kwestionariusza dotycząca komunikacji ekstremistycznej skupiała się na materiałach, które wychwalają, wspierają lub reprezentują skrajną ideologię lub grupę. Miarą doświadczeń użytkowników była sześciopunktowa skala Likerta – od odpowiedzi „nigdy” do „zawsze”.
Wyniki kwestionariusza naukowcy zestawili następnie z działaniami portali w zakresie polityki ochronnej. Największe serwisy, takie jak Facebook, Twitter, YouTube, Pinterest czy Instagram, w wytycznych dla swoich społeczności otwarcie zaznaczają, że nie tolerują mowy nienawiści i ekstremizmu. Choć serwisy ciągle ulepszają swoje środki ochronne, okazuje się, że użytkownicy są bardzo narażeni na niepożądane treści.
- Po porównaniu wyników stwierdziliśmy, że prawie wszystkie portale społecznościowe, z których korzysta większość populacji, stwierdzają, że nie tolerują żadnych form mowy nienawiści ani wymiany treści ekstremistycznych, a jednak uczestnicy naszego badania zgłaszali, że byli narażeni na takie treści dosyć często - podkreśla Thomas Williams. - Było tak w przypadku około 48 proc. czasu korzystania z mediów społecznościowych. Skoro przeciętny użytkownik spędza w social mediach 2,5 godziny dziennie, oznacza to około 70 minut dziennie narażenia na materiały o charakterze ekstremistycznym.
Naukowcy są zdania, że istnieje kilka możliwych wyjaśnień rozbieżności między doświadczeniami użytkowników a polityką ochronną portali społecznościowych. W przypadku firm, których siedzibą są Stany Zjednoczone, problemem mogą być uwarunkowania prawne. Znane serwisy, takie jak Facebook, Twitter czy Reddit, są chronione ustawą Communications Decency Act z 1996 roku, która zapewnia ochronę witryn mediów społecznościowych w zakresie treści i nakłada odpowiedzialność za publikacje na użytkowników, którzy je zamieszczają. Ci z kolei mają konstytucyjne prawo do wolności słowa, co teoretycznie może chronić osoby promujące treści nienawistne i skrajne.

Kolejną podnoszoną przez naukowców kwestią jest to, że serwisy społecznościowe wykrywają znaczną ilość niepożądanych treści i usuwają je, zanim użytkownicy zdążą się z nimi zapoznać. Raport Facebooka wskazuje, że jest to:
- 82 proc. mowy nienawiści
- 99,1 proc. treści ekstremistycznych.
W przypadku Instagrama te wartości wynoszą odpowiednio 95,3 proc. i 95,1 proc. Jednak ta pozostała, niewielka część, która nie jest natychmiast wyłapywana, stanowi prawie połowę treści, na które użytkownicy zgłaszają narażenie. Poza tym okazuje się, że moderowanie treści jest skuteczniejsze w przypadku komunikacji i propagandy ekstremistycznej. Mowa nienawiści jest dla serwisów trudniejsza do wykrycia, dlatego to na nią użytkownicy portali są narażeni w większym stopniu.
- Wyniki badania są niepokojące i zaskakujące, dlatego że im bardziej jesteśmy narażeni na szkodliwe treści, tym większa szansa, że trafią one do osób podatnych na nie, do osób, które można nakłonić lub zachęcić do przyłączenia się do zwolenników tych ideologii. Prowadzi to także do wzrostu liczby osób prezentujących postawy radykalne i większego prawdopodobieństwa wystąpienia aktów przemocy, jeśli proces radykalizacji będzie postępował - zauważa badacz z Uniwersytetu Huddersfield.
Jego zdaniem można skuteczniej ograniczyć ilość niepożądanych treści docierających do użytkowników serwisów społecznościowych.
– Portale mogą korzystać z badań naukowych, które wskazują na luki w obecnych politykach bezpieczeństwa. Następnie mogą na tej podstawie wprowadzać strategie bezpieczeństwa. Z kolei użytkownicy mogą korzystać z mechanizmów wewnętrznych portali i zgłaszać materiały o charakterze ekstremistycznym, szkodliwe i cechujące się nienawiścią wobec określonych grup lub treści nawołujące do przemocy. Jeśli wystarczająca liczba osób będzie to robić, moderatorzy portali otrzymają te zgłoszenia i, miejmy nadzieję, będą usuwać te treści, co z kolei sprawi, że nie zobaczą ich kolejne osoby, które potencjalnie mogłyby ulec radykalizacji – mówi Thomas Williams. – Dzięki poznawaniu procesu radykalizacji osób w internecie, który odbywa się przez kontakt z dużymi ilościami materiałów o charakterze ekstremistycznym, możemy podjąć działania w przyszłości, wskazując potencjalne ulepszenia działań zabezpieczających, które pomogą portalom społecznościowym zapewnić bezpieczeństwo.
Największe serwisy zabezpieczają publikowane treści, zatrudniając moderatorów, którzy aktywnie reagują na przejawy mowy nienawiści i ekstremizmu, ale w coraz większym stopniu wykorzystują też do tego sztuczną inteligencję. Rzadko jednak ujawniają, jak wdrażają wielojęzyczne modele językowe i na ile są one skuteczne w moderowaniu treści na skalę globalną. Niedawne badanie przeprowadzone przez Centrum Demokracji i Technologii pokazuje, że wielojęzyczne modele językowe, na których opiera się moderowanie treści przez SI, może mieć wiele ograniczeń. Jest to widoczne zwłaszcza w społecznościach posługujących się językami mniej reprezentowanymi w internecie, a więc dającymi SI mniejsze szanse na dostosowanie swoich modeli do tych języków. Jednym z nich jest język baskijski.
Przykładowo „uso” oznacza w nim gołębicę, a może być rozumiane jako obelga używana wobec mężczyzn prezentujących się kobieco. System moderacji sztucznej inteligencji opierający się na anglojęzycznych danych szkoleniowych może nie zrozumieć kontekstu tego słowa. Dostosuje je do symboliki gołębicy stosowanej w języku angielskim, czyli oznaczającej pokój. W efekcie SI nie zakwalifikuje słowa „uso” jako treści homofobicznych.
PRZERWA NA REKLAMĘ
Najnowsze w dziale Rynek medialny:
Radio, streaming i podcasty. Jak słuchają Polacy według Total Audio 2024
Krzysztof Fiedorek
Treści audio są codziennym towarzyszem Polaków. Według badania Total Audio 2024, zrealizowanego przez Adres:Media na zlecenie Komitetu Badań Radiowych, aż 90% badanych przynajmniej raz w tygodniu sięga po treści dźwiękowe, a 80% robi to codziennie. Średni czas słuchania wynosi prawie pięć godzin dziennie.
Finanse oczami kobiet i mężczyzn. Jak o nich rozmawiać?
Klaudia Smolarska-Kulej
Mężczyźni wciąż odczuwają społeczną presję bycia odpowiedzialnym za utrzymanie rodziny, nawet jeśli ich partnerki zarabiają tyle samo, co oni lub nawet więcej. Z kolei kobiety podkreślają, że - w przeciwieństwie do mężczyzn - brakuje im odwagi, aby poprosić szefa o podwyżkę. Dodatkowo obawiają się ryzyka, dlatego rzadziej inwestują pieniądze.
Automatyzacja dezinformacji. Global Risks Report 2025 i media
Krzysztof Fiedorek
Dezinformacja i manipulacja informacją znalazły się na pierwszym miejscu wśród globalnych zagrożeń w perspektywie dwóch i dziesięciu lat. Szczególny niepokój budzi fakt, że algorytmy społecznościowe często faworyzują kontrowersyjne lub szokujące treści, co dodatkowo podsyca dezinformację.
Podobne artykuły:
Zwyczaje czytelników cyfrowej prasy
Bartłomiej Dwornik
O jakiej porze dnia najchętniej sięgamy po e-gazety i e-booki? Jak wynika z badania przeprowadzonego przez firmę Legimi, apogeum przypada na godziny 18. i 23. I pora do lamusa odesłać przekonanie, że najchętniej czytamy w weekendy.
Czy państwa powinny chronić rodzimy rynek medialny?
Maciej Tumulec, Alicja Kamińska
Lata dziewięćdziesiąte i początku XXI wieku nacechowane były niesamowitą zdolnością, do coraz szybszego przepływu informacji i adaptacji mediów światowych na grunt krajowy.
Blogi w e-commerce. Raport Elephate i Senuto
KrzysztoF
Średnia liczba zindeksowanych artykułów na blogach e-commerce to 565, a jeden wpis przyciąga 347 odbiorców miesięcznie. Najwyższy ruch organiczny na pojedynczym artykule generuje branża zdrowotna. Za kulisy komercyjnej blogosfery zaglądają autorzy "Rankingu blogów w e-commerce".
Antyukraińska propaganda w mediach społecznościowych. Analiza #IMMxDemagog
Katarzyna Ozga
Od 1 do 31 grudnia 2022 roku w mediach społecznościowych pojawiło się 48,8 tys. propagandowych wpisów wobec Ukrainy i Ukraińców. Jest to spadek o 33 proc. w porównaniu do listopada, w którym zmonitorowano ponad 73 tys. pejoratywnych treści często prowadzących do dezinformacji.