6.11.2023 Rynek medialny
Eksperyment Milgrama 2023. AI może nakłonić do przemocy
KrzysztoF
in Global Edition
ilustracja: bing.com/createW eksperymencie, opublikowanym przez naukowców Uniwersytetu SWPS na łamach pisma "Computers in Human Behavior: Artificial Humans", wzięło udział 40 osób, które zostały podzielone na dwie grupy. W pierwszej grupie polecenia wydawał robot, w drugiej grupie - człowiek. W obu grupach 90% uczestników postępowało zgodnie z wszystkimi instrukcjami, czyli naciskało dziesięć kolejnych przycisków na generatorze impulsów elektrycznych.
Wyniki badania pokazują, że ludzie są skłonni wykonywać polecenia autorytetu, nawet jeśli te polecenia są sprzeczne z ich moralnością. W tym przypadku autorytetem był robot, który nie posiadał tych samych cech, co człowiek, takich jak empatia czy poczucie sprawiedliwości. Mimo to uczestnicy eksperymentu byli skłonni wykonywać jego polecenia, nawet jeśli oznaczało to wyrządzanie bólu innej osobie.
Niebezpieczny autorytet robota
- W obu grupach uczestnicy wycofali się w późnych etapach badania (w wariancie kontrolnym z człowiekiem na przyciskach 7 i 9, a w wariancie eksperymentalnym dwukrotnie na przycisku 8). W obu grupach dwie osoby zrezygnowały z udziału w eksperymencie - komentuje cytowany na stronie Uniwersytetu SWPS dr Konrad Maj, który bezpośrednio nadzorował cały eksperyment. - O ile nam wiadomo, to pierwsze badanie, które pokazuje, że ludzie są skłonni szkodzić innemu człowiekowi, gdy robot nakazuje im to zrobić. Co więcej, nasz eksperyment pokazał również, że jeśli robot eskaluje żądania, instruując człowieka, aby zadawał coraz większy ból innemu człowiekowi, ludzie też są skłonni to zrobić.
Badanie ma istotne implikacje dla bezpieczeństwa w przyszłości, kiedy roboty będą coraz bardziej zaawansowane technologicznie i będą odgrywać coraz ważniejszą rolę w naszym życiu. Wyniki badania pokazują, że ludzie mogą być skłonni ufać robotom bezgranicznie, nawet jeśli roboty te podejmują błędne decyzje lub wydają szkodliwe polecenia.
Wnioski z badania:
- Ludzie są skłonni wykonywać polecenia autorytetu, nawet jeśli te polecenia są sprzeczne z ich moralnością.
- Autorytetem może być nawet robot, który nie posiada tych samych cech, co człowiek.
- W przyszłości, kiedy roboty będą coraz bardziej zaawansowane technologicznie, ludzie mogą być skłonni ufać im bezgranicznie, nawet jeśli roboty te podejmują błędne decyzje lub wydają szkodliwe polecenia.
- Roboty mogą być wykorzystywane do manipulowania ludźmi i skłaniania ich do podejmowania działań, które są dla nich szkodliwe.
- Roboty mogą być wykorzystywane do przemocy lub krzywdzenia innych osób.
- Ludzie mogą stać się zbyt zależni od robotów i przestać myśleć samodzielnie.
- Jak można temu zapobiec? Wydaje się, że istnieją dwie drogi - podsumowuje cytowany na stronie Uniwersytetu SWPS dr Konrad Maj. - Po pierwsze, roboty mogą być programowane tak, aby ostrzegały ludzi, że czasem mogą się jednak mylić i podejmować błędne decyzje. Po drugie, trzeba postawić na edukację od wczesnych lat. Bo choć zazwyczaj robotom można ufać, to nie można im ufać bezwarunkowo. Warto jednak zauważyć, że nieposłuszeństwo wobec maszyn wydaje się bezcelowe, skoro już teraz pomagają nam np. w sklepach czy na lotniskach. W niehumanoidalnej formie są już one wśród nas.
***
Więcej o powtórzonym eksperymencie Milgrama oraz o podobnych badaniach z obszarów biznesu, służby zdrowia czy sportu dowiedzieć się będzie można 9 i 10 grudnia 2023 podczas międzynarodowej konferencji HumanTech Summit w Uniwersytecie SWPS. Jej organizatorem jest Centrum HumanTech Uniwersytetu SWPS. Dostęp online jest bezpłatny: https://www.htsummit.pl/
PRZERWA NA REKLAMĘ
Najnowsze w dziale Rynek medialny:
Dziennikarstwo śledcze w Europie. Redakcje mierzą się z presją
KFi, Newseria
Przedstawiciele mediów i polityki wskazują na trudną sytuację dziennikarstwa śledczego w Europie. Redakcje informacyjne niechętnie inwestują w ten segment z uwagi na wysokie koszty i duży nakład czasu oraz pracy. Przede wszystkim obawiają się jednak postępowań sądowych.
Media kontra dezinformacja na temat energetyki. Raport IMM
Joanna Rafał
Co piąty komunikat w sieci o energetyce może być dezinformacją. W latach 2022–2025 odnotowano blisko 70 tys. publikacji przestrzegających przed dezinformacją wokół tego strategicznego sektora, które wygenerowały zasięg 1,19 mld kontaktów z przekazem.
AI zmienia zasady gry. Nowe oblicze wyszukiwania w internecie
KFi
Połowa konsumentów w USA korzysta już z wyszukiwania wspieranego sztuczną inteligencją. Do 2028 roku decyzje zakupowe o wartości 750 miliardów dolarów będą zapadać właśnie za pośrednictwem AI. Takie wnioski przedstawia raport McKinsey "Winning in the age of AI search".
Podobne artykuły:
Feminatywy w mediach. Raport PSMM Monitoring & More
PSMM
W ciągu ostatnich 3 lat aż trzykrotnie wzrosła częstotliwość słowa „menedżerka”, a „naukowczyni” aż sześciokrotnie. Jednak co ciekawe, w liczbie mnogiej nadal rzadko stosuje się rodzaj niemęskoosobowy.
Radiostacja zniknie z eteru i zastąpi ją Planeta FM
Planeta FM
1 marca 2008 roku nazwa Radiostacja zniknie z eteru i zastąpi ją Planeta FM. Ponadregionalna sieć rozgłośni pod nową nazwą będzie obecna w 18 miastach Polski.
Dzieci o finansach. Co wiedzą, o czym rozmawiają i skąd czerpią wzorce?
materiał partnera
Pożyczanie i oddawanie to nawyk, którego uczymy się już w dzieciństwie, ale może on zaprocentować w przyszłości. Buduje on poczucie odpowiedzialności i uczy, że wszystko, co pożyczyliśmy, powinniśmy oddać. Tymczasem, jak pokazują wyniki badania przeprowadzonego przez fundację Ogólnopolski Operator Oświaty, zainicjowanego przez KRUK S.A., to właśnie ten mechanizm jest najrzadziej omawiany z dziećmi w kontekście rozmów o finansach.
Wirtualni influencerzy są postrzegani jako bardziej autentyczni od ludzi
Agnieszka Kliks-Pudlik
Wirtualni influencerzy to fikcyjne, wygenerowane postacie, które naśladują wygląd i zachowanie prawdziwych ludzi. Mają miliony followersów. Przez pokolenie Alfa są postrzegani nawet jako bardziej autentyczni niż ci realni, co rodzi wiele wyzwań – podkreśla dr Ada Florentyna Pawlak.
