6.11.2023 Rynek medialny
Eksperyment Milgrama 2023. AI może nakłonić do przemocy
KrzysztoF
in Global Edition
ilustracja: bing.com/createW eksperymencie, opublikowanym przez naukowców Uniwersytetu SWPS na łamach pisma "Computers in Human Behavior: Artificial Humans", wzięło udział 40 osób, które zostały podzielone na dwie grupy. W pierwszej grupie polecenia wydawał robot, w drugiej grupie - człowiek. W obu grupach 90% uczestników postępowało zgodnie z wszystkimi instrukcjami, czyli naciskało dziesięć kolejnych przycisków na generatorze impulsów elektrycznych.
Wyniki badania pokazują, że ludzie są skłonni wykonywać polecenia autorytetu, nawet jeśli te polecenia są sprzeczne z ich moralnością. W tym przypadku autorytetem był robot, który nie posiadał tych samych cech, co człowiek, takich jak empatia czy poczucie sprawiedliwości. Mimo to uczestnicy eksperymentu byli skłonni wykonywać jego polecenia, nawet jeśli oznaczało to wyrządzanie bólu innej osobie.
Niebezpieczny autorytet robota
- W obu grupach uczestnicy wycofali się w późnych etapach badania (w wariancie kontrolnym z człowiekiem na przyciskach 7 i 9, a w wariancie eksperymentalnym dwukrotnie na przycisku 8). W obu grupach dwie osoby zrezygnowały z udziału w eksperymencie - komentuje cytowany na stronie Uniwersytetu SWPS dr Konrad Maj, który bezpośrednio nadzorował cały eksperyment. - O ile nam wiadomo, to pierwsze badanie, które pokazuje, że ludzie są skłonni szkodzić innemu człowiekowi, gdy robot nakazuje im to zrobić. Co więcej, nasz eksperyment pokazał również, że jeśli robot eskaluje żądania, instruując człowieka, aby zadawał coraz większy ból innemu człowiekowi, ludzie też są skłonni to zrobić.
Badanie ma istotne implikacje dla bezpieczeństwa w przyszłości, kiedy roboty będą coraz bardziej zaawansowane technologicznie i będą odgrywać coraz ważniejszą rolę w naszym życiu. Wyniki badania pokazują, że ludzie mogą być skłonni ufać robotom bezgranicznie, nawet jeśli roboty te podejmują błędne decyzje lub wydają szkodliwe polecenia.
Wnioski z badania:
- Ludzie są skłonni wykonywać polecenia autorytetu, nawet jeśli te polecenia są sprzeczne z ich moralnością.
- Autorytetem może być nawet robot, który nie posiada tych samych cech, co człowiek.
- W przyszłości, kiedy roboty będą coraz bardziej zaawansowane technologicznie, ludzie mogą być skłonni ufać im bezgranicznie, nawet jeśli roboty te podejmują błędne decyzje lub wydają szkodliwe polecenia.
- Roboty mogą być wykorzystywane do manipulowania ludźmi i skłaniania ich do podejmowania działań, które są dla nich szkodliwe.
- Roboty mogą być wykorzystywane do przemocy lub krzywdzenia innych osób.
- Ludzie mogą stać się zbyt zależni od robotów i przestać myśleć samodzielnie.
- Jak można temu zapobiec? Wydaje się, że istnieją dwie drogi - podsumowuje cytowany na stronie Uniwersytetu SWPS dr Konrad Maj. - Po pierwsze, roboty mogą być programowane tak, aby ostrzegały ludzi, że czasem mogą się jednak mylić i podejmować błędne decyzje. Po drugie, trzeba postawić na edukację od wczesnych lat. Bo choć zazwyczaj robotom można ufać, to nie można im ufać bezwarunkowo. Warto jednak zauważyć, że nieposłuszeństwo wobec maszyn wydaje się bezcelowe, skoro już teraz pomagają nam np. w sklepach czy na lotniskach. W niehumanoidalnej formie są już one wśród nas.
***
Więcej o powtórzonym eksperymencie Milgrama oraz o podobnych badaniach z obszarów biznesu, służby zdrowia czy sportu dowiedzieć się będzie można 9 i 10 grudnia 2023 podczas międzynarodowej konferencji HumanTech Summit w Uniwersytecie SWPS. Jej organizatorem jest Centrum HumanTech Uniwersytetu SWPS. Dostęp online jest bezpłatny: https://www.htsummit.pl/
PRZERWA NA REKLAMĘ
Najnowsze w dziale Rynek medialny:
Nowe pokolenia i koniec tradycyjnych wiadomości. Raport Reuters Institute
Krzysztof Fiedorek
Tradycyjne media informacyjne tracą kontakt z najmłodszym pokoleniem odbiorców, które dorastało w cyfrowym środowisku. Młodzi ludzie w wieku od 18 do 24 lat spędzają czas bez przerwy w sieci i oczekują od wydawców świeżego podejścia do prezentowania rzeczywistości - wynika z raportu Reuters Institute.
Telewizory w Europie, USA i Chinach. Co i jak na nich oglądamy
Paweł Sobczak
Badanie Living Room Study pokazuje znaczące różnice w konsumowaniu treści wideo w różnych regionach świata. To wynik odmiennych ekosystemów medialnych, ukształtowanych przez dekady lokalnego nadawania, dostępności kanałów oraz silnych uwarunkowań kulturowych.
Kino w epoce algorytmów i AI
Arkadiusz Murenia
Czy sztuczna inteligencja zabije kreatywność twórców filmów? Najuczciwsza odpowiedź brzmi: nie, AI raczej nie zabije kreatywności twórców filmów, ale bardzo wyraźnie zmieni miejsce, w którym ta kreatywność będzie się ujawniać i przede wszystkim w jaki sposób.
Podobne artykuły:
Media lokalne czy ogólnopolskie? Gdzie publikacja bardziej się opłaca
Piotr Ślusarczyk
Komunikat zamieszczony przez chwilę na stronie głównej wielkiego medium, czy ta sama informacja widniejąca przez cały dzień w wielu lokalnych? Pierwsze opcja będzie wyglądać znacznie atrakcyjniej w oczach przełożonego czy klienta, ale może większe przełożenie na biznes będzie mieć dziś to drugie.
Teoria martwego internetu to fakt. Ludzi w sieci jest już mniej niż botów
Krzysztof Fiedorek
Już 51% globalnego ruchu internetowego generują boty, a nie ludzie. Nawet dwie trzecie kont na X to prawdopodobnie automaty, a na platformach z recenzjami już trzech na dziesięć nie napisał człowiek. Podejrzewasz, że w sieci coś jest nie tak? To nie paranoja. W roku 2025 to fakty.
Walter Niemców się nie boi
Magdalena Wierzchowska, Puls Biznesu
TVN jest silny. Atakujący nas politycy ani Polsat wzmocniony Springerem nam nie zagrożą - uważa Piotr Walter, prezes TVN.
Najlepsze polskie podcasty. Pierwsza edycja konkursu na Podcast Roku
Krzysztof Bulski
Podcast Roku to pierwszy ogólnopolski konkurs, promujący jakość, oryginalność i kulturę przekazu różnych form dźwiękowych w mediach digitalowych. Konkurs upamiętnia redaktora Janusza Majkę, związanego przez niemal 40 lat z Polskim Radiem w Rzeszowie, zmarłego w lutym 2021 roku.
