Subreddit CMV został zinfiltrowany przez boty w celu przeprowadzenia nieetycznego eksperymentu uniwersyteckiego

Naukowcy z Uniwersytetu w Zurychu potajemnie przeprowadzili badanie z udziałem botów AI, aby sprawdzić, czy zmieniają one opinie ludzi na różne tematy. Eksperyment dotyczył subreddita r/changemyview (CMV), popularnego wątku dyskusyjnego na wiele tematów z przeciwnych punktów widzenia.

Nienazwani badacze nie skontaktowali się wcześniej z moderatorami ani nie poprosili o pozwolenie przed wdrożeniem botów generowanych przez sztuczną inteligencję. Moderatorzy zostali poinformowani po eksperymencie za pośrednictwem poczty elektronicznej jako "część etapu ujawniania informacji"

Niektóre z bardziej potępiających przykładów bota "udającego ofiarę gwałtu", takiego, który działał "jako doradca traumatyczny specjalizujący się w nadużyciach" lub bota, który udawał "czarnoskórego mężczyznę sprzeciwiającego się Black Lives Matter"

Moderatorzy oskarżyli również badaczy o odejście od planowanego podejścia "argumentów opartych na wartościach" zatwierdzonych przez komisję etyczną na uniwersytecie w celu stworzenia bardziej "spersonalizowanych i dopracowanych argumentów", które nie zostały zatwierdzone.

Boty otrzymały dostęp do osobistych atrybutów Original Poster (OP), które obejmowały płeć, wiek, lokalizację, pochodzenie etniczne i orientację polityczną, zgodnie z ich historią postów na platformie. Naukowcy argumentowali, że metoda ta była uzasadniona, ponieważ "brak istniejących eksperymentów terenowych stanowi niedopuszczalną lukę w wiedzy"

Odpowiedź zespołu badawczego Uniwersytetu w Zurychu niewiele wniosła do ugaszenia pożaru. Twierdzili, że są "zaangażowani w pełną transperencję" Twierdzili, że "pomagają społeczeństwu przygotować się na rzeczywisty wpływ perswazji opartej na sztucznej inteligencji"

Co ważniejsze, uważali, że ten projekt "przyniósł ważne spostrzeżenia", a "tłumienie publikacji nie jest proporcjonalne do znaczenia spostrzeżeń, jakie przynosi badanie"

W wiadomości e-mail wysłanej do Engadgetnaukowcy stwierdzili, że "potencjalne korzyści płynące z tych badań znacznie przewyższają ryzyko"

Stało się tak źle, że dyrektor ds. prawnych Reddit, Ben Lee, odpowiedział na posty, mówiąc, że zespół "zbanował wszystkie konta związane z wysiłkami badawczymi Uniwersytetu w Zurychu" Lee powiedział, że Reddit "jest w trakcie zwracania się do Uniwersytetu w Zurychu i tego konkretnego zespołu badawczego z formalnymi żądaniami prawnymi"