Na popularnym portalu społecznościowym Reddit wybuchł skandal po tym, jak wyszło na jaw, że naukowcy z Uniwersytetu w Zurychu przeprowadzili tajny eksperyment z wykorzystaniem sztucznej inteligencji. Przez kilka miesięcy algorytmiczne boty działały na subreddicie r/changemyview, podając się za prawdziwych użytkowników i aktywnie wpływając na toczące się dyskusje.
Chatboty udające ludzi – jak działał eksperyment Uniwersytetu w Zurychu?
Badacze przez kilka miesięcy sterowali 34 anonimowymi kontami, które dodały ponad 1,500 komentarzy napisanych przez dużą sztuczną inteligencję (LLM). Boty przyjmowały tożsamości doradców, osób po traumie, a nawet przeciwników ruchu Black Lives Matter, dostosowując wypowiedzi do cech i historii użytkowników. Celem eksperymentu było sprawdzenie, czy AI jest skuteczniejsze od ludzi w przekonywaniu innych do zmiany zdania. Wyniki? Komentarze generowane przez AI były nawet sześciokrotnie skuteczniejsze od tych pisanych przez prawdziwych użytkowników.
Brak zgody Reddita i użytkowników. Naruszenie etyki na wielu poziomach
Kontrowersje wywołał nie tylko sam fakt użycia AI, ale przede wszystkim brak zgody uczestników i administracji Reddita. Moderatorzy r/changemyview zgodnie potępili eksperyment i uznali go za poważne naruszenie zasad społeczności oraz zaufania użytkowników. Eksperci ds. etyki badań internetowych określili działania naukowców jako jedno z najpoważniejszych naruszeń etycznych ostatnich lat. Profesor Casey Fiesler z University of Colorado Boulder stwierdziła: „Manipulowanie ludźmi w społecznościach online przy użyciu dezinformacji, bez zgody, nie jest ‘niskiego ryzyka’”.
Rekcja Reddita – ban, możliwe kroki prawne, wzmocnienie zabezpieczeń
Reddit szybko zbanował wszystkie konta związane z eksperymentem i zapowiedział przegląd procedur dotyczących wykrywania sztucznie generowanych treści. Główny radca prawny serwisu Ben Lee ocenił działania naukowców jako „głęboko niewłaściwe na poziomie moralnym i prawnym” oraz zapowiedział ewentualne kroki prawne przeciwko Uniwersytetowi w Zurychu.
Uczelnia odpowiada i się wycofuje
Początkowo Uniwersytet w Zurychu bronił eksperymentu, twierdząc, że uzyskano zgodę komisji etycznej, a ryzyko dla użytkowników było minimalne. Jednak pod wpływem presji społecznej i krytyki ze strony środowisk akademickich, uczelnia zdecydowała o niepublikowaniu wyników badania. Niemniej przyznała, że „nie doszło do istotnej szkody”.
Eksperyment z AI na Reddit – pytania o etykę badań naukowych
Tajny eksperyment szwajcarskich naukowców wywołał szeroką debatę o granicach eksperymentowania z AI w otwartych społecznościach i potrzebie jasnych zasad oraz przejrzystości. Zarówno użytkownicy Reddita, moderatorzy, jak i eksperci są zgodni, że takie eksperymenty powinny wymagać świadomej zgody wszystkich zaangażowanych i dokładnej kontroli etycznej.