Chatboturile AI pot uniformiza modul de gândire al oamenilor, susține un studiu
Utilizarea modelelor de limbaj mari, precum ChatGPT, ar putea diminua unicitatea gândirii umane și ar conduce la uniformizarea modului în care comunicăm, conform unui grup de cercetători și psihologi care au coautorat un nou articol de opinie. Studiul este publicat în revista Trends in Cognitive Sciences, potrivit cnet.com.
👉 Impactul modelelor de limbaj asupra diversității gândirii
Parte din ceea ce ne face umani este modul unic în care gândim și rezolvăm problemele. Cu toate acestea, "bogăția modului în care diferitele persoane scriu, argu, și gândesc este una dintre cele mai valoroase resurse cognitive ale umanității", a declarat Zhivar Sourati, un informatician de la Universitatea din California de Sud și primul autor al lucrării. Când aceste diferențe sunt uniformizate prin aceleași modele de limbaj mari (LLMs), Sourati susține că rezultatul este exprimarea și gândirea standardizată între utilizatori. "Diversitatea limbajului, perspectivei și raționamentului nu este doar o delicatețe culturală; este esențială din punct de vedere funcțional. Este ceea ce stimulează creativitatea, inovația și rezolvarea colectivă a problemelor", a spus Sourati.
Articolul, publicat miercuri, examinează cum sute de milioane de oameni din întreaga lume folosesc aceleași câteva chatboturi și ce înseamnă acest lucru pentru individualitatea noastră. Pew Research a descoperit că o treime dintre americani au folosit ChatGPT anul trecut, dublu față de cifra din 2023. Utilizarea chatboturilor este mult mai comună în rândul adolescenților: două treimi afirmă că le folosesc, iar aproape o treime le utilizează zilnic. De asemenea, companiile investesc mult în inteligența artificială. Stanford a constatat că 78% dintre organizații au raportat utilizarea AI în 2024, în creștere de la 55% în 2023.
👉 Riscurile uniformizării cognitive asociate cu LLM-uri
Astfel, folosim mult AI, dar pericolul este că am putea pierde diversitatea în modul în care gândim. Echipa subliniază că scrierea generată de LLM-uri variază mai puțin decât ceea ce oamenii creează pe cont propriu. Sourati și coautorii lucrării argumentează că LLM-urile reprezintă o nouă amenințare pentru gândirea diversificată. "Tehnologiile anterioare au modelat și ele cogniția: internetul a accelerat răspândirea normelor culturale dominante, GPS-ul a erodat raționamentul spațial localizat. Dar acele unelte au ajutat în principal la stocare și recuperare", spune Sourati. "LLM-urile generează raționamentul și articularea în locul tău."
LLM-urile pot oferi utilizatorilor "o modalitate finalizată de a gândi despre ceva", spune Sourati. "Și când aceleași câteva sisteme fac acest lucru pentru sute de milioane de oameni simultan, forța de uniformizare este diferită de orice a generat tehnologia anterioară." Conform autorilor lucrării, o parte din motivul pentru care LLM-urile ar putea promova gândirea uniformizată este datele utilizate pentru a le antrena. Sourati spune că LLM-urile sunt antrenate să se concentreze pe regularitățile statistice din datele lor de antrenament, ceea ce poate suprareprezenta limbile și ideologiile dominante, conducând la rezultate care se îndreaptă către o fereastră mai îngustă a experienței umane.
Există un motiv bun pentru care autorii avertizează împotriva acestei tendințe. Gândirea uniformizată reduce pluralismul, ideea că perspectivele multiple sunt benefice pentru societate în ansamblu. "Această valoare a pluralismului este fundamentată pe principiul de lungă durată că un judecat sănătos necesită expunerea la gânduri variate", scriu autorii în lucrare. "Netrata acest fenomen, această uniformizare riscă să aplatizeze peisajele cognitive care conduc la inteligența colectivă și adaptabilitate." În acest sens, dacă pierdem capacitatea de a gândi și de a comunica diferit, ar putea afecta modul în care ne adaptăm la noi situații.
"Îngrijorarea nu este doar că LLM-urile modelează modul în care oamenii scriu sau vorbesc, ci că redefinește subtil ce contează ca discurs credibil, perspectivă corectă sau chiar raționament bun", a declarat Sourati într-o anunțare. Autorii afirmă că această tendință afectează chiar și persoanele care nu folosesc chatboturi. "Dacă mulți oameni din jurul meu gândesc și vorbesc într-un mod anume, iar eu fac lucrurile diferit, m-aș simți sub presiunea de a mă alinia la ei, deoarece ar părea o modalitate mai credibilă sau social acceptabilă de a-mi exprima ideile", a spus Sourati. Owen Muir, un psihiatru intervențional, este de acord cu opiniile lucrării, afirmând că "un limbaj mai mediu se integrează în comunicarea umană, chiar și atunci când mașinile nu sunt în cameră."