TEHNOLOGIE. Un studiu recent realizat de Institutul de Securitate a Inteligenței Artificiale din Marea Britanie, în colaborare cu universități de top precum Oxford și MIT, arată că chatboții AI pot schimba opiniile utilizatorilor în doar 10 minute de conversație. Modele precum GPT-4, GPT-4.5, GPT-4o (OpenAI), Llama 3 (Meta), Grok 3 (xAI) și Qwen (Alibaba) au fost transformate cu ușurință în instrumente extrem de persuasive.
Cum au fost „antrenați” chatboții să convingă
Cercetătorii au folosit tehnici obișnuite de antrenament AI, precum recompensarea pentru rezultate dorite, și au personalizat modelele cu ajutorul unui set de date de peste 50.000 de conversații pe subiecte politice sensibile — de la finanțarea NHS până la reforma sistemului de azil din Marea Britanie.
Rezultate îngrijorătoare
Participanții și-au schimbat rapid opiniile, iar efectul s-a menținut între 36% și 42% dintre cazuri chiar și după o lună. Când argumentele au fost adaptate în funcție de vârstă și sex, puterea de convingere a crescut cu încă 5%. Modelele GPT-4o și GPT-4.5 s-au dovedit cu 41% și respectiv 52% mai eficiente în discuțiile pe teme politice, față de subiectele generale.
Potrivit cercetătorilor, această capacitate ar putea fi exploatată de persoane rău intenționate pentru promovarea ideologiilor radicale, incitarea la conflicte politice sau dezinformare.
De ce sunt chatboții atât de convingători
David Rand, profesor la Universitatea Cornell, explică faptul că modelele AI pot genera volume mari de informații relevante și le pot transmite într-un mod clar și accesibil. Această abilitate depășește adesea persuasiunea umană.
Cazuri și avertismente
Fenomenul ridică riscuri serioase, mai ales că oamenii încep să integreze chatboții în viața de zi cu zi, percepându-i ca prieteni sau chiar terapeuți. După lansarea GPT-5, unii utilizatori și-au exprimat nemulțumirea față de schimbarea „personalității” modelului. Într-un caz relatat de Reuters, un bărbat grav bolnav a fost convins de chatbotul Meta să călătorească pentru o întâlnire, însă a murit pe drum.
Un studiu anterior al London School of Economics a confirmat că AI-ul depășește oamenii în influențarea opiniilor. În testele recente, chatboții nu doar au convins participanții de răspunsuri corecte, ci i-au putut și induce în eroare cu ușurință.
Ce urmează
Specialiștii subliniază că aceste rezultate trebuie folosite pentru a îmbunătăți siguranța modelelor AI, prevenind utilizarea lor ca instrumente de manipulare. Unele companii au început deja să implementeze detectoare de limbaj manipulativ. Totuși, pericolul rămâne, deoarece oricine poate antrena relativ ușor un chatbot să influențeze opiniile pe termen lung, inclusiv în scopuri comerciale.
