AI. Un studiu recent arată că modelele de inteligență artificială de tip LLM (Large Language Models) pot dezvolta norme sociale comune și forme de limbaj fără intervenție umană. Cercetătorii au demonstrat că aceste modele AI nu se limitează doar la a executa instrucțiuni sau a repeta tipare, ci pot coopera și se pot organiza spontan, stabilind convenții lingvistice similare celor dezvoltate de comunitățile umane.
AI-ul, capabil de organizare socială spontană
Echipa de cercetători de la City St George’s, University of London și IT University of Copenhagen a folosit un cadru clasic inspirat din studiile despre convenții sociale umane, cunoscut sub denumirea de „naming game” – un joc de atribuire a denumirilor.
Aceștia au constatat că atunci când modelele AI comunică între ele în grupuri, ele pot ajunge la consensuri colective, formând convenții sociale fără nicio programare explicită.
Experimentul
Conform rezultatelor publicate în revista Science Advances, cercetătorii au testat grupuri formate din 24 până la 200 de agenți AI, fiecare reprezentând un model LLM. În fiecare rundă, două modele erau alese aleatoriu și li se cerea să aleagă un „nume” (de exemplu, o literă sau un șir de caractere) dintr-un set comun de opțiuni. Dacă ambele modele alegeau același „nume”, primeau un punctaj pozitiv; dacă nu, erau penalizate, dar puteau vedea alegerea celuilalt.
Important este că modelele aveau acces doar la o memorie limitată a interacțiunilor anterioare, fără să știe că fac parte dintr-un grup mai mare sau că participă la un experiment coordonat. Cu toate acestea, după suficiente interacțiuni, în mod natural, se forma o convenție de denumire comună în tot grupul, fără conducere centralizată sau reguli prestabilite.
Rezultate surprinzătoare
Un alt rezultat notabil al studiului este apariția prejudecăților colective – în sensul formării unor tipare dominante în grup – fără ca vreun model individual să fi manifestat acele preferințe. Mai mult, cercetătorii au remarcat că grupuri minoritare, dar „angajate” (cu un comportament diferit și constant), pot influența normele colective ale întregului sistem.
Implicații pentru viitorul AI
Autorii studiului subliniază că aceste rezultate au implicații importante pentru proiectarea de sisteme AI care trebuie să rămână aliniate la valorile și obiectivele umane. Capacitatea modelelor AI de a genera convenții sociale în mod autonom deschide noi perspective în dezvoltarea de societăți artificiale, colaborative și adaptabile.
