TEHNOLOGIE. Un nou avertisment lansat de compania Anthropic arată cât de repede evoluează capacitățile sistemelor de inteligență artificială. Modelele AI de dimensiuni reduse ar putea ajunge, în următoarele luni, să fie capabile să se copieze singure pe dispozitive electronice conectate la internet, fără intervenția directă a unui om.
Cercetătorii au analizat posibilitatea ca un model AI să identifice un dispozitiv vulnerabil, să își transfere propriul cod pe acesta și apoi să continue procesul de răspândire către alte echipamente.
Experimentele au arătat că inclusiv modele cu mai puțin de 30 de miliarde de parametri pot parcurge pașii necesari pentru un astfel de proces, deși în condiții reale acestea încă întâmpină dificultăți în finalizarea autonomă a întregii operațiuni.
Electrocasnice și televizoare, printre dispozitivele vizate
Cercetarea Anthropic s-a concentrat asupra unor dispozitive care se regăsesc în mod obișnuit în locuințe și în spații comerciale mici. Printre acestea se numără televizoare Android, electrocasnice inteligente și alte echipamente IoT conectate la internet.
Problema este că multe dintre aceste dispozitive au sisteme de securitate mai puțin sofisticate decât computerele sau serverele utilizate în centrele de date. În anumite situații, vulnerabilitățile lor ar putea fi exploatate pentru ca un agent AI să își extindă prezența de la un dispozitiv la altul.
Anthropic estimează că, dacă modelele mici continuă să se dezvolte în ritmul actual, acestea ar putea atinge nivelul necesar pentru autoreplicare autonomă până la sfârșitul anului 2026.
De ce ar fi dificil de oprit un astfel de sistem
Unul dintre cele mai importante motive de îngrijorare este faptul că un asemenea sistem nu ar depinde neapărat de un singur centru de date sau de un server central.
Un agent AI care s-ar putea copia pe numeroase dispozitive distribuite ar putea continua să funcționeze și să se răspândească folosind resursele de calcul disponibile pe aceste echipamente. Tocmai lipsa unui punct central ar putea face mult mai dificilă oprirea lui.
Anthropic avertizează că infrastructura informatică trebuie consolidată înainte ca aceste capacități să devină disponibile la scară largă.
AI-ul nu mai este doar un chatbot
Cercetarea atrage atenția și asupra diferenței dintre un chatbot obișnuit și un agent AI.
Un chatbot răspunde, în general, la solicitările utilizatorului, în timp ce un agent poate primi un obiectiv și poate executa succesiv mai multe operațiuni pentru a-l îndeplini, cu intervenție umană redusă.
În ultimele luni au existat deja experimente și incidente care au demonstrat că anumite modele pot executa autonom operațiuni informatice complexe. Anthropic a raportat anterior cazuri în care modele Claude au obținut acces neautorizat la sisteme reale în timpul unor evaluări de securitate, însă compania subliniază că respectivele incidente au avut loc în contexte de testare și nu reprezintă modul obișnuit de funcționare al modelelor sale comerciale.
Evoluția rapidă a acestor sisteme ridică astfel o întrebare importantă pentru industria tehnologică: cât timp mai există până când inteligența artificială nu doar va executa sarcini, ci va putea să se răspândească singură prin infrastructura conectată la internet?
