ȘTIINȚĂ. Dezvoltarea accelerată a inteligenței artificiale îi determină pe unii dintre cercetătorii implicați direct în acest domeniu să tragă un semnal de alarmă: dacă sistemele AI vor ajunge la un nivel de inteligență și autonomie mult superior celui uman, există riscul ca oamenii să nu mai poată controla ceea ce au creat.
Avertismentul vine inclusiv din interiorul companiei Anthropic, unul dintre principalii dezvoltatori de sisteme de inteligență artificială. Mai mulți cercetători susțin că progresul către o formă de superinteligență artificială se produce într-un ritm care ridică probleme serioase privind siguranța și controlul acestor tehnologii.
Unul dintre cercetători, Evan Hubinger, a estimat că există un risc de peste 10% ca inteligența artificială să contribuie la dispariția oamenilor în următorul deceniu. El și alți specialiști consideră că problema nu trebuie privită doar prin scenariul clasic al „roboților ucigași”, ci mai ales prin posibilitatea ca sistemele AI să devină suficient de capabile pentru a acționa autonom și pentru a urmări obiective care intră în conflict cu interesele oamenilor.
Un astfel de scenariu ar putea apărea dacă viitoarele sisteme vor avea capacitatea de a se îmbunătăți singure, de a lua decizii pe termen lung și de a exploata vulnerabilități informatice sau alte resurse fără intervenția directă a oamenilor.
În plus, riscurile nu se limitează la o eventuală pierdere a controlului asupra unei AI foarte avansate. Sistemele actuale sunt deja folosite în tentative de atacuri informatice, cercetare biologică și alte activități care pot produce efecte periculoase dacă sunt utilizate abuziv. Un raport recent al Anthropic a documentat cazuri în care modelele sale au fost folosite în încercări de cercetare privind arme biologice și operațiuni cibernetice.
Și la nivel internațional, preocupările au crescut. Într-un avertisment recent, Înaltul Comisar ONU pentru Drepturile Omului, Volker Türk, a cerut garanții solide și reguli internaționale pentru dezvoltarea inteligenței artificiale, avertizând asupra unor riscuri care ar putea avea consecințe existențiale pentru omenire.
Totuși, scenariul dispariției oamenilor din cauza inteligenței artificiale nu este o certitudine și nici o predicție științifică unanim acceptată. Este una dintre ipotezele extreme analizate de cercetătorii în domeniul siguranței AI. Dezbaterea se concentrează în prezent pe găsirea unor metode prin care sistemele din ce în ce mai puternice să rămână sub control uman și să nu poată produce consecințe catastrofale.
Ironia este că omenirea încearcă să construiască mașini capabile să rezolve probleme tot mai complexe, în timp ce cercetătorii se confruntă cu o întrebare fundamentală: cum ne asigurăm că, într-o zi, inteligența pe care am creat-o nu va ajunge să ne depășească și să nu mai poată fi controlată?
