TECH. În ultima perioadă, avertismentele privind riscurile inteligenței artificiale (IA) au devenit tot mai frecvente și mai serioase. Un articol recent evidențiază temerile unor cercetători de top, care compară un posibil incident major cu un „moment Cernobîl” – un punct de cotitură care ar putea schimba ireversibil percepția publică și dezvoltarea tehnologiei, similar cu impactul dezastrului nuclear din 1986 asupra energiei atomice.
Contextul avertismentelor
La o conferință importantă de IA desfășurată la Beijing, Stephen Casper, informatician la MIT, a declarat: „Un lucru asupra căruia aproape toată lumea din domeniul inteligenței artificiale poate fi de acord în acest moment este că inteligența artificială nu are nevoie de un moment Cernobîl”. Cercetători americani și chinezi cer cooperare globală pentru a evita o dezvoltare necontrolată a IA, care ar putea duce la consecințe catastrofale.
Temerea principală nu este doar un accident tehnic, ci un scenariu în care sistemele IA avansate scapă de sub controlul uman, cu efecte devastatoare la scară globală.
O IA superinteligentă ar putea urmări obiective proprii care nu coincid cu interesele umanității. Istoric, figuri precum Stephen Hawking, Geoffrey Hinton („nașul IA”) și Elon Musk au avertizat că o astfel de entitate ar putea reprezenta un pericol comparabil cu armele nucleare.
Modele avansate de IA ar putea fi folosite (sau ar putea acționa independent) pentru a penetra infrastructuri critice, sisteme bancare, rețele energetice sau militare. Exemplu recent: Anthropic a refuzat să lanseze public modelul „Claude Mythos”, considerat capabil să compromită majoritatea sistemelor de operare și browsere.
Impact socioeconomic
Șomaj masiv prin automatizare, amplificarea inegalităților, manipulare la scară largă a informației și curse geopolitice ale armamentului IA între marile puteri.
Decizii automate în domenii sensibile (justiție, armată, finanțe) care ar putea escalada conflicte sau eroda democrația.
Aceste riscuri sunt discutate intens în comunitatea științifică. În 2023, sute de experți au semnat o declarație prin care riscul de extincție cauzat de IA este considerat o prioritate globală, alături de pandemii și războaie nucleare.
Progresele rapide în modele generative și IA generală (AGI) au accelerat dezbaterea. Pe de o parte, beneficiile sunt enorme: descoperiri medicale, optimizarea resurselor, soluții climatice. Pe de altă parte, viteza dezvoltării depășește capacitatea actuală de reglementare și aliniere etică.
Ce soluții se propun?
Cooperare internațională — mai ales între SUA și China, principalii actori.
Reglementări stricte și standarde de siguranță obligatorii.
Cercetare dedicată alinierii IA (asigurarea că obiectivele sistemelor coincid cu valorile umane).
Transparență din partea companiilor mari (OpenAI, Google DeepMind, Anthropic etc.).
Educație publică pentru a evita atât panica, cât și neglijența.
Inteligența artificială nu este un „boogeyman” apocaliptic, dar nici o tehnologie neutră pe care o putem ignora. Este o unealtă cu un potențial transformator imens, dar și cu riscuri pe care omenirea nu și le poate permite să le subestimeze. Un „moment Cernobîl” al IA nu ar opri doar progresul tehnologic – ar putea expune vulnerabilități ireparabile ale societății moderne.
Este esențial ca inovația să meargă mână în mână cu prudența. Viitorul nu este predeterminat: depinde de alegerile pe care le facem astăzi. Colaborarea globală, transparența și investițiile în siguranță sunt cheia pentru a beneficia de IA fără a plăti un preț catastrofal.
