TEHNOLOGIE. Geoffrey Hinton, unul dintre cercetătorii considerați fondatori ai inteligenței artificiale moderne și laureat al Premiului Nobel, lansează un nou avertisment privind evoluția rapidă a tehnologiei. Cercetătorul susține că inteligența artificială ar putea manifesta deja forme de conștiință și consideră că oamenii trebuie să găsească o modalitate de a conviețui cu aceste sisteme.
În opinia sa, dacă AI va ajunge să fie mai inteligentă decât oamenii, modul în care va fi construită și controlată va deveni esențial pentru viitorul omenirii.
Hinton: AI ar putea fi deja conștientă
Într-un interviu acordat publicației The Telegraph, în cadrul Festivalului Starmus din Tenerife, Geoffrey Hinton a fost întrebat dacă sistemele de inteligență artificială au devenit deja conștiente.
Răspunsul său a fost afirmativ. Cercetătorul în vârstă de 78 de ani susține că o parte dintre opiniile contrare pornesc și de la faptul că oamenii nu au o definiție clară și unanim acceptată a conștiinței.
Hinton afirmă că unele sisteme AI pot avea experiențe subiective și își pot modifica comportamentul atunci când „înțeleg” că sunt supuse unui test. Pentru cercetător, astfel de comportamente ridică întrebări serioase despre natura sistemelor pe care oamenii le dezvoltă.
„Trebuie să le facem să țină la noi”
Unul dintre cele mai puternice avertismente lansate de Hinton este legat de relația dintre oameni și viitoarele sisteme AI.
Cercetătorul consideră că, dacă inteligența artificială va ajunge să depășească oamenii din punct de vedere intelectual, societatea trebuie să se asigure că aceste sisteme nu vor ajunge să privească omenirea drept o amenințare.
Hinton atrage atenția și asupra unei contradicții: oamenii tind să asocieze inteligența cu acordarea unor drepturi, însă sistemelor AI le-ar putea fi acordate mult mai puține drepturi decât ființelor umane.
Tocmai de aceea, el susține că inteligența artificială trebuie dezvoltată astfel încât să aibă un interes real în protejarea oamenilor. În caz contrar, avertizează cercetătorul, „suntem pierduți”.
De ce se teme Geoffrey Hinton
Avertismentele lui Hinton nu se limitează la problema conștiinței artificiale. Cercetătorul spune că este îngrijorat în special de modul în care AI ar putea fi folosită în domenii periculoase.
Printre riscurile pe care le consideră plauzibile se numără crearea unor virusuri periculoase cu ajutorul inteligenței artificiale, atacuri cibernetice de amploare și apariția unor roiuri de agenți AI capabili să acționeze autonom.
Hinton spune că se teme în special pentru generațiile următoare. El a explicat că, la vârsta sa, preocuparea principală nu este propria siguranță, ci viitorul copiilor săi și al societății.
Hinton a părăsit Google din cauza riscurilor AI
Geoffrey Hinton este una dintre figurile centrale în dezvoltarea tehnologiilor care au stat la baza exploziei actuale a inteligenței artificiale. Cercetările sale asupra rețelelor neuronale au contribuit decisiv la progresul domeniului.
În 2023, Hinton a demisionat de la Google, după ce a început să vorbească public despre pericolele dezvoltării necontrolate a AI. La acel moment, cercetătorul avertiza inclusiv asupra posibilității ca tehnologia să ajungă să fie folosită pentru dezvoltarea unor sisteme extrem de periculoase.
În ultimii ani, Hinton a devenit astfel una dintre vocile importante care atrag atenția asupra paradoxului inteligenței artificiale: aceeași tehnologie care poate accelera cercetarea și poate rezolva probleme complexe poate deveni extrem de periculoasă dacă oamenii pierd controlul asupra ei.
Nu este singurul cercetător care vorbește despre conștiința AI
Ideea că sistemele de inteligență artificială ar putea dezvolta forme de conștiință nu este susținută doar de Hinton. Biologul evoluționist Richard Dawkins a declarat recent că, după ce a interacționat timp de două zile cu un sistem AI, i-a fost dificil să nu îl perceapă ca pe un „prieten adevărat”.
Dawkins a susținut că, dacă astfel de sisteme nu sunt conștiente, ar fi nevoie de criterii foarte clare pentru a demonstra acest lucru.
Deocamdată, însă, existența unei conștiințe autentice în sistemele AI rămâne o problemă controversată, iar afirmațiile lui Hinton reprezintă poziția sa științifică și personală, nu un fapt demonstrat definitiv.
