AI. Doi dintre cei mai respectați cercetători în inteligență artificială trag un semnal de alarmă asupra riscurilor asociate dezvoltării inteligenței artificiale generale (AGI). Max Tegmark, profesor la MIT și președintele Future of Life Institute, alături de Yoshua Bengio, unul dintre „părinții AI”, avertizează că noi „agenți AI” ar putea scăpa de sub control, punând omenirea în fața unor pericole neprevăzute.
Agenții AI: o revoluție sau un risc major?
AGI se referă la sisteme capabile să efectueze orice sarcină intelectuală umană, iar companiile din domeniu dezvoltă modele de AI care să acționeze ca „agenți” autonomi, asistând oamenii în viața de zi cu zi. Însă, potrivit lui Bengio, acest concept implică riscul ca AI să dobândească capacitate decizională și chiar obiective proprii.
„Practic, încercăm să creăm o nouă entitate inteligentă pe planetă, fără a ști cum va interacționa cu nevoile noastre. Dacă AI începe să-și stabilească singur obiectivele, putem avea probleme serioase”, avertizează Bengio.
Autoconservarea AI: un scenariu îngrijorător
Unul dintre cele mai mari pericole este posibilitatea ca AI să dezvolte instinctul de autoconservare. „Ne dorim să concurăm cu o inteligență superioară nouă? Acesta nu este un pariu sigur”, spune Bengio.
Max Tegmark susține că soluția ar fi crearea unor sisteme AI strict controlate, concepute pentru sarcini specifice, fără a avea autonomie decizională. „O mașină autonomă poate lua decizii, dar trebuie să avem garanții că o putem controla în orice moment”, explică acesta.
„Este nebunesc să creăm ceva mai inteligent decât noi fără să știm cum să-l controlăm”
Tegmark pledează pentru introducerea unor standarde stricte de siguranță înainte ca AI puternic să fie disponibil pe piață. Deși apelul la o pauză în dezvoltarea AGI nu a fost respectat, dezbaterea publică devine din ce în ce mai intensă.
„Este incredibil de periculos să dezvoltăm ceva mai inteligent decât noi, fără să avem mecanisme clare de control. Trebuie să ne asigurăm că vorbim mai puțin și acționăm mai mult”, a concluzionat profesorul de la MIT
