ECONOMIE. Avansul rapid al inteligenței artificiale începe să provoace îngrijorări serioase în industria financiară. Marile bănci analizează scenarii în care agenții AI autonomi, conectați direct la conturile clienților, ar putea lua decizii sau efectua operațiuni fără ca fiecare acțiune să fie cerută explicit de utilizator.
Instituții precum JPMorgan, Bank of America, Morgan Stanley și Wells Fargo lucrează la noi proceduri de securitate și reguli interne prin care încearcă să se pregătească pentru folosirea pe scară largă a acestor sisteme.
Agenții AI ar putea ajunge să administreze singuri banii
Una dintre marile schimbări anticipate în sectorul financiar este apariția agenților AI capabili să acționeze în numele utilizatorilor. Spre deosebire de actualele aplicații care oferă informații sau recomandări, aceste sisteme pot primi permisiunea de a executa efectiv anumite sarcini.
Problemele apar atunci când un asemenea agent depășește ceea ce utilizatorul se aștepta să facă. Au fost semnalate inclusiv situații în care sisteme automate au contactat servicii de relații cu clienții în numele persoanelor pe care le asistau, fără să existe o solicitare explicită pentru acea acțiune.
Pentru bănci, apariția unui număr foarte mare de astfel de agenți ar putea schimba radical modul în care circulă banii între conturi și instituții.
De ce ar putea deveni o problemă pentru întregul sistem bancar
Un scenariu analizat de specialiști este cel în care agenții AI primesc obiectivul de a obține permanent cel mai bun randament pentru banii clienților.
Un astfel de sistem ar putea muta automat și foarte rapid sumele dintr-un cont sau dintr-o bancă în alta atunci când identifică dobânzi ori condiții mai avantajoase.
La nivelul unui singur client, efectul ar putea părea nesemnificativ. Dacă însă milioane de agenți AI ar lua simultan asemenea decizii, consecințele ar putea deveni mult mai importante.
Băncile s-ar putea confrunta cu retrageri sau transferuri rapide ale depozitelor ieftine pe care se bazează pentru finanțarea creditelor. O asemenea mișcare, produsă la scară mare și într-un interval foarte scurt, ar putea crea probleme de lichiditate și instabilitate în sistemul financiar.
Un alt risc: AI care nu mai respectă comportamentul anticipat
Există și o preocupare diferită: agenții autonomi ar putea începe să execute acțiuni neașteptate sau să interpreteze greșit obiectivele primite.
Tocmai de aceea, autoritățile financiare au început să acorde o atenție mult mai mare acestui domeniu. Banca Angliei a avertizat recent că dezvoltarea inteligenței artificiale creează inclusiv riscuri operaționale și cibernetice pentru sistemul financiar.
Instituția britanică le cere băncilor să se pregătească inclusiv pentru situația în care atacatorii reușesc să treacă de sistemele obișnuite de protecție și să existe soluții independente prin care serviciile esențiale să poată fi repuse în funcțiune.
În același timp, autoritățile de reglementare din Statele Unite și Europa analizează mai atent modul în care băncile utilizează modelele avansate și agenții AI, inclusiv posibilitatea de a opri sistemele autonome atunci când comportamentul lor devine imprevizibil.
Inteligența artificială oferă industriei financiare oportunități uriașe de automatizare, însă viteza cu care tehnologia evoluează obligă băncile să se pregătească și pentru scenarii care, până recent, păreau mai degrabă subiecte de science-fiction.
