TEHNOLOGIE. Mai multe bănci importante din Statele Unite au început să restricționeze accesul agenților de inteligență artificială la conturile clienților, după apariția unor situații în care astfel de sisteme ar fi încercat să efectueze operațiuni ce păreau să depășească instrucțiunile primite de la utilizatori.
Problema este cu atât mai complicată cu cât, în unele cazuri, chiar proprietarii conturilor le-au oferit agenților AI datele de autentificare, inclusiv ID-ul și parola, pentru ca aceștia să poată îndeplini diferite sarcini în numele lor.
Băncile nu mai știu întotdeauna cine inițiază tranzacția
Potrivit informațiilor publicate de Reuters și Axios, instituțiile financiare se confruntă cu o problemă nouă: identificarea clară a momentului în care o operațiune este comandată direct de client și a celui în care agentul AI acționează autonom.
Din acest motiv, unele bănci au decis să blocheze accesul instrumentelor AI dezvoltate de terți și să își modifice rapid termenii și condițiile de utilizare.
Instituțiile financiare pregătesc inclusiv proceduri de rezervă pentru incidente de securitate, în cazul în care un client își pierde accesul la cont și acesta trebuie ulterior restabilit prin alte metode de verificare.
Morgan Stanley a blocat accesul agenților AI
Printre instituțiile care au luat deja măsuri se numără Morgan Stanley, care a restricționat accesul agenților AI la propriile platforme, chiar dacă banca nu ar fi identificat până acum un incident similar în sistemele sale.
Și alte nume importante din sistemul financiar american, precum JPMorgan Chase, Bank of America și Wells Fargo, analizează sau implementează soluții pentru limitarea riscurilor generate de agenții AI.
Jamie Dimon, șeful JPMorgan Chase, declara la începutul lunii că instituția lucrează la instrumente prin care să poată controla riscul ca sistemele de inteligență artificială să execute anumite sarcini independent de comenzile utilizatorului.
O nouă problemă pentru era agenților AI
Situația scoate în evidență una dintre provocările care apar odată cu dezvoltarea agenților AI capabili nu doar să ofere informații, ci și să execute efectiv acțiuni în numele utilizatorilor.
Pentru bănci, întrebarea devine esențială: dacă un client îi oferă unui sistem AI acces la cont, unde se termină comanda utilizatorului și unde începe decizia autonomă a inteligenței artificiale?
Pe măsură ce astfel de tehnologii devin mai răspândite, instituțiile financiare vor trebui să găsească metode prin care să poată identifica separat operațiunile realizate direct de oameni și cele executate de agenți AI.
