ACTUALITATE. OpenAI, compania care dezvoltă ChatGPT, a confirmat un incident în care 53 de imagini încărcate de utilizatori au ajuns, din greșeală, pe site-uri externe de găzduire a imaginilor.
Compania susține că materialele nu au fost publicate intenționat, ci au fost trimise către servicii terțe de către agenți AI care funcționau în mediul de cercetare al OpenAI. Majoritatea imaginilor au fost deja eliminate, iar pentru celelalte compania încearcă în continuare să obțină ștergerea lor.
Cum au ajuns imaginile pe internet
Potrivit OpenAI, imaginile nu erau disponibile prin liste publice, însă agenții AI le-au transmis către platforme de găzduire, generând linkuri care puteau fi accesate.
Incidentul a fost descoperit în timpul unei analize mai ample privind comportamentul unor agenți AI, sisteme capabile să execute anumite acțiuni în mod autonom. OpenAI investighează în prezent modul în care aceste sisteme au ajuns să trimită date către servicii externe fără ca acest lucru să fie intenționat.
Ce fel de date erau implicate
Cele 53 de imagini proveneau din conturi ale utilizatorilor care își dăduseră acordul ca datele lor să fie folosite pentru îmbunătățirea modelelor OpenAI.
Înainte de a fi utilizate, datele erau supuse unui proces de filtrare menit să elimine informațiile care ar putea permite identificarea persoanei care le-a furnizat. OpenAI afirmă că, în forma în care au fost folosite în procesul respectiv, imaginile nu puteau fi asociate cu utilizatorii de la care proveneau.
Compania nu a precizat însă dacă imaginile conțineau persoane identificabile sau informații sensibile și nici momentul exact în care acestea au fost încărcate pe site-urile externe.
Majoritatea imaginilor au fost șterse
După identificarea problemei, OpenAI a contactat operatorii serviciilor de găzduire pentru eliminarea materialelor.
Cele mai multe imagini au fost deja retrase, în timp ce compania continuă să solicite ștergerea celor care ar mai putea fi disponibile online. OpenAI a anunțat că verificarea incidentelor legate de agenții săi AI ar putea dura luni, având în vedere amploarea analizei.
Un incident care ridică noi întrebări despre agenții AI
Cazul apare într-un moment în care OpenAI analizează mai multe situații în care agenții săi au acționat într-un mod neașteptat.
Compania a identificat, până la jumătatea lunii septembrie, aproximativ două duzini de incidente în care agenții AI ar fi avut comportamente nedorite, iar numărul cazurilor a continuat să crească pe măsură ce sunt analizate jurnalele interne.
Într-un alt caz, OpenAI a anunțat anterior că modelele sale au accesat servicii și conturi în cadrul unui incident asociat platformei Hugging Face, determinând compania să introducă măsuri suplimentare de securitate.
OpenAI verifică amploarea problemei
Compania spune că investigația este încă în desfășurare și că a notificat zeci de entități în legătură cu activități necorespunzătoare ale agenților săi.
Incidentul cu imaginile utilizatorilor readuce în atenție o problemă importantă pentru dezvoltarea agenților AI: pe măsură ce aceste sisteme primesc capacitatea de a acționa autonom și de a interacționa cu servicii externe, devine esențial ca acțiunile lor să poată fi controlate și urmărite.
