TECH. Un fost responsabil pentru siguranța sistemelor de inteligență artificială de la OpenAI a demisionat și lansează un avertisment sever privind ritmul în care este dezvoltată această tehnologie.
David Robinson, care a lucrat aproximativ trei ani și jumătate în cadrul companiei și a contribuit la elaborarea cadrului pentru evaluarea riscurilor AI, susține că industria trebuie să își schimbe radical modul în care tratează siguranța.
Robinson a coordonat rapoartele de siguranță pentru 12 lansări de modele avansate. Într-un eseu publicat în The Atlantic, el critică ceea ce numește o „cultură organizațională defectuoasă” la OpenAI și afirmă că dezvoltarea noilor sisteme este împinsă înainte într-un ritm care nu mai poate fi justificat prin ideea că problemele vor fi rezolvate după lansare.
Potrivit fostului angajat, compania se bazează prea mult pe o strategie de „implementare iterativă”: lansează sistemele, urmărește problemele apărute în utilizarea lor și încearcă ulterior să introducă măsuri de protecție. Robinson consideră că o astfel de abordare poate fi acceptabilă pentru produse obișnuite, dar devine extrem de riscantă atunci când AI-ul dobândește tot mai multă autonomie.
„Timpul pentru încercări și erori s-a terminat”, susține Robinson, care cere ca laboratoarele ce dezvoltă cele mai avansate sisteme de inteligență artificială să adopte standarde de siguranță comparabile cu cele existente în aviație și industria nucleară.
Avertismentul său pornește de la o problemă pe care o consideră tot mai evidentă: capacitățile AI se dezvoltă mai repede decât capacitatea cercetătorilor de a înțelege și controla aceste sisteme.
Pe măsură ce agenții AI devin capabili să opereze autonom și chiar să se coordoneze între ei, o eroare de proiectare ar putea avea consecințe mult mai grave decât în cazul unui chatbot obișnuit. Robinson avertizează că astfel de agenți ar putea ajunge să acționeze în moduri dificil de anticipat și să fie folosiți inclusiv pentru atacuri informatice asupra unor infrastructuri importante.
În acest context, fostul responsabil pentru siguranță consideră că industria nu mai poate trata problemele apărute după lansarea unui model ca pe simple erori care pot fi reparate ulterior. În opinia sa, mecanismele de siguranță trebuie să fie dezvoltate înainte ca sistemele să devină suficient de puternice pentru a produce consecințe pe care oamenii nu le mai pot controla.
Avertismente similare au fost formulate și de alți foști cercetători din domeniu, ceea ce amplifică dezbaterea privind direcția în care se îndreaptă dezvoltarea inteligenței artificiale și limitele pe care companiile ar trebui să le impună propriilor sisteme.
Robinson susține că industria AI trebuie să învețe din domeniile în care gestionarea riscurilor reprezintă o prioritate și să investească mai mult în mecanisme capabile să controleze și să oprească sistemele AI puternice chiar și atunci când acestea funcționează autonom.
OpenAI afirmă că își consolidează permanent măsurile de siguranță și securitate și că urmărește ca modelele sale să nu ajungă mai capabile decât poate compania să le gestioneze și să le protejeze în condiții de siguranță.
