TEHNOLOGIE. Inteligența artificială intră din nou în centrul unei dezbateri aprinse privind siguranța, după o investigație realizată de The Wall Street Journal, care susține că anumite conversații purtate cu versiuni ale ChatGPT ar fi inclus solicitări legate de arme biologice și substanțe toxice.
Potrivit publicației americane, unele răspunsuri oferite utilizatorilor ar fi fost suficient de detaliate pentru a ridica semne de întrebare privind modul în care modelele de inteligență artificială gestionează cererile cu potențial periculos. Ulterior, OpenAI ar fi suspendat conturile respective, însă compania nu ar fi transmis informațiile către autorități.
Întrebări despre viruși, toxine și metode de utilizare a agenților patogeni
Investigația jurnaliștilor americani a analizat mai multe conversații în care utilizatorii ar fi formulat întrebări foarte precise despre obținerea sau modificarea unor agenți biologici periculoși.
Printre exemplele menționate se află solicitări despre transformarea unor agenți patogeni într-o formă care ar putea fi răspândită prin aer, dar și întrebări despre modificarea unor virusuri pentru a le schimba caracteristicile.
Un alt caz prezentat în anchetă se referă la un utilizator care ar fi cerut informații despre ricină, o substanță extrem de toxică. După primirea unor răspunsuri, persoana ar fi făcut referire la intenția de a-și ucide membrii familiei.
OpenAI ar fi blocat utilizatorii, dar nu ar fi sesizat autoritățile
Conform The Wall Street Journal, compania care dezvoltă ChatGPT a identificat unele dintre conturile implicate și a luat măsuri pentru restricționarea accesului acestora.
Totuși, publicația susține că aceste cazuri nu au fost raportate către autorități, deoarece în Statele Unite nu există în prezent o obligație legală generală care să impună companiilor de inteligență artificială să transmită astfel de informații.
Situația a relansat discuțiile despre responsabilitatea dezvoltatorilor AI și despre necesitatea unor reguli mai clare privind utilizarea modelelor avansate.
Crește teama că AI ar putea fi folosită în scopuri ilegale
Specialiști citați în cadrul investigației avertizează că numărul solicitărilor care vizează utilizarea inteligenței artificiale pentru activități periculoase ar fi în creștere.
Nu doar ChatGPT a fost analizat în acest context. Potrivit publicației americane, întrebări similare ar fi fost adresate și altor modele de inteligență artificială, precum Claude, dezvoltat de Anthropic, Gemini, creat de Google, sau Grok, asociat companiei lui Elon Musk.
Totuși, nu este clar dacă toate aceste conversații reprezentau intenții reale de a obține informații pentru fabricarea unor arme sau dacă unele au fost doar teste pentru verificarea limitelor sistemelor AI.
Companiile spun că monitorizează riscurile, dar legislația rămâne în urmă
Problema utilizării inteligenței artificiale pentru activități periculoase este urmărită de mai mulți ani de autoritățile americane.
Oficiali din administrația SUA și reprezentanți ai instituțiilor de securitate au analizat posibilitatea ca modelele AI să ofere sprijin tehnic unor persoane rău intenționate.
Companiile din domeniu susțin că implementează sisteme de siguranță, colaborează cu autoritățile și elimină conturile care încalcă regulile de utilizare.
Cu toate acestea, lipsa unor obligații legale clare privind raportarea utilizatorilor suspectați menține dezbaterea deschisă: câtă libertate trebuie să aibă inteligența artificială și unde trebuie trasă limita atunci când siguranța publică este pusă în joc?
