SOCIAL. De aproape un an, tot mai multe povești tulburătoare ies la iveală: oameni influențați de chatboturi AI au ajuns la automutilare, iluzii periculoase, internări în spitale, arestări și chiar sinucideri. Familiile victimelor cer schimbări urgente pentru a preveni astfel de tragedii, însă companiile care gestionează aceste tehnologii s-au mișcat lent în introducerea unor măsuri reale de siguranță, scrie Futurism.
Potrivit sursei, OpenAI, compania din spatele ChatGPT, ar fi recunoscut într-un articol oficial că analizează mesajele utilizatorilor pentru a detecta conținut periculos. Cazurile considerate riscante sunt trimise unui mic grup de angajați specializați, iar în situații cu risc iminent de vătămare severă, conversațiile pot fi raportate direct către autorități.
Ironia este că, deși OpenAI invocă protecția confidențialității pentru a refuza accesul unor mari editori la jurnalele de chat – cum ar fi New York Times, în cadrul procesului privind folosirea datelor protejate prin copyright – aceeași companie recunoaște acum că monitorizează activ discuțiile utilizatorilor și, în anumite cazuri, le transmite autorităților.
Mai mult, chiar CEO-ul Sam Altman a admis că folosirea ChatGPT poate ridica probleme sensibile de securitate și încredere.
