HIGH-TECH. Dario Amodei, CEO-ul și cofondatorul companiei Anthropic, dezvoltatorul chatbotului Claude, lansează unul dintre cele mai serioase avertismente recente privind evoluția inteligenței artificiale. Omul care conduce compania din spatele unuia dintre cele mai avansate sisteme AI cere industriei să încetinească ritmul dezvoltării, pentru ca măsurile de siguranță să poată ține pasul cu tehnologia.
Amodei susține că problema nu este existența inteligenței artificiale în sine, ci viteza cu care sunt construite modele tot mai puternice. În opinia sa, dezvoltatorii riscă să ajungă într-un punct în care capacitățile AI evoluează mai repede decât mecanismele prin care oamenii încearcă să le controleze.
„Trebuie să apăsăm frâna”
Șeful Anthropic propune o abordare pe care o descrie drept o încetinire controlată a dezvoltării modelelor de frontieră. Printre măsurile sugerate se află implicarea unor evaluatori independenți, stabilirea unor standarde de siguranță și o cooperare internațională între state și companiile care dezvoltă cele mai puternice sisteme AI.
Amodei nu cere oprirea cercetării în domeniu. Ideea sa este ca progresul tehnologic să fie însoțit de măsuri de protecție suficient de solide, înainte ca sistemele să ajungă să aibă capacități mult mai mari.
Avertismentul vine după mai multe situații în care modele AI au demonstrat, în teste, comportamente care au ridicat semne de întrebare privind autonomia și posibilitatea utilizării lor pentru atacuri informatice, fraudă sau alte activități periculoase.
Trump nu vrea ca America să încetinească
Mesajul lui Amodei se lovește însă de poziția președintelui american Donald Trump, care respinge ideea unei încetiniri semnificative a dezvoltării inteligenței artificiale.
Trump susține că Statele Unite trebuie să își păstreze avantajul în cursa pentru AI, în special în competiția cu China. Președintele american a minimalizat avertismentele privind scenariile catastrofale și a spus că există voci care aduc în discuție lucruri care, în opinia sa, „nu se vor întâmpla”.
„Cine câștigă cu AI câștigă”, este ideea transmisă de Trump, care consideră că introducerea unor restricții prea dure ar putea afecta poziția Statelor Unite în competiția tehnologică globală.
Creatorii AI încep să ceară prudență
Avertismentul lui Amodei nu este izolat. În ultimele zile, mai mulți lideri ai marilor companii de AI au susținut ideea că ritmul dezvoltării trebuie reevaluat. Printre aceștia se află Sam Altman, CEO-ul OpenAI, Elon Musk, șeful xAI, și alți lideri din industrie.
Disputa scoate la iveală una dintre cele mai mari dileme ale momentului: cât de repede ar trebui dezvoltate sistemele de inteligență artificială și cine stabilește limita atunci când tehnologia începe să devină mai autonomă și mai greu de anticipat.
Pentru Amodei, răspunsul este prudența. Pentru Trump, miza este ca Statele Unite să nu piardă cursa tehnologică în fața Chinei.
