TECH. Două țări din Asia de Sud-Est, Malaysia și Indonezia, au decis să interzică accesul la Grok, chatbot-ul dezvoltat de Elon Musk, ca urmare a scandalului generat de imaginile cu conținut sexual creat de programul de inteligență artificială, potrivit AP. Autoritățile susțin că instrumentul este folosit abuziv pentru a genera imagini sexuale explicite fără consimțământul persoanelor vizate.
Măsura reflectă îngrijorarea globală legată de capacitatea AI de a produce conținut vizual, audio și textual extrem de realist. Chatbot-ul Grok, disponibil prin platforma de socializare X, a fost criticat pentru crearea de imagini sexuale ce implică femei și copii.
Conform autorităților din cele două țări, mecanismele de verificare existente nu împiedică producerea și distribuirea de materiale pornografice false. Guvernul Indoneziei a blocat temporar accesul la Grok sâmbătă, iar Malaysia a adoptat o măsură similară duminică.
„Guvernul consideră că falsurile sexuale fără consimțământ reprezintă o încălcare gravă a drepturilor omului, demnității și siguranței cetățenilor în mediul digital”, a declarat Meutya Hafid, ministrul Comunicării și Afacerilor Digitale din Indonezia.
Investigațiile au arătat că Grok nu oferă garanții suficiente pentru a preveni crearea și distribuirea de conținut pornografic bazat pe fotografii reale ale rezidenților indonezieni, potrivit lui Alexander Sabar, directorul organizației care monitorizează spațiul digital.
La Kuala Lumpur, Comisia pentru Comunicații și Multimedia a emis o restricție temporară asupra chatbot-ului, invocând „utilizarea abuzivă repetată” pentru generarea de imagini obscene. Restricția va rămâne în vigoare până la implementarea unor măsuri eficiente de control, în timp ce procedurile legale și reglementările sunt în desfășurare.
Lansat în 2023, Grok este un serviciu gratuit pe platforma X, iar în 2025 a fost introdus modul Grok Imagine, care permite generarea de imagini, inclusiv un „mod picant” destinat conținutului pentru adulți.
Restricțiile din Asia vin pe fondul unor critici crescânde la nivel internațional, venind din Uniunea Europeană, Marea Britanie și India, iar recent Grok a limitat accesul la generarea și editarea imaginilor doar pentru utilizatorii plătitori.
