Indonésia e Malásia retiram Grok, ferramenta de IA de Musk, do ar

As autoridades da Malásia bloquearam o acesso ao Grok, ferramenta de inteligência artificial (IA) vinculada à rede social X, devido à geração de “imagens obscenas, sexualmente explícitas e manipuladas” pelo chatbot, pertencente ao empresário Elon Musk.

A Comissão de Comunicações e Multimídia da Malásia (MCMC) anunciou em comunicado neste domingo (11) que restringiria imediatamente o acesso à plataforma, sem afetar o uso do X, utilizado por cinco milhões de pessoas no país de maioria muçulmana.

A medida, semelhante à anunciada pela Indonésia no sábado, deve-se à geração de “imagens indecentes, extremamente ofensivas e não consensuais, incluindo conteúdo envolvendo mulheres e menores”.

Segundo o comunicado, a Malásia havia solicitado ao X a implementação de “salvaguardas técnicas e de moderação eficazes” para impedir a geração de conteúdo por IA que viole a legislação local, ao que a empresa de Musk respondeu com mecanismos de denúncia iniciados pelos usuários.

Essa resposta, de acordo com as autoridades da Malásia, não aborda a raiz do problema e é insuficiente para prevenir danos ou garantir a conformidade legal. Portanto, optaram pelo bloqueio temporário do chatbot, cujo funcionamento está sendo analisado em diversos países, incluindo o Reino Unido.

As suspensões entraram em vigor na Malásia e na Indonésia, depois que Musk restringiu os recursos de edição de imagens do Grok apenas para usuários pagantes na sexta-feira, após dias de reclamações por ter atendido a pedidos de internautas para alterar imagens de outras pessoas e despi-las sem o seu consentimento.

“Qualquer pessoa que usar o Grok para criar conteúdo ilegal enfrentará as mesmas consequências que quem publicar conteúdo ilegal”, declarou Musk no X.

O Grok é uma ferramenta gratuita que permite aos usuários fazer upload e editar fotos, e atendeu a pedidos de usuários para editar imagens de mulheres e homens, mostrando-os de biquíni ou sem roupa, o que gerou uma onda de reclamações e denúncias.