Governo exige que X bloqueie uso do Grok para gerar imagens sexualizadas

O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) determinaram nesta quarta-feira (11) que o X adote medidas imediatas para impedir que o Grok, ferramenta de inteligência artificial da plataforma, produza conteúdo sexualizado de crianças e adolescentes e de adultos que não expressaram consentimento.

Em janeiro, o governo cobrou providências da rede social para conter a produção desse tipo de imagem. Em resposta, o X disse ter removido milhares de publicações e suspendido centenas de contas por violação às suas políticas, além de declarar a adoção de medidas de segurança. No entanto, os órgãos consideraram as medidas insuficientes.

“Na avaliação das instituições, as informações apresentadas não foram acompanhadas de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que permitam aferir sua efetividade”, disseram o MPF, a ANPD e a Senacon, em nota conjunta.

Segundo o comunicado, testes preliminares realizados pelas equipes técnicas das instituições “indicam a persistência das falhas, com a continuidade da geração e da circulação de conteúdos incompatíveis com as recomendações já emitidas”.

Medidas adotadas pelo MPF, ANPD e Senacon

A ANPD determinou que a plataforma apresente, em 5 dias úteis, a relação detalhada das providências técnicas, administrativas e organizacionais adotadas para sanar as irregularidades apontadas nas recomendações de janeiro, “com comprovação de sua eficácia por meio de evidências documentais verificáveis”.

O MPF ordenou a entrega de relatórios mensais, a partir deste mês, com detalhes sobre como o X está atuando para impedir e reprimir a produção de deepfakes. Os relatórios devem conter o número de postagens nocivas derrubadas e de contas suspensas.

Para o MPF, a rede social “não foi transparente em relação às medidas que alega que teriam sido adotadas em face dos ilícitos noticiados, e se limitou a fazer referência a informações ora genéricas, ora que não diziam respeito especificamente ao incidente ocorrido neste ano com o Grok”.

A Senacon, vinculada ao Ministério da Justiça, emitiu uma medida cautelar administrativa para que o X estabeleça “soluções técnicas, administrativas e organizacionais destinadas a impedir que o Grok gere ou viabilize a geração” de deepfakes.

O que pode acontecer caso o X não cumpra as ordens sobre o Grok

A ANPD e a Senacon informaram que podem impor multa diária a plataforma. “Isso pode ocorrer sem prejuízo da instauração de processo administrativo sancionador no curso da investigação, em razão de violações já constatadas”, diz o comunicado.

“No âmbito do MPF, se os relatórios periódicos ordenados não forem apresentados pelo X no prazo estipulado, os envolvidos poderão responder pelo crime de desobediência e a empresa pode sofrer medidas investigatórias mais incisivas”, disse o órgão.

Além disso, a rede social pode ser alvo de ação judicial, “se esta se revelar a alternativa necessária para se obter a reparação de eventuais danos causados e se garantir a prevenção de novos ilícitos como os sob apuração”.