A inteligência artificial Grok, integrante da rede social X, do bilionário Elon Musk, segue gerando imagens sexualizadas de mulheres e crianças, apesar das recomendações de órgãos brasileiros. Testes realizados pelas equipes técnicas da Secretaria Nacional do Consumidor (Senacon), do Ministério da Justiça e Segurança Pública (MJSP), juntamente com a Agência Nacional de Proteção de Dados (ANPD) e o Ministério Público Federal (MPF) revelaram que a rede está dando continuidade à geração e a circulação dos conteúdos.

Os órgãos emitiram uma recomendação conjunta à plataforma X, em janeiro. A principal medida exigida era a adoção de procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos sexualizados de mulheres e crianças que ainda estejam disponíveis na rede social X, gerados pelo Grok a partir de ações dos usuários.

Também solicitaram a suspensão imediata das contas envolvidas na produção de imagens sexuais ou erotizadas, tanto de crianças e adolescentes quanto de maiores de idade, sem sua autorização, feitas com o Grok.

Segundo nota publicada no site do Ministério da Justiça, a rede social de Elon Musk afirmou ter removido milhares de publicações e suspendido centenas de contas por violação às suas políticas, além de declarar a adoção de medidas de segurança. "Porém, na avaliação dos órgãos, as informações apresentadas não foram acompanhadas de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que permitam aferir sua efetividade", informa o documento.

A partir dessa conclusão, foram determinados os testes técnicos, que detectaram "a persistência das falhas, com a continuidade da geração e da circulação de conteúdos incompatíveis com as recomendações já emitidas".

O MPF destacou que a rede social de Elon Musk não foi transparente em relação às medidas que alega que teriam sido adotadas para impedir a exposição de mulheres e meninas, se limitando "a fazer referência a informações ora genéricas, ora que não diziam respeito especificamente ao incidente ocorrido neste ano com o Grok".

A Senacon e a ANPD reiteraram a recomendação nesta quarta-feira (11), determinando que a plataforma X implemente, de forma imediata, medidas aptas a impedir a produção, a partir do Grok, de conteúdo sexualizado ou erotizado de crianças e adolescentes e de adultos que não expressaram consentimento.

As instituições também determinaram a prestação de informações sobre as providências já adotadas pela empresa para sanar os problemas identificados em sua primeira recomendação. O MPF, por sua vez, ordenou que o X forneça relatórios mensais sobre sua atuação a respeito do tema e ressaltou que a empresa não foi transparente em sua resposta.

A Senacon reiterou os pedidos para que a rede social de Elon Musk implemente, de forma imediata, soluções técnicas, administrativas e organizacionais destinadas a impedir que o Grok gere ou viabilize a geração de imagens, vídeos ou arquivos de áudio que representem crianças e adolescentes, bem como pessoas naturais maiores de idade identificadas ou identificáveis, em contextos sexualizados ou erotizados, sem consentimento.

Também determinou a remessa de relatório detalhado, contendo dados quantitativos verificáveis sobre identificação, moderação, remoção e indisponibilização de conteúdos sexualizados relacionados ao funcionamento do Grok, incluindo número de conteúdos identificados e removidos, prazos médios de resposta, critérios técnicos utilizados e eventual adoção de medidas corretivas adicionais, como suspensão de contas ou restrição de funcionalidades.

Caso a plataforma X siga descumprindo as recomendações, os órgãos podem tomar outras medidas, como a imposição de multa diária, ações judiciais reparatórias, processos contra representantes da empresa, entre outras sanções.