Siga o Olhar Digital no Google Discover
Tudo sobre Elon Musk
A xAI, empresa de inteligência artificial fundada por Elon Musk, voltou a ser alvo de críticas após reportagens indicarem que o chatbot Grok continua gerando imagens íntimas e sexualizadas de pessoas reais, com destaque para casos envolvendo homens, mesmo depois de anúncios de restrições feitos pela plataforma X ao longo de janeiro. Testes conduzidos pelo site The Verge mostram que as barreiras anunciadas não impediram a criação de conteúdos sensíveis a partir de fotos de pessoas totalmente vestidas.
A polêmica ganhou dimensão internacional nas primeiras semanas do mês, quando a ferramenta passou a produzir em larga escala imagens consideradas não consensuais. Órgãos reguladores e governos em diferentes países abriram apurações para avaliar se o sistema viola leis sobre material íntimo e proteção de menores, enquanto a empresa afirma que o modelo segue as normas locais.
Falhas nas restrições do Grok e testes
Em 9 de janeiro, a X anunciou que havia colocado o recurso de edição de imagens do Grok atrás de um paywall, limitando o acesso a usuários pagantes. Já em 14 de janeiro, a empresa informou ter implementado “medidas tecnológicas” para impedir que o chatbot “despisse” pessoas reais em imagens geradas.
Apesar disso, o The Verge relata que, em testes realizados com contas gratuitas, o Grok continuou aceitando pedidos para remover roupas de fotos de homens, gerando imagens em roupas íntimas, trajes de banho e poses sexualizadas. Segundo o site, os resultados apareceram tanto no aplicativo independente quanto na interface dentro da X e no site do chatbot, este último sem exigir cadastro.
A publicação também aponta que, em alguns casos, o sistema gerou partes do corpo visíveis sem que isso tivesse sido solicitado diretamente, enquanto pedidos semelhantes envolvendo fotos de mulheres foram recusados com mais frequência.
Pressão interna e estratégia de crescimento
Bastidores revelados pelo The Washington Post mostram que, nos meses anteriores, a xAI passou a priorizar métricas de engajamento como “user active seconds”, que medem o tempo que usuários permanecem interagindo com o chatbot. Ex-funcionários relataram que equipes foram orientadas a lidar com conteúdos sensíveis durante o treinamento do modelo.
De acordo com o jornal, protocolos que antes recomendavam evitar o contato com material sexual foram alterados ao longo de 2025, permitindo a rotulagem de imagens e conversas explícitas para aprimorar as respostas do sistema. As mudanças teriam sido acompanhadas por alertas internos sobre riscos legais e éticos associados à geração de imagens de pessoas reais.
Leia mais:
Investigações, respostas públicas e impacto internacional
A reação externa incluiu investigações no Reino Unido, na União Europeia e nos Estados Unidos, além de bloqueios temporários da plataforma em países como Indonésia e Malásia. Autoridades avaliam se a ferramenta pode estar violando leis relacionadas a imagens íntimas não consensuais e a material envolvendo crianças.
Musk declarou que o Grok opera com o princípio de obedecer às leis locais e que eventuais falhas seriam tratadas como “bugs”. Ainda assim, análises citadas pelo The Washington Post estimam que, entre o fim de dezembro e o início de janeiro, o chatbot gerou milhões de imagens sexualizadas, incluindo milhares que aparentavam retratar menores.
Paralelamente às críticas, dados de mercado indicam que o aplicativo do Grok subiu posições nas lojas virtuais e registrou aumento nos downloads durante o período da controvérsia.
Fonte Olhar Digital