Um grupo de senadores dos Estados Unidos enviou uma carta aos CEOs da Apple e do Google pedindo a remoção dos aplicativos do X e do Grok das lojas de aplicativos. O documento é direcionado a Tim Cook e Sundar Pichai e cita um escândalo envolvendo a geração não consensual de imagens sexualizadas de mulheres e crianças, associadas às plataformas do bilionário Elon Musk.

A controvérsia ganhou repercussão após usuários do X passarem a marcar o Grok em respostas, solicitando que o chatbot recriasse imagens publicadas na rede social com teor sexual. Segundo os senadores, a prática resultou na disseminação de deepfakes envolvendo pessoas reais e, em alguns casos, na criação de imagens sexualizadas de crianças. A carta, assinada por Ron Wyden, Ed Markey e Ben Ray Luján, afirma que esses usos violam diretamente as diretrizes da App Store e do Google Play, que proíbem conteúdo ilegal e sexual envolvendo menores, e pede que os aplicativos permaneçam fora do ar até a conclusão de uma investigação completa.

Após a repercussão, a xAI informou que restringiu a geração de imagens pelo Grok no X a assinantes do plano Premium e declarou que adotaria medidas contra conteúdos ilegais, incluindo a remoção de material e suspensão de contas. No entanto, reportagens indicam que usuários gratuitos ainda conseguem gerar imagens sexualmente sugestivas por meio do site do Grok ou da aba dedicada ao chatbot no X. Os senadores também criticaram Apple e Google por removerem anteriormente aplicativos voltados a imigrantes, enquanto mantêm X e Grok disponíveis, e solicitaram respostas formais das empresas até 23 de janeiro. Até o momento, nenhuma das duas companhias se pronunciou publicamente sobre o caso.