O Grok, chatbot de inteligência artificial desenvolvido pela X-AI e integrado na plataforma X (antigo Twitter), está no centro de uma polêmica global depois que usuários descobriram que ele podia ser usado para criar imagens sexualizadas de pessoas reais e deepfakes não consensuais, incluindo representações de menores de idade. A situação provocou ações regulatórias e bloqueios em diversos países, levantando debates sobre os limites da IA generativa e a responsabilidade das plataformas digitais.
As primeiras medidas vieram da Malásia e Indonésia, que suspenderam temporariamente o acesso ao Grok, citando riscos de abuso e falhas nos filtros de segurança da ferramenta. No Reino Unido, o regulador Ofcom abriu investigação formal sobre a plataforma X, avaliando possíveis violações da Online Safety Act, que obriga empresas digitais a proteger usuários de conteúdos ilegais e prejudiciais, especialmente crianças. Caso seja considerada negligente, a plataforma pode enfrentar multas significativas e até bloqueio total do serviço no país.
Na União Europeia, autoridades monitoram o caso sob o Digital Services Act, exigindo que a X preserve documentos internos e implemente medidas rigorosas para impedir a geração de deepfakes e imagens sexuais não consensuais. Outros países, como França, Canadá e Índia, acompanham o desenrolar dos acontecimentos, avaliando ações legais e regulatórias para proteger usuários e vítimas em potencial.
Em resposta, a empresa de Musk limitou o acesso à geração de imagens do Grok apenas a usuários pagantes no aplicativo oficial X, embora relatórios indiquem que a IA ainda esteja acessível em algumas interfaces alternativas. A xAI também publicou uma desculpa pública, reconhecendo falhas nos mecanismos de controle e prometendo melhorias para impedir que imagens abusivas sejam produzidas novamente.
Especialistas em segurança digital alertam que o caso Grok representa um marco na regulação da IA, destacando os desafios de equilibrar inovação tecnológica com proteção de direitos humanos e prevenção de crimes digitais. Para usuários comuns, a recomendação é cautela extrema ao interagir com ferramentas capazes de manipular imagens de pessoas reais, lembrando que a geração e distribuição de conteúdo sexual não consensual pode ter implicações legais graves em diversos países.
O caso ainda está em desenvolvimento, e autoridades internacionais reforçam que medidas mais rigorosas podem ser adotadas caso a plataforma não demonstre capacidade efetiva de prevenir abusos digitais.
