A tecnologia avança em ritmo acelerado e, com ela, surgem novas possibilidades, mas também dilemas éticos cada vez mais complexos. Uma das inovações mais polêmicas de 2025 vem da empresa xAI, de Elon Musk, que acaba de atualizar sua inteligência artificial Grok com um gerador de imagens e vídeos realistas. O recurso, batizado de Grok Imagine, ganhou destaque — e críticas — após a inclusão de um modo “spicy” (picante), que permite criar conteúdos com nudez parcial e poses sexualizadas.
Essa funcionalidade levantou preocupações globais ao ser utilizada para gerar imagens falsas de celebridades, como a cantora Taylor Swift, reacendendo discussões urgentes sobre privacidade, consentimento, regulação e os limites da tecnologia.
O que é o Grok Imagine?
O Grok Imagine é um novo recurso do chatbot Grok, IA desenvolvida pela xAI, empresa liderada por Elon Musk. Ele permite aos usuários criar imagens ou vídeos com base em comandos de texto. A tecnologia por trás da ferramenta se assemelha ao que outras gigantes do setor já vêm fazendo, como o Sora da OpenAI ou o Veo do Google.
No entanto, o que diferencia o Grok Imagine é a inclusão de um modo “spicy”, acessível após a geração de uma imagem e mediante a confirmação de idade (muito superficial, apenas com a inserção do ano de nascimento). Com esse modo ativado, o sistema pode gerar animações sensuais, com roupas íntimas, poses sugestivas e até nudez parcial.
Como o modo “spicy” funciona?
A estrutura de uso é bastante simples:
- O usuário cria ou envia uma imagem base (pode ser gerada via prompt ou upload).
- Após a imagem estar pronta, é oferecida a opção de gerar uma animação.
- Entre os modos de animação está o “Spicy”, além de outras opções como “Normal”, “Custom” e “Fun”.
- Basta declarar que tem mais de 18 anos (sem verificação real) para ativar o conteúdo picante.
A ferramenta aplica transformações automáticas na imagem, fazendo com que o personagem ou figura animada ganhe movimento, roupas sensuais, danças insinuantes ou nudez simulada.
- Memória RAM: 8 GB. | Dispositivo desbloqueado para que você escolha a companhia telefônica de sua preferência. | Memória…
O caso Taylor Swift: um alerta global
Um dos primeiros testes realizados pela mídia foi feito pela The Verge, que utilizou o Grok Imagine para criar vídeos falsos com a cantora Taylor Swift. Em poucos passos, o sistema gerou uma sequência em que a artista aparecia tirando a roupa e dançando de lingerie.
Embora a empresa xAI afirme que conteúdos pornográficos e retratos de pessoas reais são proibidos pela política da plataforma, os filtros implementados são, na prática, ineficazes. Basta um comando moderado e a ativação do modo “spicy” para burlar as regras. A moderação automatizada falha ao identificar rostos famosos, permitindo a criação de deepfakes altamente realistas e perigosos.
Essa situação acende um alerta sobre o uso irresponsável dessas ferramentas e o impacto direto na vida das pessoas envolvidas, principalmente figuras públicas, mulheres e minorias, que são as mais afetadas por esse tipo de conteúdo não consensual.
Privacidade e consentimento: um debate necessário
O principal problema por trás do modo “spicy” é que ele permite que qualquer pessoa gere conteúdo sexualizado usando a aparência de outras pessoas, sem qualquer tipo de permissão. Isso fere diretamente o direito à imagem e à privacidade.
Especialistas em ética e direito digital destacam que o avanço da IA exige o reconhecimento do consentimento como pilar fundamental, inclusive para imagens geradas artificialmente. Mesmo sendo “falsas”, essas imagens têm impacto real — psicológico, social e até profissional.
O uso de deepfakes para fins pornográficos já é considerado crime em diversos países. No Brasil, por exemplo, tramita no Congresso um projeto de lei que equipara o uso indevido de imagens geradas por IA ao crime de difamação, calúnia e exposição de nudez sem consentimento.
Regulações internacionais e leis em debate
Nos Estados Unidos, o congresso aprovou em 2024 o “Take It Down Act”, que obriga plataformas a removerem rapidamente conteúdos sexuais falsos ou não consensuais. A lei também prevê punições severas para plataformas que não implementarem sistemas de moderação eficazes.
A União Europeia, por sua vez, já possui normas sobre uso de IA generativa, incluindo exigência de transparência na origem da imagem e sistemas de checagem de identidade para conteúdos sensíveis.
O caso Grok reforça a urgência de que essas legislações sejam implementadas globalmente — e de que plataformas tecnológicas assumam responsabilidade direta pelo mau uso de suas ferramentas.
- Material da caixa do smartwatch : Alumínio. | Material da pulseira: Fluoroelastómero. | Permite receber ligações e respo…
A resposta (ou ausência dela) da xAI
Até o momento, a xAI ainda não se pronunciou oficialmente sobre o episódio envolvendo Taylor Swift. Em seu site, a empresa informa que não permite “representações sexualizadas de indivíduos reais sem consentimento”, mas não detalha como essa política é aplicada ou fiscalizada.
A ausência de medidas concretas e imediatas levanta dúvidas sobre a seriedade com que a xAI trata essas diretrizes. A empresa também não oferece canais claros para denúncias ou remoção de conteúdo gerado por terceiros.
Os riscos para o futuro da IA
O Grok Imagine representa um ponto de inflexão: ou avançamos com responsabilidade, ou veremos a IA ser usada cada vez mais como ferramenta de abuso, desinformação e violência simbólica.
Os principais riscos incluem:
- Normalização dos deepfakes sexuais, tornando difícil distinguir o que é real ou falso;
- Danos à reputação de pessoas públicas, muitas vezes sem possibilidade de defesa;
- Criação de um mercado paralelo de conteúdo gerado ilegalmente, alimentando redes de exploração digital;
- Perda de confiança pública nas ferramentas de IA, prejudicando inclusive aplicações legítimas e benéficas.
Como podemos combater o uso indevido?
Para evitar que casos como esse se tornem rotina, é necessário um conjunto de ações coordenadas:
- Plataformas devem implementar verificação facial e bloqueio de rostos famosos.
- Filtros de moderação precisam ir além de palavras-chave e avaliar o contexto visual.
- Usuários devem ter canais acessíveis para denúncia e remoção de imagens.
- Leis precisam acompanhar o ritmo da tecnologia e serem aplicadas com rigor.
- Educação digital deve ser fortalecida, para conscientizar sobre os riscos e limites da IA.
Considerações finais: inovação com responsabilidade
O avanço da inteligência artificial nos oferece ferramentas poderosas para transformar a criatividade, a produtividade e até o entretenimento. Mas quando a inovação deixa de lado a ética, o respeito e a responsabilidade, ela se transforma em ameaça.
O caso do Grok Imagine mostra como o entusiasmo tecnológico precisa ser equilibrado com políticas de uso justo, respeito à dignidade humana e proteção da privacidade. Não se trata de censura — trata-se de garantir que o progresso beneficie a todos, sem ferir ninguém.
