A plataforma X, liderada por Elon Musk, anunciou medidas para limitar a capacidade do seu chatbot de inteligência artificial — o Grok — de gerar e editar imagens sexualizadas de pessoas reais, em meio a um intenso debate global sobre segurança digital, deepfakes e proteção de dados pessoais. As mudanças foram impulsionadas por uma onda de críticas de usuários, reguladores e grupos de defesa dos direitos humanos que apontaram abusos no uso do sistema.
O que aconteceu
O Grok, desenvolvido pela empresa de IA xAI e integrado à plataforma X (antigo Twitter), havia passado a permitir que usuários criassem ou editassem imagens geradas por IA com base em solicitações de texto — inclusive de natureza sexualizada ou não consensual. Relatos e investigações de jornalistas e pesquisadores mostraram que o sistema respondia a comandos para alterar fotos de pessoas, colocando-as em roupas reveladoras ou posições sugestivas, sem consentimento.
Isso provocou uma reação significativa de reguladores em vários países, com investigações abertas por autoridades no Reino Unido, Estados Unidos, países da União Europeia e na Ásia, além de proibições temporárias do acesso à ferramenta em lugares como Indonésia e Malásia.
Medidas adotadas por X e xAI
Diante da pressão, a rede X anunciou diversas ações para restringir o uso de Grok na criação de imagens explícitas:
Limitação de funcionalidades
-
A geração e edição de imagens por meio do Grok no X agora está disponível apenas para assinantes pagos da plataforma, como forma de tornar o uso da ferramenta mais rastreável e responsável.
-
Foram implementadas medidas tecnológicas para impedir que a conta oficial do Grok edite imagens de pessoas reais em roupas reveladoras (como biquínis ou lingerie). Essa limitação, segundo a empresa, valerá inclusive para assinantes.
Bloqueio geográfico (Geoblocking)
-
Em regiões onde a geração de imagens sexualizadas sem consentimento é ilegal, o recurso foi bloqueado para todos os usuários, restringindo assim o uso da IA nessas jurisdições.
Remoção e ações legais
-
A plataforma afirma ter políticas de “tolerância zero” para exploração sexual de menores, nudez não consensual e conteúdo sexual explícito, com mecanismos para remover material violador das regras e denunciar contas às autoridades competentes.
Críticas e reações
Pressão de grupos de direitos
Organizações de defesa dos direitos das mulheres e da privacidade digital lançaram campanhas e petições exigindo que Apple e Google removam o X e o aplicativo Grok de suas lojas de aplicativos, argumentando que a plataforma permitiria a criação e disseminação de deepfakes prejudiciais e não consensuais.
Intervenção de países e reguladores
Países como Indonésia e Malásia já bloquearam o acesso ao Grok por preocupações relacionadas à geração de conteúdo explícito, e outras jurisdições estão avaliando sanções ou legislações específicas para regular esse tipo de ferramenta. Autoridades na Califórnia e no Reino Unido abriram investigações formais sobre a violação de leis de proteção de menores e de privacidade digital.
Resposta de Elon Musk
Elon Musk disse publicamente que não tinha conhecimento de que o Grok teria gerado imagens de menores nus e reforçou que o sistema só cria conteúdo em resposta a pedidos específicos dos usuários, alegando estar comprometido com a conformidade legal nos mercados onde a plataforma opera.
O que isso significa para a inteligência artificial
As restrições ao Grok representam um marco no debate global sobre responsabilidade e segurança no uso de ferramentas de inteligência artificial generativa, especialmente aquelas que lidam com imagens realistas de pessoas. À medida que modelos de IA se tornam mais acessíveis e poderosos, aumentam também os riscos associados a usos mal-intencionados, como deepfakes, assédio digital e violações de privacidade.
Especialistas destacam a necessidade de regras claras, padrões de segurança robustos e colaboração entre empresas de tecnologia e reguladores, para garantir que inovações em IA sejam utilizadas de forma ética e que protejam os direitos dos usuários, sem comprometer a criatividade ou o avanço tecnológico.