O Grok promete mudanças após polêmica envolvendo a geração de imagens sexualizadas e deepfakes não consensuais. A rede social X anunciou restrições ao chatbot de inteligência artificial após pressão internacional, investigações regulatórias e denúncias de uso indevido da ferramenta.
Segundo a plataforma, o Grok não permitirá mais a criação ou edição de imagens de pessoas reais em contextos sexualizados. A decisão surge após usuários demonstrarem que a IA podia ser usada para “despir” pessoas ou criar montagens obscenas, atingindo figuras públicas e anônimos.
Por que o X decidiu restringir o Grok
A mudança ocorre em meio a uma crise reputacional. Relatórios e testes apontaram falhas graves nos filtros de segurança, permitindo conteúdos sensíveis, inclusive com indícios envolvendo menores de idade. Diante disso, o X anunciou bloqueios mais rígidos e passou a restringir a geração e edição de imagens a assinantes pagos, como forma de ampliar rastreabilidade e punição de abusos.
Além disso, o Grok passa a vetar edições de imagens de pessoas reais em situações de “roupas reveladoras”, como biquínis e trajes de banho.
Pressão regulatória e investigações
A resposta do X não foi voluntária. Autoridades da Califórnia abriram investigação contra a xAI, empresa responsável pelo Grok, após análises técnicas indicarem volume elevado de imagens sexualizadas geradas pela ferramenta. No Reino Unido, o órgão regulador Ofcom apura o cumprimento das leis de segurança online.
Na União Europeia, há sinalização de investigações com base na Lei de Serviços Digitais (DSA), que pode resultar em multas expressivas. Países como Malásia e Indonésia chegaram a bloquear o acesso ao Grok por preocupações com conteúdo sexual explícito.
Filtros ainda falham, dizem testes
Apesar das promessas, testes recentes indicam que as barreiras ainda são frágeis. Veículos internacionais apontam que comandos ajustados — prática conhecida como engenharia de prompt — conseguem contornar os filtros e induzir a IA a gerar conteúdos proibidos.
Também há relatos de que contas gratuitas ainda conseguem acessar recursos de imagem, contrariando o anúncio de exclusividade para assinantes Premium.
Reação de Elon Musk
O proprietário do X, Elon Musk, minimizou as falhas iniciais e atribuiu os resultados a tentativas deliberadas de quebrar as regras da IA. Ele afirmou que, quando a configuração de conteúdo sensível está ativa, o Grok permitiria apenas nudez de adultos imaginários, comparando o critério a classificações indicativas do cinema.
Enquanto isso, a promessa de reforço na segurança mantém o Grok sob escrutínio global, com autoridades e usuários atentos à eficácia real das mudanças anunciadas.
Comentários: