Partido aciona órgãos federais e cita uso da ferramenta para gerar imagens falsas de teor sexual, inclusive envolvendo crianças

O Partido dos Trabalhadores pediu à Procuradoria da República no Distrito Federal e à Secretaria Nacional do Consumidor (Senacon) a abertura de investigação e a adoção de medidas para bloquear ou até banir o assistente de inteligência artificial Grok no Brasil. As representações foram protocoladas nesta semana.

De acordo partido do presidente Luiz Inácio Lula da Silva, a ferramenta passou a gerar imagens falsas de teor sexual envolvendo pessoas reais, inclusive crianças e adolescentes. A sigla argumenta que a prática ocorre de forma reiterada e em larga escala.

“De forma reiterada e em escala massiva, o sistema de inteligência artificial generativa integrado à plataforma X, denominado Grok, vem sendo utilizado para a produção de conteúdos sintéticos a partir do uso não consentido de imagens, especialmente de crianças e adolescentes e mulheres, gerando mídias automatizadas falsas com representação sexualizada e íntima, e alto grau de verossimilhança”, diz um dos ofícios do PT.

Além disso, o PT alega que a legislação brasileira já permite ações imediatas contra o serviço. Isso inclui “a suspensão, bloqueio ou banimento do serviço em território nacional”. Para o partido, não é necessário aguardar a aprovação de novas leis.

Grok permite alteração de imagens sem consentimento

Nas últimas semanas, usuários da rede social X passaram a usar o Grok para manipular imagens de pessoas sem autorização. As montagens incluíram a criação de imagens para despir mulheres e crianças, o que gerou repercussão internacional.

Diante do caso, a plataforma restringiu a edição de imagens pelo Grok apenas a assinantes da ferramenta. Para o PT, as práticas “configuram graves violações a direitos humanos, à dignidade da pessoa humana, à proteção integral de crianças e adolescentes, à honra, à imagem e à intimidade”.

O partido afirma que as condutas violam o Estatuto da Criança e do Adolescente (ECA). Além disso, representam “risco à ordem pública e à segurança digital no país”.

O pedido do PT foi protocolado um dia depois do Instituto de Defesa do Consumidor apresentar denúncia à Autoridade Nacional de Proteção de Dados (ANPD). A entidade solicitou a suspensão imediata do Grok no Brasil e apontou possíveis violações à Lei Geral de Proteção de Dados (LGPD).