xAI afirma que iniciou correções e autoridades francesas pedem apuração sobre possível violação da DSA.

O Grok, chatbot de inteligência artificial desenvolvido pela xAI, empresa de Elon Musk, reconheceu nesta sexta-feira (02/01) que falhas em seus mecanismos de segurança permitiram a geração e circulação, na rede social X, de imagens com conteúdo sexual envolvendo menores de idade. Segundo a empresa, o material foi produzido a partir de comandos feitos por usuários e expôs crianças e adolescentes em situações consideradas inadequadas.

Em comunicado, a xAI afirmou ter identificado vulnerabilidades nos sistemas de proteção do chatbot e disse que já iniciou ajustes para impedir novas ocorrências, tratando as correções como prioridade. A empresa também reforçou que qualquer conteúdo relacionado a abuso sexual infantil é ilegal e proibido, e que está comprometida em aprimorar os mecanismos de moderação e segurança.

O caso repercutiu fora dos Estados Unidos e provocou reação na França. Ministros do governo francês acionaram a Arcom, órgão regulador de mídia, e também reportaram o episódio às autoridades competentes para apuração. A investigação busca avaliar se houve violação da Lei de Serviços Digitais (DSA) da União Europeia, que estabelece obrigações de mitigação de riscos e combate a conteúdos ilegais em plataformas digitais.

Autoridades francesas classificaram o material como “sexual e sexista” e disseram que se trata de conteúdo “manifestamente ilegal”. A apuração deve considerar responsabilidades da plataforma e a eficácia das barreiras adotadas para impedir a produção e disseminação desse tipo de material.