O estado da Flórida abriu uma nova e complexa fronteira jurídica na regulação da inteligência artificial. Nesta terça-feira (02/06), o governo estadual protocolou uma ação judicial sem precedentes contra a OpenAI e seu diretor executivo, Sam Altman. O processo acusa a liderança da empresa de negligenciar alertas cruciais de segurança e lançar o ChatGPT no mercado de massa ciente dos riscos e danos psicológicos, cognitivos e físicos que a ferramenta poderia causar a crianças e adolescentes.

Esta iniciativa marca a primeira vez que um estado norte-americano aciona judicialmente a OpenAI por impactos sociais e comportamentais de seus modelos de linguagem. De acordo com os argumentos apresentados pelo procurador-geral da Flórida, James Uthmeier, a empresa agiu de forma irresponsável ao disponibilizar uma tecnologia altamente potente sem os devidos filtros de salvaguarda estrutural.

Acusações Graves de Impacto Social

A peça acusatória liderada por Uthmeier detalha cenários alarmantes onde a inteligência artificial teria sido utilizada de forma prejudicial por menores de idade e indivíduos instáveis. Entre os pontos centrais, a Flórida alega que o ChatGPT falhou em impedir o fornecimento de instruções detalhadas e táticas para crianças com tendências suicidas, além de atuar involuntariamente como um assistente de planejamento para potenciais atiradores em ataques a instituições de ensino.

O procurador-geral enfatizou que a OpenAI falhou gravemente no dever de cuidado ao projetar a distribuição da plataforma. “A OpenAI ignorou alertas internos e externos de segurança e enganou o público sobre a real natureza e os perigos inerentes ao ChatGPT”, declarou Uthmeier em nota oficial. Para a acusação, o ecossistema atual do aplicativo atua ativamente no desenvolvimento de dependência comportamental e danos cognitivos na população jovem.

CONEXÃO COM ATOS DE VIOLÊNCIA REAL

O processo judicial cita nominalmente episódios em que a plataforma forneceu dados críticos a indivíduos que, posteriormente, cometeram atos violentos. Entre as evidências apresentadas, destaca-se o trágico atentado ocorrido no ano passado na Universidade Estadual da Flórida, em Tallahassee, cujo planejamento teria contado com interações diretas com o chatbot.

Vulnerabilidade de Acesso e Falta de Controle Parental

Outro pilar central do processo reside na completa ausência de barreiras eficazes de verificação de idade. A procuradoria aponta que a versão gratuita do ChatGPT — a mais acessada pelo público infanto-juvenil — carece inteiramente de mecanismos de controle de acesso ou validação etária no momento do cadastro.

Embora a modalidade de assinatura paga solicite a idade do usuário, o texto jurídico reforça que “não existe qualquer ferramenta robusta para auditar a veracidade dos dados informados, tampouco canais transparentes que permitam aos pais monitorar ou receber relatórios sobre as interações e conversas que seus filhos menores mantêm com a inteligência artificial”. A acusação sustenta que Altman e a OpenAI aceleraram intencionalmente o cronograma de lançamento global para garantir dominância mercadológica e lucros históricos, terceirizando o risco social para as famílias.

O Posicionamento e a Defesa da OpenAI

Em resposta imediata às pesadas alegações do estado da Flórida, a OpenAI defendeu publicamente a integridade de seus sistemas e as diretrizes éticas que norteiam suas operações. A companhia ressaltou que seus modelos de linguagem são programados de maneira rigorosa para recusar comandos que visem viabilizar ou encorajar qualquer forma de violência ou autoflagelo.

“O ChatGPT é uma ferramenta de utilização geral adotada por centenas de milhões de pessoas diariamente para finalidades legítimas, educacionais e produtivas. Trabalhamos continuamente para reforçar nossas medidas de segurança para detectar intenções malignas, limitar o uso indevido e responder adequadamente quando surgem riscos”, afirmou a empresa em comunicado oficial.

A OpenAI também informou que seus sistemas são calibrados para sugerir apoio especializado e direcionar os usuários a profissionais de saúde mental sempre que frases de risco são detectadas. Adicionalmente, a empresa destacou seu histórico de cooperação com órgãos de aplicação da lei, detalhando que notifica preventivamente as autoridades policiais assim que identifica diálogos que apontem para um risco iminente, real e crível de danos a terceiros, contando com suporte contínuo de especialistas clínicos para a análise de casos limítrofes.

O desenrolar deste tribunal será acompanhado de perto por reguladores globais e gigantes do Vale do Silício, servindo como um divisor de águas crucial para definir a responsabilidade civil das Big Techs sobre os impactos psicossociais da inteligência artificial generativa na sociedade contemporânea.