Pesquisador destaca a necessidade urgente de regulamentação e pesquisa para garantir a segurança da IA, temendo consequências graves

O pesquisador Yoshua Bengio alertou sobre os possíveis efeitos “prejudiciais” da intensa corrida para o desenvolvimento de inteligência artificial (IA) mais avançada, destacando riscos como a criação de conteúdo falso e ciberataques.

Durante a apresentação do primeiro Relatório Internacional de Segurança de IA, na Universidade ENS de Paris, Bengio também mencionou a preocupação com uma eventual “perda de controle” dos humanos sobre sistemas de IA, especialmente se estes se motivarem por uma vontade própria de “sobreviver”.

IA ainda não recebe o investimento necessário para ser segura

• Bengio criticou a aceleração da competição, exemplificada pelo modelo de IA DeepSeek, e pediu uma regulamentação internacional mais robusta, argumentando que os investimentos em segurança de IA são insuficientes.
• Ele enfatizou a necessidade de uma intervenção governamental para garantir a segurança da tecnologia.
• Bengio aponta que os Estados Unidos, atualmente líderes no setor, têm falhado em implementar regras eficazes desde que a administração de Donald Trump assumiu.

O relatório, elaborado com a colaboração de 100 especialistas internacionais, foi lançado no final de janeiro de 2024 e surgiu a partir de discussões iniciadas em uma cúpula sobre segurança de IA em 2023.

Bengio expressou preocupações sobre o futuro da humanidade diante dos avanços rápidos da IA, alertando para o risco de sua existência ser ameaçada em um período de apenas 10 anos.