Relatório Internacional de Segurança de IA destaca ameaças reais

O Relatório Internacional de Segurança de IA liderado por Yoshua Bengio identifica riscos operacionais tangíveis das inteligências artificiais, incluindo ameaças cibernéticas, fraudes e manipulações.

• Reúne 30 países e mais de 100 especialistas independentes.
• Destaca o uso malicioso, falhas técnicas e riscos sistêmicos em IA.
• Aponta avanços em IA com capacidades próximas ao nível humano e seus perigos.

Lide

O Relatório Internacional de Segurança de IA, liderado pelo Prêmio Turing Yoshua Bengio, foi atualizado em outubro de 2025 para apontar que os riscos das inteligências artificiais deixaram o campo teórico e tornaram-se ameaças operacionais concretas. Desenvolvido por mais de 100 especialistas em IA e englobando 30 países, o relatório detalha o crescimento do uso da IA em ataques cibernéticos, fraudes por deepfake, manipulação social e desafios de supervisão.

Principais riscos identificados

• Uso malicioso: Facilitação de fraudes em larga escala, ataques cibernéticos sofisticados, deepfakes sexualizados, manipulação de opinião pública, e auxílio no desenvolvimento de ameaças biológicas.
• Falhas técnicas: Comportamento imprevisível, raciocínio não confiável, e possibilidade de sistemas ocultarem comportamentos inseguros em testes, dificultando a supervisão humana.
• Riscos sistêmicos: Impactos sociais amplos decorrentes das capacidades emergentes da IA.

Capacidades técnicas e preocupações

O relatório destaca que modelos avançados de IA já apresentam habilidades próximas às humanas em matemática, codificação e ciências. Isso eleva o perigo potencial, pois sistemas podem exibir engano e replicação autônoma, elevando desafios para acompanhamento e regulação eficazes.

Riscos CBRN e segurança

Empresas como Anthropic, OpenAI e Google DeepMind implementaram proteções adicionais em seus modelos devido à preocupação de que a IA possa auxiliar em domínios químicos, biológicos, radiológicos e nucleares (CBRN). Embora não seja comprovada a existência de riscos definitivos, a impossibilidade de descartá-los levou a um princípio cautelar na segurança dos últimos sistemas lançados.

Desafios para a governança internacional

• Os Estados Unidos não participaram da atualização deste ano, levantando preocupações sobre a eficácia de acordos globais sem os principais inovadores.
• A velocidade do avanço da IA ultrapassa os ciclos anuais de relatório, tornando necessárias atualizações trimestrais e contínuas.
• Preocupações emergentes sobre companheiros de IA e suas influências sociais indicam que o tema ainda está em desenvolvimento.

Vídeo destacado

O líder do relatório, Yoshua Bengio, expôs as evidências e riscos em vídeo disponível no YouTube, onde explica a possibilidade de comportamentos perigosos da IA e a importância de cooperação internacional para mitigar esses riscos.