Alarme para os riscos cibernéticos sistémicos provocados pelos modelos de IA

O sistema financeiro europeu parece ter despertado para a ameaça cibernética colocada pelos modelos de inteligência artificial (IA) de fronteira, como o Claude Mythos, desenvolvido pela empresa norte-americana Anthropic.

Nesta terça-feira, o Conselho Europeu do Risco Sistémico (ESRB) publicou um alerta sobre os riscos cibernéticos sistémicos decorrentes destes modelos de IA. O documento surge depois de, em junho, o Conselho Geral do ESRB ter elevado a classificação do risco cibernético sistémico para “grave”, acima do nível “elevado” atribuído em março.

Os modelos de IA de fronteira são sistemas avançados de inteligência artificial capazes de influenciar de forma significativa operações cibernéticas, tanto ofensivas como defensivas. No alerta agora divulgado, o ESRB explica de que forma estes modelos estão a transformar o panorama das ciberameaças, avalia os riscos sistémicos daí decorrentes e descreve as implicações para as autoridades públicas e para as instituições financeiras.

• “Dear CEO”: o aviso do BCE aos banqueiros europeus para se prepararem para a ameaça da IA

Segundo o Conselho Geral do ESRB, «os modelos de IA de fronteira representam uma mudança de paradigma na cibersegurança. A longo prazo, é provável que reforcem a ciber-resiliência. Contudo, no curto e médio prazo, conferem uma vantagem aos agentes maliciosos, permitindo-lhes descobrir vulnerabilidades e executar ciberataques com maior rapidez, escala e sofisticação. Além disso, a concentração dos principais fornecedores de IA fora da União Europeia expõe a UE a riscos de dependência estratégica e a riscos geopolíticos.»

«Para reforçar a mensagem deste alerta, o Conselho Geral apela à União Europeia para que aumente a sua capacidade, especialização e autonomia estratégica nesta área crítica. Tal exige uma resposta coordenada de todas as partes envolvidas, incluindo fornecedores de IA, fornecedores de software, empresas de cibersegurança, responsáveis pela manutenção de software de código aberto, instituições financeiras e autoridades, tanto a nível nacional como da União», acrescenta o organismo.

Neste contexto, o ESRB saúda a carta dirigida aos presidentes executivos (CEO) dos bancos significativos da área do euro pela Supervisão Bancária do Banco Central Europeu (BCE), igualmente divulgada esta terça-feira. Nessa carta, o supervisor estabelece as suas expectativas quanto à forma como as instituições deverão responder à evolução das ciberameaças associadas à inteligência artificial.

O ESRB adianta que continuará a acompanhar a evolução e a utilização dos modelos de IA de fronteira com capacidades cibernéticas, bem como o respetivo impacto sobre o setor financeiro na perspetiva do risco sistémico. O Conselho Geral reavaliará estes desenvolvimentos no âmbito das suas avaliações trimestrais de risco e ponderará a adoção de medidas adicionais, sempre que tal se justifique e no âmbito das suas competências.

O Conselho Geral do ESRB aprovou ainda a publicação de uma nota técnica intitulada “Abordagem aos modelos de IA de fronteira com capacidades cibernéticas na perspetiva da estabilidade financeira”, que apresenta uma análise mais aprofundada dos riscos identificados.