Anthropic vai informar reguladores e bancos centrais sobre fragilidades descobertas pelo modelo Claude Mythos

A Anthropic concordou em informar os principais ministérios das Finanças e bancos centrais sobre vulnerabilidades nas defesas cibernéticas do sistema financeiro global identificadas pelo mais recente modelo de inteligência artificial da empresa norte-americana, o Claude Mythos, noticiou nesta segunda-feira o Financial Times.

“Duas fontes familiarizadas com o plano afirmaram que esta decisão surge na sequência de um pedido de Andrew Bailey, governador do Bank of England, para que a Anthropic discutisse as capacidades do modelo Claude Mythos com membros do Conselho de Estabilidade Financeira (FSB), organismo a que Bailey preside”, refere a publicação.

O FSB é um órgão internacional de supervisão que reúne responsáveis dos ministérios das Finanças, bancos centrais e reguladores dos mercados de capitais dos países do G20. Entre os seus membros incluem-se autoridades dos EUA, Reino Unido, Canadá, França, Alemanha, Japão, Arábia Saudita, Austrália e China.

Muitos dos seus membros estão cada vez mais preocupados com os potenciais riscos que o Mythos — ou outros sistemas de IA desenvolvidos por empresas tecnológicas norte-americanas — poderão representar para o sistema bancário global, ao exporem fragilidades nas defesas cibernéticas das instituições financeiras.

A Anthropic afirmou no mês passado que o Mythos “identificou milhares de vulnerabilidades de elevada gravidade, incluindo algumas presentes em todos os principais sistemas operativos e navegadores web”. A empresa acrescentou que “as consequências para as economias, a segurança pública e a segurança nacional poderão ser severas”.

O Mythos foi disponibilizado apenas a um número limitado de organizações, sobretudo nos EUA, devido aos receios quanto aos riscos que poderá representar se utilizado indevidamente. No entanto, esta limitação tem gerado preocupação entre empresas e reguladores noutros países, receosos de níveis desiguais de proteção.

A Anthropic tem recebido pedidos de várias partes do mundo para acesso ao Mythos ou, pelo menos, a sessões informativas sobre as capacidades do modelo. A empresa concordou em realizar briefings de alto nível para algumas entidades fora dos EUA, incluindo a European Commission.

Cerca de 40 organizações receberam acesso ao Mythos, entre as quais a Amazon, a Microsoft e o JPMorgan Chase, permitindo-lhes corrigir vulnerabilidades identificadas pelo sistema. Contudo, a Anthropic concordou em não alargar a distribuição do modelo na sequência de um pedido da White House.

O FSB está atualmente a preparar um relatório que descreve “boas práticas” para a adoção de inteligência artificial no sistema financeiro, prevendo divulgar o documento para consulta pública no próximo mês.

Os reguladores têm incentivado bancos e outras instituições financeiras a reforçarem os seus sistemas de cibersegurança e a acelerarem a aplicação de patches de software para corrigir vulnerabilidades identificadas por novos modelos de IA.

• CGD diz que está em contacto com fornecedor que tem acesso ao modelo Mythos da Anthropic

O Tesouro britânico e os reguladores financeiros pediram recentemente às instituições da City de Londres que adotem “medidas ativas” para mitigar riscos de cibersegurança associados a “ataques mais rápidos e disruptivos potenciados por IA”.

Ainda assim, algumas autoridades mostram-se cépticas quanto à possibilidade de uma resposta global coordenada à ameaça colocada pela inteligência artificial, tendo em conta as atuais tensões geopolíticas. No início deste mês, o International Monetary Fund (FMI) instou os decisores políticos a reforçarem a cooperação internacional no combate às vulnerabilidades de cibersegurança expostas pelos mais recentes modelos de IA.

A instituição liderada por Kristalina Georgieva alertou que os novos modelos “elevam o risco cibernético ao nível de um potencial choque macrofinanceiro”.

• Banco de Espanha pede à Anthropic que disponibilize o modelo Mythos a toda a banca europeia

“O risco cibernético não respeita fronteiras”, escreveram responsáveis do FMI numa publicação no blogue da instituição. “Os países emergentes e em desenvolvimento, que frequentemente enfrentam restrições de recursos mais severas, poderão estar desproporcionalmente expostos a atacantes que visam regiões com defesas mais frágeis.”