Banca americana assustada com modelo de Inteligência Artifical da Anthropic

O secretário do Tesouro dos Estados Unidos, Scott Bessent, e o presidente da Reserva Federal, Jerome Powell, convocaram esta semana uma reunião urgente com executivos bancários para os alertar sobre os riscos cibernéticos associados ao mais recente modelo de Inteligência Artificial da Anthropic, segundo a Bloomberg.

O novo programa de IA da empresa, denominado Mythos, pode explorar vulnerabilidades e detetar falhas nas infraestruturas digitais das empresas, sendo capaz de as explorar automaticamente.

A reunião, realizada no Departamento do Tesouro, em Washington, teve como objetivo garantir que os bancos estão conscientes dos potenciais riscos associados ao Mythos da Anthropic e a modelos semelhantes, e que estão a tomar todas as medidas necessárias para proteger os seus sistemas.

Segundo o Financial Times, Scott Bessent convocou os líderes de alguns dos maiores bancos dos EUA no início desta semana. Na reunião estiveram presentes responsáveis do Bank of America, Citigroup, Goldman Sachs, Morgan Stanley e Wells Fargo. O CEO do JPMorgan Chase, Jamie Dimon, foi também convidado, mas não pôde comparecer.

• BCE diz que inteligência artificial poderá aumentar a produtividade em 4% na próxima década na zona euro

Os executivos têm vindo a alertar há anos para os riscos cibernéticos enfrentados pelo sistema financeiro. Na sua carta anual aos acionistas do JPMorgan, publicada esta semana, Dimon escreveu que a ameaça cibernética “continua a ser um dos nossos maiores riscos” e que “a IA quase certamente agravará esse risco”, exigindo investimentos significativos em defesa.

A Anthropic lançou, na terça-feira, o modelo denominado Claude Mythos Preview para um grupo selecionado de parceiros, incluindo Amazon, Apple e Microsoft, permitindo-lhes obter uma “vantagem inicial na capacidade de proteger vulnerabilidades”.

O Mythos, um modelo de “uso geral” com capacidades que vão além da cibersegurança, marcou a primeira vez que a Anthropic limitou o lançamento de um novo modelo.

“Os modelos de IA atingiram um nível de capacidade de codificação em que podem superar todos, exceto os humanos mais especializados, na identificação e exploração de vulnerabilidades de software”, afirmou a Anthropic em comunicado.

A empresa acrescentou que o Mythos já identificou milhares de vulnerabilidades graves, incluindo em “todos os principais sistemas operativos e navegadores web”, algumas das quais passaram despercebidas durante décadas.

A Anthropic afirmou ainda que já manteve conversas com autoridades do governo dos EUA sobre as “capacidades cibernéticas ofensivas e defensivas” do modelo.

O lançamento limitado do Mythos ocorreu após dois incidentes em que dados da startup foram tornados públicos online — incluindo documentos relacionados com o Mythos e com o código subjacente do assistente Claude — o que levantou preocupações quanto à segurança da Anthropic. A empresa atribuiu esses incidentes a erro humano.

A Anthropic recusou comentar a reunião com os líderes bancários. A Reserva Federal, o JPMorgan, o Goldman Sachs, o Bank of America, o Wells Fargo e o Morgan Stanley também recusaram comentar o encontro.