Os ministros das Finanças, os bancos centrais e os financeiros seniores estão cada vez mais focados nos potenciais riscos colocados pelo modelo Claude Mythos da Anthropic, num contexto de receios de que este possa expor fraquezas críticas na infraestrutura financeira global.
Resumo

• Os líderes globais das finanças alertam que a IA Mythos da Anthropic poderá expor falhas críticas nos sistemas financeiros e nos sistemas informáticos centrais.
• Bancos e governos estão a testar o modelo numa fase inicial para identificar vulnerabilidades antes de qualquer lançamento mais amplo.
• Os responsáveis alertam que estas ferramentas poderão ajudar os cibercriminosos a explorar vulnerabilidades, mesmo enquanto reforçam as defesas.

O modelo já motivou discussões ao mais alto nível e reuniões de estilo de emergência após testes iniciais terem revelado vulnerabilidades em sistemas operativos importantes e em aplicações amplamente utilizadas. Responsáveis e especialistas da indústria dizem que o sistema poderá ter uma capacidade “sem precedentes” para detetar e explorar falhas de cibersegurança, embora alguns alertem que as suas capacidades totais ainda não são totalmente compreendidas.

O ministro das Finanças canadiano François-Philippe Champagne disse que o tema dominou as conversas nas reuniões desta semana do Fundo Monetário Internacional, em Washington.

“Certamente é suficientemente grave para justificar a atenção de todos os ministros das Finanças”, disse, acrescentando que, ao contrário dos riscos físicos, o desafio com a IA é “o desconhecido, o desconhecido”.

Salientou a necessidade de salvaguardas, dizendo que as autoridades têm de garantir “que temos processos em vigor para garantir a resiliência dos nossos sistemas financeiros.”

Bancos e governos avançam para testar sistemas antes do lançamento

Grandes bancos e agências governamentais estão agora a receber acesso antecipado ao Mythos para avaliar vulnerabilidades antes de qualquer implementação mais alargada.

C. S. Venkatakrishnan, diretor executivo da Barclays, disse que as preocupações são suficientemente significativas para exigir atenção imediata.

“É grave o bastante para que as pessoas tenham de se preocupar”, disse. “Temos de o compreender melhor e temos de compreender as vulnerabilidades que estão a ser expostas e corrigi-las rapidamente.”

Acrescentou que a situação reflete um sistema financeiro mais interligado, em que os riscos e as oportunidades estão cada vez mais entrelaçados.

A Anthropic indicou que o Mythos já descobriu múltiplas falhas em sistemas operativos, plataformas financeiras e navegadores web. Em resposta, o acesso foi restringido a um pequeno grupo de instituições, incluindo grandes empresas de tecnologia e bancos sistemicamente importantes, permitindo-lhes reforçar as defesas antes de uma exposição mais ampla.

As autoridades nos Estados Unidos tomaram medidas semelhantes. O Departamento do Tesouro encorajou os principais bancos a implementarem o modelo internamente para identificar fragilidades, ao mesmo tempo que explorava formas de disponibilizar uma versão controlada às agências federais. Um memorando do Gabinete de Gestão e Orçamento da Casa Branca descreveu planos para introduzir salvaguardas antes de qualquer acesso desse tipo ser concedido.

Andrew Bailey, governador do Banco de Inglaterra, disse que as implicações para o crime informático devem ser levadas a sério.

“Agora temos de olhar com muito cuidado para aquilo que este desenvolvimento mais recente de IA poderá significar para o risco de crime informático”, disse, alertando que tais ferramentas poderão tornar mais fácil para os “agentes maliciosos” identificarem e explorarem vulnerabilidades do sistema.

Funcionários seniores dos EUA, incluindo Scott Bessent e Jerome Powell, já convocaram executivos de Wall Street para abordar os riscos. Segundo relatos, os participantes incluíam líderes de grandes bancos como Goldman Sachs, Bank of America, Citigroup e Morgan Stanley, sublinhando a importância sistémica do tema.

Vozes da indústria sugerem que as preocupações poderão não estar limitadas à Anthropic. Fontes indicam que outra empresa norte-americana de IA poderá lançar um modelo igualmente capaz sem salvaguardas comparáveis.

James Wise, da Balderton Capital, descreveu o Mythos como “o primeiro de muitos mais modelos poderosos” capazes de expor vulnerabilidades do sistema. A sua unidade de Sovereign AI está a investir em empresas focadas em segurança de IA, acrescentando: “Esperamos que os modelos que expõem vulnerabilidades sejam também os modelos que as vão corrigir.”

O que é o Claude Mythos?

O Mythos faz parte da família de modelos Claude da Anthropic, um sistema concorrente às ofertas da OpenAI e da Google. Ao contrário de lançamentos anteriores, a empresa restringiu o acesso devido a preocupações de que a ferramenta possa ser usada indevidamente para detetar falhas sensíveis ou invadir sistemas protegidos.

Testes internos levantaram alertas após o modelo identificar falhas críticas que normalmente exigiriam hackers altamente especializados para descobrir. Algumas vulnerabilidades terão origem há décadas, evidenciando lacunas que tinham passado despercebidas pelos sistemas de segurança tradicionais.

As preocupações também transbordaram para disputas em matéria de políticas. O Pentágono designou recentemente a Anthropic como um potencial risco de cadeia de abastecimento, uma medida normalmente reservada a adversários estrangeiros. A empresa conseguiu contestar com sucesso um banimento proposto em tribunal, argumentando que isso resultaria em perdas financeiras significativas.

No âmbito dos círculos de segurança nacional, o Mythos introduziu uma nova incerteza sobre a forma como as ameaças cibernéticas são avaliadas. Um responsável descreveu o impacto como comparável a equipar um hacker comum com ferramentas semelhantes às usadas por operadores de elite.

Apesar dos riscos, as autoridades continuam a interagir com a Anthropic. As agências federais estão a preparar-se para um eventual acesso controlado, enquanto reguladores e instituições financeiras correm para compreender e dar resposta às vulnerabilidades que o modelo já começou a detetar.