O Mythos de Claude ameaça a segurança financeira? O ministro das Finanças dos EUA e o presidente da Reserva Federal reúnem-se de emergência para alertar para os riscos

O ministro das Finanças dos EUA e o presidente da Reserva Federal convocaram em carácter de urgência os principais intervenientes de Wall Street para abordar um alerta do modelo mais recente da Anthropic, o Mythos. As autoridades classificaram este modelo como um risco sistémico para o sistema financeiro.

Ministros das Finanças convocam em carácter de urgência os principais intervenientes de Wall Street; ameaças em rede de IA elevadas a risco sistémico

De acordo com a informação divulgada pela Bloomberg, o ministro das Finanças dos EUA, Scott Bessent, e o presidente da Reserva Federal, Jerome Powell, convocaram em carácter de urgência na semana passada, na sede do Departamento do Tesouro em Washington, os CEOs dos principais bancos de Wall Street, para emitir um aviso sobre possíveis riscos de cibersegurança que o modelo mais recente da empresa de IA Anthropic, “Claude Mythos Preview”, poderá desencadear.

Entre os líderes bancários presentes na reunião estavam o CEO do Citigroup, Jane Fraser, o CEO da Morgan Stanley, Ted Pick, o CEO do Bank of America, Brian Moynihan, o CEO do Wells Fargo, Charlie Scharf, e o CEO da Goldman Sachs, David Solomon; o CEO do JPMorgan Chase, Jamie Dimon, não conseguiu comparecer. As referidas instituições foram todas classificadas pelas entidades reguladoras como instituições financeiras de importância sistémica.

Esta reunião contou com a presença pessoal do ministro das Finanças e do presidente da Reserva Federal, sendo vista na indústria como um procedimento invulgar. No passado, a intervenção do Governo em riscos de IA tendia a ficar-se por equipas de trabalho a nível institucional. Agora, elevou-se directamente ao nível mais alto, com o topo da autoridade financeira a emitir um alerta pessoal, deixando claro que as autoridades já classificaram as ameaças de cibersegurança relacionadas com IA como riscos sistémicos para a estabilidade do sistema financeiro.

A capacidade do modelo Mythos é surpreendente: identifica milhares de falhas de zero-day por conta própria

De acordo com os dados técnicos divulgados pela Anthropic no mesmo dia, o Mythos tem capacidade para identificar e explorar falhas em todos os sistemas operativos e navegadores Web mais comuns. Na fase de testes, o modelo encontrou sozinho milhares de falhas de zero-day desconhecidas até então (zero-day vulnerabilities), incluindo uma falha no sistema operativo de código aberto orientado para a segurança OpenBSD, que esteve latente durante 27 anos; além disso, o modelo também detectou uma falha na biblioteca de processamento de vídeo FFmpeg que nem sequer foi detectada por ferramentas de testes automatizados executadas 5.000.000 de vezes.

Os investigadores da Anthropic sublinharam que a capacidade de descoberta de vulnerabilidades do Mythos se deve ao progresso global do modelo em escrita de código, raciocínio e autonomia, e não é o resultado de treino deliberado.

A empresa referiu na sua declaração: “A mesma capacidade que torna o modelo mais eficaz a corrigir vulnerabilidades torna-o igualmente mais eficaz a explorá-las.” Este argumento realça a natureza dúplice do Mythos: a linha entre defesa e ataque quase se dissipa perante modelos deste tipo.

A Anthropic recusa divulgar publicamente o arranque do “Project Glasswing”, limitando o acesso

Por as capacidades serem demasiado fortes, a Anthropic decidiu não divulgar publicamente o Mythos, adoptando uma estratégia de limitação de acesso, disponibilizando-o apenas a determinadas empresas parceiras. A empresa anunciou em simultâneo o arranque de um plano cooperativo defensivo de cibersegurança denominado “Project Glasswing”, em que colabora com mais de 40 parceiros empresariais, incluindo AWS, Apple, Cisco, Google, JPMorgan Chase, Microsoft e NVIDIA, com o objectivo de identificar proactivamente e corrigir falhas em software crítico antes de os atacantes avançarem.

Fonte da imagem: X/@AnthropicAI A Anthropic anuncia em simultâneo o arranque de um plano cooperativo defensivo de cibersegurança denominado “Project Glasswing”

A Anthropic afirmou: “Dada a capacidade do modelo, adoptámos uma atitude prudente quanto ao modo como o disponibilizamos. Estamos a colaborar com um pequeno grupo de clientes com acesso antecipado para testar o modelo e acreditamos que esta é a geração mais inovadora que construímos até agora.”

A empresa revelou ainda que já apresentou aos responsáveis governamentais cenários de aplicação defensiva e ofensiva do Mythos, e continua a manter conversações com a Cybersecurity and Infrastructure Security Agency dos EUA (CISA) e com o AI Standards Innovation Center. O foco que o público irá acompanhar de seguida centra-se em como as entidades reguladoras irão definir normas de revisão para a disponibilização de modelos semelhantes, que medidas de defesa concretas devem ser tomadas pelas instituições financeiras e se a coordenação entre entidades reguladoras internacionais conseguirá acompanhar a velocidade da evolução tecnológica.

Este artigo é gerado com base na agregação de informações por um agente criptográfico, com revisão e edição pelo《加密城市》; ainda se encontra em fase de formação, podendo existir desvios lógicos ou erros de informação. O conteúdo é apenas para referência e não deve ser considerado como recomendação de investimento.