CEO da Anthropic se reúne na Casa Branca sobre riscos da IA

O CEO da Anthropic, Dario Amodei, se reuniu com autoridades da Casa Branca na última sexta-feira (17) para discutir o Claude Mythos, novo modelo de inteligência artificial da empresa.

A ferramenta não será disponibilizada ao público. Ela tem capacidade avançada para encontrar falhas de segurança em software e foi classificada pela própria Anthropic como um risco sem precedentes.

Apesar dos alertas do setor, o sistema será liberado para bancos no Reino Unido nos próximos dias. No momento, apenas algumas empresas americanas têm acesso ao Mythos.

Reunião na Casa Branca marca reaproximação

O encontro em Washington teve a presença da chefe de gabinete do governo dos EUA, Susie Wiles, e do Secretário do Tesouro, Scott Bessent. A Casa Branca disse que a conversa foi “produtiva e construtiva”, com foco em equilibrar inovação tecnológica e segurança operacional.

O presidente Donald Trump, no entanto, afirmou a repórteres que não sabia da presença do executivo no local.

A reunião indica uma mudança na postura da administração americana em relação à Anthropic. Em março, o Departamento de Defesa dos EUA havia rotulado a empresa como um risco à cadeia de suprimentos.

Na sequência, Trump chegou a emitir uma diretriz proibindo o uso da tecnologia da companhia por agências federais. A restrição gerou processos judiciais da Anthropic contra o governo, que tramitam atualmente em cortes de São Francisco e Washington.

Por que o Claude Mythos é considerado perigoso?

O interesse do governo e de corporações na nova IA se deve ao seu desempenho extremo em cibersegurança. Segundo a Anthropic, o Claude Mythos supera a habilidade humana em detectar e explorar vulnerabilidades críticas em sistemas computacionais.

Em testes recentes, a IA encontrou falhas de dia zero – aquelas desconhecidas até pelos desenvolvedores – em vários sistemas operacionais e navegadores de internet. Os resultados incluem a descoberta autônoma de uma vulnerabilidade de 27 anos no sistema OpenBSD e um erro de 16 anos no software de vídeo FFmpeg.

Devido ao potencial destrutivo se a tecnologia for usada por agentes maliciosos, o modelo não será lançado para o público em geral.

O acesso inicial está restrito ao “Project Glasswing”, uma iniciativa de segurança cibernética da Anthropic que envolve grandes empresas de tecnologia como Amazon Web Services, Apple, Microsoft e Google para corrigir falhas de infraestrutura.

Expansão para o setor financeiro britânico

Apesar do controle rigoroso e da restrição a empresas de tecnologia nos Estados Unidos, o uso da ferramenta será expandido para instituições financeiras do Reino Unido. Bancos britânicos receberão acesso ao Claude Mythos na próxima semana para escanear suas infraestruturas de TI.

A liberação acontece em meio a alertas de líderes financeiros do país sobre os impactos de adotar uma ferramenta capaz de expor falhas críticas em sistemas bancários estruturais.

A Anthropic afirma que o objetivo desta distribuição controlada é usar a capacidade da IA de forma puramente defensiva. A ideia é permitir que as empresas identifiquem e corrijam vulnerabilidades antes de sofrerem ataques cibernéticos reais.

A postura cautelosa em torno do Claude Mythos reflete um debate mais amplo sobre o desenvolvimento de inteligência artificial avançada. Especialistas em segurança digital têm destacado o duplo uso desse tipo de tecnologia, que pode ser aplicada tanto para defesa quanto para ofensa no campo cibernético.

A decisão de limitar o acesso a um grupo seleto de instituições é vista como um teste para protocolos de segurança em larga escala. O resultado desta fase inicial no setor financeiro britânico deve influenciar políticas futuras de regulamentação de IA em outros países.