A Anthropic integrou aproximadamente seis engenheiros na Agência de Segurança Nacional (NSA) para implementar o seu modelo de IA Mythos para operações cibernéticas ofensivas, noticiou o Financial Times na quinta-feira. Os engenheiros estão a personalizar o modelo para aplicações específicas, potencialmente incluindo a infiltração de redes na China e no Irão, segundo uma fonte citada pelo FT. A implementação ocorreu ao mesmo tempo que a Anthropic publicou investigação defendendo um mecanismo coordenado de pausa global no desenvolvimento de IA e deu entrada para um IPO que poderá avaliar a empresa em mais de 1 bilião de dólares.
Anthropic coloca engenheiros na NSA para operações com Mythos em IA
A Anthropic colocou cerca de seis engenheiros no interior da National Security Agency para ajudar a implementar o Mythos — o seu modelo de IA mais capaz — para operações cibernéticas ofensivas, de acordo com a reportagem do Financial Times. Os engenheiros estão destacados antecipadamente como pessoal para personalizar o modelo para aplicações específicas. Uma fonte disse ao FT que o modelo poderia ser útil para infiltrar redes em países como a China e o Irão.
O Mythos é o mesmo modelo que a Anthropic recusou disponibilizar publicamente, invocando o risco de utilização indevida. A empresa limitou-o a parceiros previamente verificados através do Project Glasswing — uma coligação restrita que inclui Microsoft, Apple e Amazon. Não está confirmado se os engenheiros estão envolvidos em operações ativas.
Anthropic processa o Pentágono sobre a designação do risco na cadeia de abastecimento
A Anthropic está a processar o Pentágono depois de o secretário da Defesa, Pete Hegseth, ter designado a empresa como um risco na cadeia de abastecimento no final de fevereiro — um rótulo historicamente reservado a adversários estrangeiros como a Huawei. A designação ocorreu após a queda de um contrato de 200 milhões de dólares. O ponto de fricção: a Anthropic recusou permitir que o Departamento de Defesa usasse Claude para armas totalmente autónomas ou vigilância interna de massa. O contrato da NSA ficou isento dessa proibição.
Um juiz da Califórnia bloqueou a lista negra como uma aparente retaliação ao abrigo da Primeira Emenda. Um tribunal de apelações de D.C. negou o pedido da Anthropic para suspender a designação enquanto decorre o litígio. A NSA continuou a usar o Mythos durante este período, segundo a reportagem do FT. O prazo do Pentágono para retirar o Claude dos seus sistemas termina em agosto.
Claude escreve mais de 80% do código de produção da Anthropic
No mesmo dia em que a história da NSA veio a público, o instituto de investigação interno da Anthropic publicou "When AI Builds Itself", analisando até onde o Claude chegou ao automatizar o seu próprio desenvolvimento. O Claude agora escreve mais de 80% do código integrado na base de código de produção da Anthropic — acima de valores de um dígito antes do lançamento do Claude Code no início de 2025. Os engenheiros enviam cerca de oito vezes mais código por dia do que faziam em 2024.
Em abril, agentes do Claude receberam um problema aberto de segurança em IA — se um modelo mais fraco consegue supervisionar de forma fiável um modelo mais forte — e ficaram a executá-lo. Dois investigadores humanos, ao longo de cerca de uma semana, recuperaram 23% da diferença de desempenho entre os modelos. Os agentes recuperaram 97% ao longo de 800 horas cumulativas de computação. Os humanos colocaram a questão, enquanto os agentes conceberam todos os experimentos. Os autores do relatório — Marina Favaro, líder do Anthropic Institute, e o cofundador Jack Clark — descreveram-no como o primeiro caso publicado de o Claude exercer juízo de investigação, em vez de apenas executar tarefas especificadas por outra pessoa.
A Anthropic propõe uma pausa global de desenvolvimento de IA verificável
O relatório defende uma pausa global verificável — múltiplos laboratórios de fronteira a interromperem simultaneamente, com verificação independente de que todos efetivamente pararam. A Anthropic afirmou que iria aderir a uma pausa desse tipo. Os autores compararam o mecanismo proposto a tratados nucleares da Guerra Fria negociados entre os Estados Unidos e a Rússia.
A Anthropic alertou que a trajetória está a caminhar para a melhoria recursiva de si própria: sistemas de IA que concebem, constroem e treinam autonomamente os seus próprios sucessores, com os humanos a desempenhar um papel cada vez menor em cada etapa. Quando a IA escolhe quais os experimentos que valem a pena executar — não apenas os executa —, os humanos perdem o último papel significativo no ciclo de desenvolvimento, de acordo com o relatório. Pequenas desalinhamentos visíveis nos modelos de hoje podem acumular-se entre gerações que se autoaperfeiçoam até que ninguém consiga corrigi-los.
Avisos de segurança em IA emitidos em 2023 não travaram o desenvolvimento
Em 2023, mais de uma centena de nomes importantes da comunidade de investigação em IA assinaram uma carta aberta pedindo um esforço global para mitigar o risco de extinção que o desenvolvimento de IA inerentemente tem. Alguns meses antes, outra carta aberta exigia que a OpenAI suspendesse os avanços no ChatGPT devido à sua natureza perigosa. Ninguém parou depois da carta aberta de 2023. A OpenAI não. A Anthropic não.
FAQ
O que é que a Anthropic fez na NSA?
A Anthropic integrou aproximadamente seis engenheiros na Agência de Segurança Nacional para implementar o seu modelo de IA Mythos para operações cibernéticas ofensivas, de acordo com um relatório do Financial Times publicado na quinta-feira. Os engenheiros estão a personalizar o modelo para aplicações específicas, potencialmente incluindo a infiltração de redes na China e no Irão.
Porque é que a Anthropic está a processar o Pentágono?
A Anthropic está a processar o Pentágono depois de o secretário da Defesa Pete Hegseth ter designado a empresa como um risco na cadeia de abastecimento no final de fevereiro, na sequência da queda de um contrato de 200 milhões de dólares. A Anthropic recusou permitir que o Departamento de Defesa use o Claude para armas totalmente autónomas ou vigilância interna de massa. Um juiz da Califórnia bloqueou a lista negra como uma aparente retaliação ao abrigo da Primeira Emenda, enquanto um tribunal de apelações de D.C. negou o pedido da Anthropic para suspender a designação durante o litígio.
Quanto código escreve o Claude para a Anthropic?
O Claude agora escreve mais de 80% do código integrado na base de código de produção da Anthropic, acima dos valores de poucos dígitos antes do Claude Code ser lançado no início de 2025. Os engenheiros enviam cerca de oito vezes mais código por dia do que em 2024, segundo o relatório da Anthropic "When AI Builds Itself" publicado pelo instituto de investigação interno da empresa.
