Secretário de Relações Exteriores do Reino Unido alerta que governos precisam de acordos globais de IA

A secretária de Relações Exteriores do Reino Unido, Yvette Cooper, alertou que os governos precisam de acordos globais para gerenciar os riscos da inteligência artificial. Em um artigo publicado na segunda-feira, Cooper comparou o desafio aos esforços de segurança nuclear que se seguiram à Segunda Guerra Mundial, afirmando que os governos correm o risco de repetir erros cometidos durante o alvorecer da era nuclear se esperarem para criar leis de IA. Cooper chamou a questão de potencialmente "o maior desafio de segurança da próxima década" e pediu cooperação entre Estados Unidos, China e outras potências de IA em padrões de segurança. Seu alerta segue a Cúpula de Segurança de IA de 2023 em Bletchley Park e as crescentes preocupações recentes sobre as capacidades de cibersegurança da IA.

Cooper Compara Desafio da Governança de IA à Corrida Armamentista Nuclear

Cooper escreveu que a IA oferece avanços, mas também apresenta novos riscos à medida que a tecnologia se torna mais poderosa e amplamente disponível. "No mês passado, em Shenzhen, na China, vi a extraordinária promessa da IA e da robótica usada para cuidados de saúde que salvam vidas", declarou Cooper. "Mas as mesmas tecnologias também estão remodelando o futuro da guerra, do crime e da coesão social de maneiras alarmantes."

Cooper comparou a atual corrida para desenvolver sistemas de IA com os primórdios da corrida armamentista nuclear, observando que acordos globais de segurança só surgiram depois que os países testemunharam a devastação causada pelas armas atômicas. "No campo nuclear, o acordo internacional veio apenas depois que o mundo viu o poder aterrorizante da nova tecnologia em Hiroshima", escreveu Cooper. "Não podemos esperar por um equivalente da IA a Hiroshima antes de agir."

Cooper pediu que a Grã-Bretanha use sua influência diplomática para reunir Estados Unidos, China e outras grandes potências de IA para estabelecer princípios e padrões de segurança compartilhados. Ela apontou para a Cúpula de Segurança de IA de 2023 em Bletchley Park, onde líderes globais de 29 países e da União Europeia se reuniram para discutir o risco emergente da IA, chamando isso de exemplo da capacidade do Reino Unido de "mobilizar o mundo na segurança da IA".

Incidentes Recentes de Segurança de IA Motivam Resposta Política

O alerta de Cooper vem após meses de crescentes preocupações sobre como os governos devem supervisionar sistemas de IA cada vez mais poderosos. Em maio, o Instituto de Segurança de IA do Reino Unido alertou que ganhos rápidos nas capacidades de cibersegurança da IA ocorreram depois que o GPT-5.5 da OpenAI se tornou o segundo modelo a concluir um ataque cibernético simulado sem assistência humana, seguindo o Claude Mythos Preview da Anthropic.

Dias depois, o Fundo Monetário Internacional alertou que a IA poderia "amplificar" ataques cibernéticos contra o sistema financeiro global ao reduzir a habilidade necessária para explorar vulnerabilidades, instando os formuladores de políticas a tratar a cibersegurança como uma questão de estabilidade financeira, e não como um problema puramente técnico.

Em junho, o presidente Donald Trump assinou uma ordem executiva criando um quadro voluntário para revisar modelos avançados de IA antes do lançamento, expandindo programas de cibersegurança de IA e direcionando agências a avaliar potenciais riscos de segurança nacional de modelos de IA de fronteira.

No mesmo mês, o CEO da Anthropic, Dario Amodei, argumentou que os requisitos de transparência não são mais suficientes e pediu testes obrigatórios de terceiros para modelos de fronteira. Essa demanda foi seguida pelo governo dos EUA ordenando que a Anthropic restringisse o acesso ao Claude Fable 5 e Mythos 5 devido a preocupações de segurança nacional, antes de suspender a ordem em julho.

FAQ

O que a secretária de Relações Exteriores do Reino Unido, Yvette Cooper, alertou sobre a governança da IA?

A secretária de Relações Exteriores do Reino Unido, Yvette Cooper, alertou que os governos precisam de acordos globais para gerenciar os riscos da IA antes que uma crise force ação. Em um artigo publicado na segunda-feira, ela afirmou que gerenciar os riscos da IA pode se tornar "o maior desafio de segurança da próxima década" e comparou a situação à corrida armamentista nuclear, onde acordos internacionais vieram apenas depois de testemunhar a devastação em Hiroshima.

Que cooperação internacional Cooper pediu para a segurança da IA?

Cooper pediu que a Grã-Bretanha use sua influência diplomática para reunir Estados Unidos, China e outras grandes potências de IA para estabelecer princípios e padrões de segurança compartilhados. Ela apontou para a Cúpula de Segurança de IA de 2023 em Bletchley Park, onde líderes de 29 países e da União Europeia se reuniram para discutir os riscos da IA, como um exemplo da capacidade do Reino Unido de mobilizar a cooperação global na segurança da IA.

Quais desenvolvimentos recentes de segurança de IA ocorreram antes do alerta de Cooper?

Em maio, o Instituto de Segurança de IA do Reino Unido alertou sobre ganhos rápidos nas capacidades de cibersegurança da IA depois que o GPT-5.5 da OpenAI concluiu um ataque cibernético simulado sem assistência humana. O Fundo Monetário Internacional alertou que a IA poderia amplificar ataques cibernéticos contra o sistema financeiro global. Em junho, o presidente Donald Trump assinou uma ordem executiva criando um quadro para revisar modelos avançados de IA, e o governo dos EUA ordenou que a Anthropic restringisse o acesso a certos modelos devido a preocupações de segurança nacional antes de suspender a ordem em julho.