A Secretária de Estado dos Negócios Estrangeiros do Reino Unido, Yvette Cooper, alertou que os governos precisam de acordos globais para gerir os riscos da inteligência artificial. Num artigo publicado na segunda-feira, Cooper comparou o desafio aos esforços de segurança nuclear que se seguiram à Segunda Guerra Mundial, afirmando que os governos correm o risco de repetir erros cometidos no alvorecer da era nuclear se esperarem para criar leis de IA. Cooper considerou a questão potencialmente «o maior desafio de segurança da próxima década» e instou à cooperação entre os Estados Unidos, a China e outras potências de IA em matéria de normas de segurança. O seu aviso surge na sequência da Cimeira de Segurança da IA de 2023 em Bletchley Park e das crescentes preocupações recentes sobre as capacidades de cibersegurança da IA.
Cooper Compara Desafio da Governação da IA à Corrida Armamentista Nuclear
Cooper escreveu que a IA oferece avanços, mas também apresenta novos riscos à medida que a tecnologia se torna mais poderosa e amplamente disponível. «No mês passado, em Shenzhen, na China, vi a extraordinária promessa da IA e da robótica utilizadas em cuidados de saúde que salvam vidas», afirmou Cooper. «Mas as mesmas tecnologias estão também a remodelar o futuro da guerra, do crime e da coesão social de formas alarmantes.»
Cooper comparou a atual corrida ao desenvolvimento de sistemas de IA com a corrida armamentista nuclear inicial, observando que os acordos globais de segurança surgiram apenas depois de os países testemunharem a devastação causada pelas armas atómicas. «Em relação ao nuclear, o acordo internacional surgiu apenas depois de o mundo ver o poder aterrorizador da nova tecnologia em Hiroshima», escreveu Cooper. «Não podemos dar-nos ao luxo de esperar por um equivalente da IA de Hiroshima antes de agirmos.»
Cooper instou o Reino Unido a usar a sua influência diplomática para reunir os Estados Unidos, a China e outras grandes potências de IA para estabelecer princípios e normas de segurança partilhados. Ela apontou para a Cimeira de Segurança da IA de 2023 em Bletchley Park, onde líderes globais de 29 países e da União Europeia se reuniram para discutir o risco emergente da IA, considerando isto um exemplo da capacidade do Reino Unido de «mobilizar o mundo para a segurança da IA».
Incidentes Recentes de Segurança da IA Provocam Resposta Política
O aviso de Cooper surge após meses de preocupações crescentes sobre como os governos devem supervisionar sistemas de IA cada vez mais poderosos. Em maio, o Instituto de Segurança da IA do Reino Unido alertou que ganhos rápidos nas capacidades de cibersegurança da IA ocorreram depois de o GPT-5.5 da OpenAI se ter tornado o segundo modelo a completar um ciberataque simulado sem assistência humana, na sequência do Claude Mythos Preview da Anthropic.
Dias depois, o Fundo Monetário Internacional alertou que a IA poderia «amplificar» ciberataques contra o sistema financeiro global ao reduzir a competência necessária para explorar vulnerabilidades, instando os decisores políticos a tratarem a cibersegurança como uma questão de estabilidade financeira, em vez de um problema puramente técnico.
Em junho, o Presidente Donald Trump assinou uma ordem executiva criando um quadro voluntário para rever modelos avançados de IA antes da sua publicação, expandindo programas de cibersegurança da IA e instruindo as agências a avaliarem potenciais riscos de segurança nacional dos modelos de IA de fronteira.
Nesse mesmo mês, o CEO da Anthropic, Dario Amodei, argumentou que os requisitos de transparência já não são suficientes e apelou a testes obrigatórios por terceiros dos modelos de fronteira. Esta exigência foi seguida pelo governo dos EUA a ordenar à Anthropic que restringisse o acesso ao Claude Fable 5 e Mythos 5 devido a preocupações de segurança nacional, antes de levantar a ordem em julho.
FAQ
O que é que a Secretária de Estado dos Negócios Estrangeiros do Reino Unido, Yvette Cooper, advertiu sobre a governação da IA?
A Secretária de Estado dos Negócios Estrangeiros do Reino Unido, Yvette Cooper, alertou que os governos precisam de acordos globais para gerir os riscos da IA antes de uma crise forçar a ação. Num artigo publicado na segunda-feira, afirmou que gerir os riscos da IA poderá tornar-se «o maior desafio de segurança da próxima década» e comparou a situação à corrida armamentista nuclear, onde os acordos internacionais surgiram apenas após testemunhar a devastação em Hiroshima.
Que cooperação internacional é que Cooper apelou para a segurança da IA?
Cooper instou o Reino Unido a usar a sua influência diplomática para reunir os Estados Unidos, a China e outras grandes potências de IA para estabelecer princípios e normas de segurança partilhados. Ela apontou para a Cimeira de Segurança da IA de 2023 em Bletchley Park, onde líderes de 29 países e da União Europeia se reuniram para discutir os riscos da IA, como um exemplo da capacidade do Reino Unido de mobilizar a cooperação global em segurança da IA.
Que desenvolvimentos recentes de segurança da IA ocorreram antes do aviso de Cooper?
Em maio, o Instituto de Segurança da IA do Reino Unido alertou sobre ganhos rápidos nas capacidades de cibersegurança da IA depois de o GPT-5.5 da OpenAI ter completado um ciberataque simulado sem assistência humana. O Fundo Monetário Internacional alertou que a IA poderia amplificar ciberataques contra o sistema financeiro global. Em junho, o Presidente Donald Trump assinou uma ordem executiva criando um quadro para rever modelos avançados de IA, e o governo dos EUA ordenou à Anthropic que restringisse o acesso a certos modelos devido a preocupações de segurança nacional antes de levantar a ordem em julho.
