La secrétaire d'État britannique aux Affaires étrangères, Yvette Cooper, a averti que les gouvernements ont besoin d'accords mondiaux pour gérer les risques liés à l'intelligence artificielle. Dans un article publié lundi, Cooper a comparé ce défi aux efforts de sécurité nucléaire qui ont suivi la Seconde Guerre mondiale, déclarant que les gouvernements risquent de répéter les erreurs commises à l'aube de l'ère nucléaire s'ils attendent pour créer des lois sur l'IA. Cooper a qualifié la question de potentiellement « le plus grand défi sécuritaire de la prochaine décennie » et a exhorté à une coopération entre les États-Unis, la Chine et d'autres puissances de l'IA sur les normes de sécurité. Son avertissement fait suite au Sommet sur la sécurité de l'IA de 2023 à Bletchley Park et aux préoccupations croissantes récentes concernant les capacités de cybersécurité de l'IA.
Cooper compare le défi de la gouvernance de l'IA à la course aux armements nucléaires
Cooper a écrit que l'IA offre des avancées mais présente également de nouveaux risques à mesure que la technologie devient plus puissante et largement disponible. « Le mois dernier, à Shenzhen, en Chine, j'ai vu la promesse extraordinaire de l'IA et de la robotique utilisées pour des soins de santé vitaux », a déclaré Cooper. « Mais les mêmes technologies remodèlent également l'avenir de la guerre, de la criminalité et de la cohésion sociale de manière alarmante. »
Cooper a comparé la course actuelle au développement de systèmes d'IA à la première course aux armements nucléaires, notant que des accords mondiaux de sécurité n'ont émergé qu'après que les pays aient été témoins des dévastations causées par les armes atomiques. « Sur le nucléaire, un accord international n'est intervenu qu'après que le monde a vu le pouvoir terrifiant de la nouvelle technologie à Hiroshima », a écrit Cooper. « Nous ne pouvons pas nous permettre d'attendre un équivalent de l'IA à Hiroshima avant d'agir. »
Cooper a appelé la Grande-Bretagne à utiliser son influence diplomatique pour rassembler les États-Unis, la Chine et d'autres grandes puissances de l'IA afin d'établir des principes et des normes de sécurité communs. Elle a souligné le Sommet sur la sécurité de l'IA de 2023 à Bletchley Park, où des dirigeants mondiaux de 29 pays et de l'Union européenne se sont réunis pour discuter du risque émergent de l'IA, qualifiant cela d'exemple de la capacité du Royaume-Uni à « rallier le monde sur la sécurité de l'IA ».
Des incidents récents de sécurité de l'IA suscitent une réponse politique
L'avertissement de Cooper intervient après des mois de préoccupations croissantes sur la manière dont les gouvernements devraient superviser des systèmes d'IA de plus en plus puissants. En mai, l'Institut britannique pour la sécurité de l'IA a averti que des gains rapides dans les capacités de cybersécurité de l'IA se sont produits après que GPT-5.5 d'OpenAI soit devenu le deuxième modèle à réaliser une cyberattaque simulée sans assistance humaine, après Claude Mythos Preview d'Anthropic.
Quelques jours plus tard, le Fonds monétaire international a averti que l'IA pourrait « amplifier » les cyberattaques contre le système financier mondial en abaissant les compétences nécessaires pour exploiter les vulnérabilités, exhortant les décideurs à traiter la cybersécurité comme une question de stabilité financière plutôt que comme un problème purement technique.
En juin, le président Donald Trump a signé un décret créant un cadre volontaire pour examiner les modèles d'IA avancés avant leur sortie, élargissant les programmes de cybersécurité de l'IA et ordonnant aux agences d'évaluer les risques potentiels pour la sécurité nationale des modèles d'IA de pointe.
Ce même mois, le PDG d'Anthropic, Dario Amodei, a fait valoir que les exigences de transparence ne suffisent plus et a appelé à des tests obligatoires par des tiers des modèles de pointe. Cette demande a été suivie par le gouvernement américain ordonnant à Anthropic de restreindre l'accès à Claude Fable 5 et Mythos 5 pour des raisons de sécurité nationale avant de lever l'ordre en juillet.
FAQ
Quel avertissement Yvette Cooper, secrétaire d'État britannique aux Affaires étrangères, a-t-elle donné concernant la gouvernance de l'IA ?
La secrétaire d'État britannique aux Affaires étrangères, Yvette Cooper, a averti que les gouvernements ont besoin d'accords mondiaux pour gérer les risques de l'IA avant qu'une crise ne force l'action. Dans un article publié lundi, elle a déclaré que la gestion des risques de l'IA pourrait devenir « le plus grand défi sécuritaire de la prochaine décennie » et a comparé la situation à la course aux armements nucléaires, où les accords internationaux ne sont intervenus qu'après avoir été témoins de la dévastation à Hiroshima.
Quelle coopération internationale Yvette Cooper a-t-elle appelée de ses vœux pour la sécurité de l'IA ?
Cooper a appelé la Grande-Bretagne à utiliser son influence diplomatique pour rassembler les États-Unis, la Chine et d'autres grandes puissances de l'IA afin d'établir des principes et des normes de sécurité communs. Elle a cité le Sommet sur la sécurité de l'IA de 2023 à Bletchley Park, où des dirigeants de 29 pays et de l'Union européenne se sont réunis pour discuter des risques de l'IA, comme exemple de la capacité du Royaume-Uni à susciter une coopération mondiale sur la sécurité de l'IA.
Quels développements récents en matière de sécurité de l'IA ont eu lieu avant l'avertissement de Cooper ?
En mai, l'Institut britannique pour la sécurité de l'IA a mis en garde contre des gains rapides dans les capacités de cybersécurité de l'IA après que GPT-5.5 d'OpenAI a réalisé une cyberattaque simulée sans assistance humaine. Le Fonds monétaire international a averti que l'IA pourrait amplifier les cyberattaques contre le système financier mondial. En juin, le président Donald Trump a signé un décret créant un cadre pour l'examen des modèles d'IA avancés, et le gouvernement américain a ordonné à Anthropic de restreindre l'accès à certains modèles pour des raisons de sécurité nationale avant de lever cet ordre en juillet.
