El CEO de Google DeepMind, Hassabis, pide un organismo de estándares de IA liderado por EE. UU.

El director ejecutivo de Google DeepMind, Demis Hassabis, pidió que Estados Unidos lidere un organismo de estándares encargado de supervisar nuevos modelos de IA y evaluar riesgos de seguridad nacional, incluidos riesgos de ciberseguridad y amenazas biológicas, en un artículo publicado en X el martes. El laureado con el Nobel dijo que se necesitaba una acción urgente para abordar los riesgos asociados a la inteligencia general artificial (AGI), y señaló que los modelos de vanguardia ya plantean desafíos de ciberseguridad y que los riesgos nucleares y biológicos podrían emerger pronto a medida que avanzan las capacidades de la IA. El llamado llega en medio de crecientes tensiones regulatorias, ya que Anthropic y OpenAI se enfrentaron recientemente a controles temporales de exportación y restricciones de despliegue por parte de la administración de Trump.

Hassabis propone una alianza público-privada liderada por EE. UU. para supervisar la IA

Hassabis propuso una alianza público-privada liderada por Estados Unidos, supervisada por el gobierno federal, como solución para abordar las amenazas de la IA. Dijo que EE. UU. está bien posicionado para liderar el desarrollo de un marco de IA gracias a su posición económica y técnica. El organismo propuesto se basaría en una alianza público-privada o una organización de autorregulación supervisada a nivel federal, similar a la Financial Industry Regulatory Authority (FINRA), con un consejo que incluya destacados expertos técnicos independientes y representantes de código abierto.

El organismo de estándares requeriría una financiación sustancial para atraer talento técnico de primer nivel y proporcionar los recursos de cómputo necesarios para pruebas a gran escala, y la financiación probablemente provendría de la industria, según Hassabis. Los laboratorios de vanguardia compartirían inicialmente de forma voluntaria los modelos con el organismo para su revisión hasta 30 días antes de la liberación, antes de volverse obligatorios para el despliegue en el mercado de EE. UU. después de haberse demostrado efectivos.

Las pruebas específicas de IA agentica podrían buscar intentos de eludir las barreras de seguridad o señales de engaño, y garantizar buenas prácticas como el marcado digital de imágenes generadas por IA y la generación de tokens de salida legibles por humanos para entender el razonamiento del modelo, dijo Hassabis.

Los comentarios llegan un mes después de que Hassabis y el CEO de Anthropic, Dario Amodei, pidieran una coalición liderada por EE. UU. para dar forma a las reglas y estándares sobre IA en una reunión del G7 con líderes tecnológicos y jefes de Estado que incluyó al presidente Donald Trump, según fuentes que hablaron con CNBC. Sam Altman, de OpenAI, también pidió un organismo similar en un artículo publicado por el Financial Times a principios de este mes.

Los modelos de IA chinos ganan tracción mientras los legisladores de EE. UU. consideran recortes

Los llamados a una mayor supervisión regulatoria llegan cuando la carrera entre EE. UU. y China por desarrollar y desplegar modelos de IA se intensifica. Los lanzamientos recientes de modelos de empresas chinas, como DeepSeek y Z.ai, son vistos por muchos como altamente competitivos frente a los sistemas de vanguardia líderes de Anthropic y OpenAI, y están ganando tracción entre empresas de EE. UU. a medida que suben los costos de la IA.

Los legisladores de EE. UU. están considerando actualmente cómo frenar la creciente adopción de modelos de IA chinos por parte de empresas nacionales, algo que el Departamento de Estado le dijo a CNBC que plantea serias preocupaciones. En las últimas semanas, Anthropic estuvo bloqueada en negociaciones con funcionarios después de que la administración de Trump impusiera controles de exportación temporales sobre un modelo avanzado. OpenAI también se enfrentó a restricciones, ya que inicialmente el gobierno de EE. UU. pidió limitar el despliegue de un nuevo modelo.

Preguntas frecuentes

¿Qué propuso Demis Hassabis el martes?

Demis Hassabis, CEO de Google DeepMind, pidió que EE. UU. lidere un organismo de estándares que supervise nuevos modelos de IA y evalúe riesgos de seguridad nacional, incluidos riesgos de ciberseguridad y amenazas biológicas, en un artículo publicado en X el martes.

¿Cómo operaría el organismo propuesto de estándares de IA?

El organismo propuesto se modelaría a partir de una alianza público-privada supervisada a nivel federal similar a FINRA, con un consejo que incluya expertos técnicos independientes y representantes de código abierto. Los laboratorios de vanguardia compartirían inicialmente de forma voluntaria los modelos para su revisión hasta 30 días antes de la liberación, antes de volverse obligatorios para el despliegue en el mercado de EE. UU. después de haberse demostrado efectivos. La financiación probablemente provendría de la industria para atraer talento técnico y proporcionar recursos de cómputo para pruebas a gran escala.