El director ejecutivo de Google DeepMind, Demis Hassabis, publicó en julio, en su Substack personal, una declaración marco que defiende la creación de un organismo internacional de supervisión independiente de gobiernos y empresas, siguiendo el modelo de la Autoridad Reguladora de la Industria Financiera de Estados Unidos (FINRA). Exige que todos los modelos de IA que alcancen el umbral de vanguardia pasen, antes de su lanzamiento, por una revisión obligatoria de hasta 30 días.
Diseño central de la declaración de Hassabis
Hassabis eligió a la Autoridad Reguladora de la Industria Financiera de Estados Unidos (FINRA) como marco de referencia: un organismo de autorregulación financiado por la propia industria, operado de forma independiente y sujeto a la supervisión de la Comisión de Bolsa y Valores de Estados Unidos (SEC). Se encarga de auditar la conformidad de las instituciones financieras y cuenta con capacidad para imponer sanciones y suspender actividades. Su objetivo es aplicar la misma lógica a la regulación de la IA: financiación de la industria, pero con el poder de decisión en manos de personas independientes que no pertenezcan a ninguna empresa en particular.
Las especificaciones principales de este organismo de supervisión son las siguientes:
Composición de la junta: la mayoría de los asientos se reservan para expertos técnicos independientes de nivel del Premio Turing; además, habrá asientos asignados a representantes de la industria, el gobierno y la comunidad de código abierto.
Fuente de fondos: todo provendrá de los laboratorios líderes de IA con fines de lucro.
Objeto de la revisión: todos los modelos que alcancen el umbral de vanguardia, ya sean de código abierto o cerrados, y sin importar la sede de la empresa.
Plazo de la revisión: máximo 30 días; el propio umbral se actualizará periódicamente a medida que evolucionen las capacidades del modelo.
Mecanismo de ampliación: la intensidad puede ajustarse hacia arriba según la gravedad de la situación; en el caso más extremo, puede coordinarse con varios laboratorios para ralentizar conjuntamente el ritmo de investigación y desarrollo.
Plazo objetivo: Hassabis espera que el organismo comience a operar a más tardar a finales de 2026.
El detonante de la publicación anticipada de la propuesta
Hassabis llevaba gestando este marco desde hacía varios meses, pero el verdadero motivo para publicarlo con antelación fue el modelo Mythos, de Anthropic, lanzado de forma limitada en abril de 2026. Tras su aparición, el modelo mostró capacidades de ciberseguridad ofensiva y defensiva muy por encima de lo esperado, lo que generó inquietud tanto en la industria como en los círculos de políticas públicas sobre un “nuevo auge de la delincuencia cibernética impulsada por IA”. Hassabis lo calificó directamente como una “señal de alerta”, indicando que ya no se puede esperar a que los reguladores avancen lentamente.
En una entrevista, Hassabis también mencionó riesgos de bioseguridad a más largo plazo: la posibilidad de que los modelos de IA se utilicen para ayudar a diseñar patógenos o armas biológicas y otras amenazas para la salud pública. Dijo: “Por ahora, los modelos no son tan fuertes como para llegar a ese nivel, pero si extrapolamos los avances actuales, podría aparecer en unos años”.
Al mismo tiempo, tanto Anthropic como OpenAI han retrasado, bajo la presión del gobierno de Trump, el lanzamiento a gran escala de sus productos más recientes. Esto llevó a negociaciones entre la Unión Europea y el gobierno de Estados Unidos sobre el acceso a los modelos; varios directores ejecutivos de empresas de IA también se reunieron con líderes de distintos países durante la cumbre del G7 en Francia para debatir.
Declaraciones de Altman, Musk y Amodei
Antes de la publicación pública del marco, Hassabis ya había compartido el borrador, de manera privada, con casi todos los principales laboratorios de IA, incluido el director ejecutivo de Anthropic, Dario Amodei. Tras la publicación pública, el director ejecutivo de OpenAI, Sam Altman, calificó la idea de “muy completa”. Incluso Musk, que normalmente se sitúa en posiciones opuestas a Altman, dijo que es “un muy buen punto de partida para el debate”, y ambos rara vez coincidieron en el mismo enfoque.
Amodei, algo antes, había sugerido que Estados Unidos creara una entidad dedicada similar a la Administración Federal de Aviación (FAA) para supervisar la IA; Altman también había propuesto una iniciativa internacional de supervisión parecida. Hassabis, al ser entrevistado por Bloomberg, señaló: “Creo que esto es altamente compatible con las ideas que Dario y Sam han planteado durante todo este tiempo. Solo que necesitamos un plan concreto, no una noción abstracta”.
Retos para llevarlo a la práctica: el vacío legislativo en Estados Unidos, la postura vacilante del gobierno de Trump y la divergencia de rutas de supervisión entre tres partes
Un líder de la industria de IA, que pidió no ser identificado, indicó que el simple consenso de la industria no es suficiente; el verdadero problema está en el plano político: el Congreso de Estados Unidos aún no ha aprobado ninguna legislación federal de IA con verdadero significado; la postura del gobierno de Trump hacia la IA oscila entre la permisividad y la intervención; y las rutas regulatorias de Estados Unidos, la Unión Europea y China también suelen ir por caminos distintos.
Hassabis prevé viajar la próxima semana a Washington y reunirse cara a cara con los responsables de la formulación de políticas en Estados Unidos para negociar; dijo que es optimista y que la dinámica actual podría ser suficiente para llevar el asunto hasta la línea final. Pero también lo tiene claro: “Lo que sigue es lograr que realmente se implemente, y no solo publicar una entrada de blog”.
Preguntas frecuentes
¿En qué se parece el organismo de supervisión de IA propuesto por Hassabis a la FINRA?
FINRA es un organismo de autorregulación financiado por las empresas de valores en Estados Unidos, operado de forma independiente y sujeto a la supervisión de la SEC. Se encarga de auditar la conformidad de las instituciones financieras y tiene capacidad de aplicación. La propuesta de Hassabis adopta la misma lógica: financiamiento por parte de laboratorios de IA rentables, toma de decisiones liderada por expertos técnicos independientes, sin estar adscritos a ningún gobierno ni empresa, y realización de revisiones obligatorias antes del lanzamiento de modelos de IA de vanguardia.
¿Por qué el modelo Mythos de Anthropic se considera el detonante de la propuesta?
Tras el lanzamiento del modelo Mythos de Anthropic en abril de 2026, demostró una capacidad de ciberseguridad ofensiva y defensiva muy superior a lo esperado, generando preocupación en la industria y en el ámbito de políticas públicas sobre la “delincuencia cibernética impulsada por IA”. Hassabis lo calificó como una “señal de alerta”, indicando que este evento lo llevó a decidir publicar con antelación el marco de supervisión que venía preparando desde hace varios meses, en lugar de seguir esperando.
¿Cuándo podría comenzar a operar este organismo internacional de supervisión de la IA?
Hassabis afirma que espera que el organismo pueda empezar a operar a más tardar a finales de 2026, pero el cronograma enfrenta obstáculos políticos importantes: el Congreso de Estados Unidos aún no ha aprobado ninguna legislación federal de IA, la postura del gobierno de Trump es inestable y las rutas de supervisión de Estados Unidos, la Unión Europea y China también presentan diferencias; el viaje de Hassabis a Washington la próxima semana será el siguiente hito concreto de avance, según el anuncio oficial.
