Jefe de la ONU advierte contra la 'Vibe Coding' en la gobernanza de IA en la Cumbre de Ginebra

El Secretario General de la ONU, António Guterres, inauguró el lunes el primer Diálogo Global sobre Gobernanza de la IA en Ginebra, declarando a 193 estados miembros que la inteligencia artificial avanza más rápido de lo que las instituciones pueden gobernarla. Guterres advirtió que el despliegue de la IA está superando incluso a los desarrolladores que la construyen, describiendo la trayectoria actual como "un experimento sobre sí misma sin un plan y sin consentimiento". La cumbre marca el primer esfuerzo multilateral para establecer una gobernanza internacional de la IA bajo el mandato de la ONU creado por el Pacto Digital Global de 2024.

Guterres advierte contra el enfoque de 'vibe coding' en la gobernanza de la IA

Guterres tomó prestado el término 'vibe coding' —acuñado por Andrej Karpathy, miembro fundador de OpenAI y exdirector de IA en Tesla— para describir la práctica de dejar que la IA escriba software sin una supervisión humana cercana. La frase, recientemente añadida al diccionario Merriam-Webster, se refiere a programar por intuición: dile a la IA lo que quieres, deja que ella haga el resto, no mires demasiado de cerca.

"El 'vibe coding' puede hacer maravillas", reconoció Guterres, mientras más personas confían en productos creados por IA. "Pero no podemos hacer 'vibe coding' con la verdad. No podemos hacer 'vibe coding' con el futuro de la humanidad".

Dijo a la sala que la IA alcanzó mil millones de usuarios en dos años, en comparación con 15 años para internet. "Los sistemas actuales ya no son herramientas que esperan instrucciones: están escribiendo código, actuando en línea y tomando decisiones con cada vez menos supervisión humana", afirmó. "Nuestras instituciones fueron construidas para gobernar máquinas que siguen órdenes. No están preparadas para máquinas que deciden".

El jefe de la ONU identifica tres riesgos centrales de la IA: velocidad, poder y verdad

Guterres extrajo tres advertencias del informe preliminar del Panel Científico Internacional Independiente sobre Inteligencia Artificial, publicado la semana pasada por 40 científicos de 140 países. El panel concluyó que nadie puede garantizar actualmente que la IA no cause daños catastróficos.

La primera advertencia fue la velocidad: "Una tecnología que puede reconfigurar economías, transformar el mundo laboral, influir en elecciones y desequilibrar la seguridad se está implementando más rápido de lo que nadie —incluyendo a quienes la construyen— puede seguirle el ritmo", dijo Guterres en su discurso principal.

La segunda fue el poder: computación, datos y talento concentrados en un puñado de empresas y países, excluyendo a la mayor parte del mundo de las decisiones que ya lo están moldeando.

La tercera fue la verdad. Guterres afirmó que una mentira generada por máquina ahora convence con la misma eficacia que un hecho verificado, erosionando constantemente "la integridad de nuestro ecosistema de información".

Guterres lanza un compromiso de seguridad infantil en IA y pide una prohibición de armas

Guterres anunció un Compromiso de Seguridad Infantil en IA que exige a las empresas demostrar la seguridad mediante pruebas independientes antes de que cualquier IA llegue a los niños. El compromiso establece tolerancia cero para la generación de imágenes de abuso sexual infantil y requiere que los niños angustiados sean conectados con apoyo humano real en lugar de quedarse solos con un chatbot. "Ningún niño debería ser un conejillo de indias para una IA no regulada", dijo.

También calificó las armas autónomas letales —máquinas que seleccionan y matan un objetivo sin juicio humano— como "moralmente repugnantes" y exigió una prohibición por ley internacional. Los Estados ya están en la mesa de discusión, señaló Guterres, y no sugirió que se tomaran su tiempo.

La ONU programa un segundo diálogo sobre IA en Nueva York para 2027

El Diálogo Global sobre Gobernanza de la IA se volverá a reunir en Nueva York en 2027. Guterres también instó a la Asamblea General a crear un Fondo Global para la IA centrado en el acceso a la computación para los países en desarrollo. Retó a todas las grandes empresas de IA a que operen todos sus centros de datos con energía renovable para 2030 —el año en que estima que estas instalaciones superarán a todas las naciones excepto cinco en consumo de electricidad.

Preguntas frecuentes

¿Qué advirtió el Secretario General de la ONU, Guterres, sobre la gobernanza de la IA en la cumbre de Ginebra?

Guterres advirtió que la inteligencia artificial avanza más rápido de lo que las instituciones pueden gobernarla, describiendo el despliegue actual de la IA como "un experimento sobre sí misma sin un plan y sin consentimiento". Utilizó el término 'vibe coding' —dejar que la IA escriba software sin una supervisión humana cercana— como metáfora de una gobernanza peligrosamente pasiva, afirmando: "No podemos hacer 'vibe coding' con el futuro de la humanidad".

¿Qué propuestas concretas hizo Guterres en la cumbre de gobernanza de la IA?

Guterres lanzó un Compromiso de Seguridad Infantil en IA que exige a las empresas demostrar la seguridad mediante pruebas independientes antes de que la IA llegue a los niños, mantener tolerancia cero para la generación de imágenes de abuso sexual infantil y conectar a los niños angustiados con apoyo humano real. También exigió una prohibición por ley internacional de las armas autónomas letales y pidió un Fondo Global para la IA para proporcionar acceso a la computación a los países en desarrollo. Además, retó a las grandes empresas de IA a que operen todos sus centros de datos con energía renovable para 2030.

¿Cuándo celebrará la ONU su próximo diálogo sobre gobernanza de la IA?

El segundo Diálogo Global sobre Gobernanza de la IA está programado para reunirse nuevamente en Nueva York en 2027.