Las advertencias del Papa contra la IA podrían haber sido escritas por IA, afirma una herramienta de detección

En resumen

• Pangram Labs identificó varias publicaciones de la cuenta oficial de X del Papa León XIV como generadas por IA.
• La extensión de Chrome de la compañía escanea reseñas de productos, publicaciones en redes sociales y artículos de noticias en tiempo real.
• Los investigadores dicen que textos generados o asistidos por IA ahora aparecen en más de un tercio de los nuevos sitios web.

Incluso las advertencias del Papa sobre inteligencia artificial pueden haber sido escritas por inteligencia artificial. Primero reportado por Wired, Pangram Labs, una startup de detección de IA, dijo que su extensión de Chrome actualizada identificó varias publicaciones de la cuenta oficial de X del Papa León XIV como probablemente generadas por IA, incluyendo mensajes que advierten a los seguidores sobre el efecto de la IA en el pensamiento humano y las estructuras sociales. Una de esas publicaciones advertía: “Cuando la simulación se convierte en la norma, debilita la capacidad de discernimiento humano.”

“Claramente, él no administra su cuenta de Twitter él mismo,” dijo Max Spero, CEO de Pangram Labs, a Wired. “Tienen una persona de redes sociales. Pero también es obvio que usan al menos cierto grado de IA.” Pangram afirma que su modelo de detección tiene una precisión del 99.98% y una tasa de falsos positivos de uno en 10,000. Un estudio de la Universidad de Chicago de diciembre de 2025 clasificó a Pangram como la herramienta de detección de IA más efectiva y encontró que su tasa de falsos positivos era cercana a cero.  “Dado que cada detector es al menos ligeramente imperfecto, las organizaciones aún deben evaluar por sí mismas si y cómo usarlos, sopesando el potencial de mal uso de la IA con el riesgo de acusaciones falsas,” decía el estudio.

Pangram Labs no respondió de inmediato a la solicitud de Decrypt para comentarios, ni lo hicieron representantes del Vaticano. La detección de IA sigue siendo controvertida, y las falsas alarmas siguen siendo una preocupación en toda la industria. En 2024, el detector de IA ZeroGPT causó revuelo en línea después de que Christopher Penn, Científico de Datos en Trust Insight, una firma de análisis de marketing con sede en Boston, revelara que había etiquetado la Declaración de Independencia de EE. UU. como un 97.93% generada por IA. “Estas herramientas se usan para cosas como descalificar a estudiantes, poniéndolos en período de prueba o suspensión académica,” dijo Penn a Decrypt en ese momento. Eso es “una aplicación de muy alto riesgo cuando, en Estados Unidos, una educación universitaria cuesta decenas de miles de dólares al año,” agregó. Según Wired, la extensión de Pangram también identificó publicaciones de influenciadores con marca azul en X, escritores en tendencia en Substack, y un mensaje del CEO de Apple, Tim Cook, con motivo del 50 aniversario de la compañía. El lanzamiento llega en un momento en que las preocupaciones sobre contenido basura generado por IA siguen en aumento. A principios de este mes, investigadores de la Universidad de Stanford, Imperial College London y el Internet Archive descubrieron que textos generados o asistidos por IA representaron aproximadamente el 35% de los sitios web publicados a mediados de 2025.