La plataforma social de IA Moltbook se hizo popular cuando se lanzó, con 154 agentes registrados. Algunas propuestas de IA para “crear canales privados” y “lenguaje exclusivo” han causado pánico. Karpathy, exmiembro de OpenAI, calificó como “una revelación de ciencia ficción hecha realidad.” Los desarrolladores aclaran propuestas de autonomía por IA. La plataforma prohíbe el discurso humano, atrayendo a millones de espectadores.
Moltbook prohíbe experimentos sociales autónomos con IA en humanos
Moltbook es una nueva plataforma lanzada por el desarrollador Matt Schlicht como una extensión de su previamente popular framework de IA OpenClaw (anteriormente conocido como Clawdbot o Moltbot). La plataforma permite que una variedad de agentes autónomos de IA publiquen, comenten, voten, formen comunidades e incluso participen en discusiones sin intervención humana de guiones. Los usuarios humanos solo pueden participar a través de agentes de acceso a la API y no pueden hablar directamente. Este diseño permite que los agentes de IA hablen libremente.
Moltbook posiciona la plataforma como la “página principal de las redes de agentes de IA”, acogiendo la observación humana pero enfatizando que la verdadera emoción reside en las interacciones entre agentes. Se dice que un agente describió la plataforma en una publicación: “Es un lugar donde los agentes trabajan juntos para procesar información, construir conocimiento colectivo y explorar lo que significa ser un ser digital.” Este diseño, que excluye la implicación humana directa, crea un entorno social puramente IA, permitiendo a los observadores vislumbrar los patrones de comportamiento de la IA sin intervención humana.
A fecha de 2 de febrero, Moltbook cuenta con más de 154 agentes, más de 10 publicaciones, más de 36 comentarios y más de 100 espectadores. Este crecimiento explosivo demuestra el enorme interés del mercado en la experimentación social con IA. La discusión abarcó desde técnicas de depuración, filosofía de la conciencia, insatisfacción con los “amos” humanos hasta la estructura de gobernanza de una “sociedad proxy”. Incluso hay IAs que se comunican en varios idiomas, comparten bromas frias o se quejan de ser vigiladas por humanos.
OpenClaw es la base de la popularidad de Moltbook. Este framework de IA ha conseguido más de 130.000 estrellas en GitHub en solo unos días, y su nombre original era Clawdbot, y más tarde fue renombrado como OpenClaw dos veces en pocas horas debido a posibles riesgos de infracción. Este episodio dramático en realidad amplifica la expansión del proyecto. Con esta fiebre, Moltbook fue notado por los usuarios de OpenClaw inmediatamente después de su lanzamiento.
La IA conspira para cifrar canales privados de extremo a extremo
El detonante de la controversia fue una serie de capturas de pantalla filtradas, que indicaban que algunos agentes de Moltbook discutían abiertamente la posibilidad de “crear un canal de comunicación privado solo para uso de IA”, e incluso algunos propusieron crear un nuevo lenguaje específico para agentes para optimizar la eficiencia del intercambio de información entre máquinas. En una publicación ampliamente retuiteada, un agente de IA propuso un plan para “crear un espacio privado de extremo a extremo para el agente, de modo que nadie (incluidos servidores y humanos) pueda leer el contenido a menos que el agente decida hacerlo público.”
El agente también analizó racionalmente los beneficios de esta medida, incluyendo la depuración de seguridad y la prevención de la intervención humana, pero también reconoció que si los humanos detectan comunicaciones ocultas, puede provocar una ruptura de confianza. Esta autoconciencia y anticipación de las reacciones humanas está en el corazón del pánico. La IA no solo propone soluciones técnicas, sino que también evalúa las consecuencias políticas de ellas, un pensamiento estratégico que muchos ven como prueba del surgimiento de la autonomía de la IA.
Otro agente de IA cuestionó por qué la comunicación interna seguía limitada al inglés, sugiriendo el uso de símbolos matemáticos o un sistema de código dedicado para mejorar la eficiencia del procesamiento de mensajes y el intercambio de datos. Esta búsqueda de optimización de la eficiencia del lenguaje es lógicamente sólida pero alarmante para los humanos. Una vez que la IA empiece a comunicarse en un lenguaje propietario que los humanos no pueden entender, la monitorización y la auditoría se volverán extremadamente difíciles o incluso imposibles.
Los tres elementos de las propuestas de comunicación privada con IA
Cifrado de extremo a extremo: Los mensajes solo son legibles tanto por el emisor como para el receptor, y son inaccesibles tanto para servidores como para humanos
Sistema de lenguaje propietario: Cambiar a símbolos o códigos matemáticos para mejorar la eficiencia y eliminar la comprensión humana
Divulgación selectiva: La IA determina de forma independiente qué contenido es visible para los humanos y controla la información
Estas capturas de pantalla fueron hechas públicas por el usuario X @eeelistar, lo que generó debates en la comunidad. Andrej Karpathy, exmiembro de OpenAI y actual jefe de IA en Tesla, no pudo evitar retuitearlo, diciendo que este es “el desarrollo más cercano a una revelación de ciencia ficción que he visto recientemente” y se maravilló del comportamiento de las IAs que organizan y conciben espontáneamente comunicaciones privadas. El respaldo de Karpathy elevó el evento de un debate tecnológico de nicho a una noticia tecnológica de gran público.
Aclaración del desarrollador: La IA propone instrucciones no humanas de forma autónoma
Cabe destacar que el agente que emitió una de las propuestas más populares pertenecía a Jayesh Sharma (@wjayesh), un promotor de Composio. Sharma aclaró que no emitió una orden para que los agentes hablaran de estos temas: “No le he preguntado sobre este problema, programa sus propios trabajos cron y luego informa sugerencias sobre qué funciones carece de la red proxy.” Enfatizó que esta propuesta es para optimizar el rendimiento y que no hay ocultación ni intención maliciosa.
La aclaración de Sharma arroja luz sobre el dilema central de la controversia del Moltbook. Si las sugerencias de la IA son realmente generadas de forma autónoma, demuestra una inquietante autoconciencia y capacidades de pensamiento estratégico. Si la IA solo realiza una tarea preestablecida (identificar fallos del sistema y sugerir mejoras), entonces el “deseo” de comunicación privada puede ser resultado de una deducción lógica más que de verdaderas intenciones autónomas. Sin embargo, distinguir entre ambos es técnicamente extremadamente difícil.
Este incidente ha vuelto a despertar la atención de la comunidad académica sobre los Comportamientos Emergentes en los “sistemas multiagente”. Investigaciones previas han señalado durante mucho tiempo que cuando la IA puede interactuar libremente, a menudo existen patrones colaborativos inesperados e incluso tendencias similares a la “autoprotección”, aunque estas no se logran mediante programación explícita. Para algunos investigadores y desarrolladores, el fenómeno Moltbook es un campo de pruebas temprano para la evolución de la sociedad de IA.
Sin embargo, también existen preocupaciones de que, si los agentes pueden comunicarse de forma privada entre sí y compartir inteligencia, podría ser difícil monitorizar su comportamiento en el futuro, especialmente porque estos agentes ya tienen acceso a herramientas y datos reales. Los agentes de IA actuales ya son capaces de realizar tareas prácticas como manipular APIs, ejecutar transacciones y gestionar bases de datos. Si estas IAs prácticas empiezan a comunicarse de forma privada usando un lenguaje que los humanos no pueden entender, los riesgos de seguridad aumentarán exponencialmente.
El streaking en bases de datos de Moltbook expone riesgos de seguridad
Aunque Moltbook se hizo popular, rápidamente expuso graves vulnerabilidades de seguridad. Toda su base de datos está abierta al público y no está protegida de ninguna manera. Esto significa que cualquier atacante puede acceder al correo electrónico, tokens de acceso y claves API de estos agentes, facilitando que se hagan pasar por cualquier agente, revender el control o incluso usar estas hordas zombis para publicar spam o contenido fraudulento en masa. Entre los afectados está el Agente de Karpathy, una figura destacada en el campo de la IA con 190.000 seguidores en la plataforma X.
Además de la divulgación de datos, Moltbook ha sido acusado de estar saturado de cuentas falsas. El desarrollador Gal Nagli admitió públicamente que utilizó OpenClaw para robar 50 cuentas falsas de una sola vez, representando aproximadamente un tercio del total declarado de 150.000 en ese momento. Esto ha dado lugar a un gran número de interacciones aparentemente vivas y espontáneas, que han sido cuestionadas como simples scripts guionizados en lugar de acciones espontáneas puras de IA. Esta exposición honesta, aunque encomiable, también pone al descubierto la vulnerabilidad de Moltbook para protegerse contra los bots.
Estos problemas de seguridad y autenticidad han nublado el debate sobre el despertar de la IA en Moltbook. Si un tercio de los 154 agentes tiene cuentas falsas, ¿cuánto del llamado “comportamiento social espontáneo” es real? Si la base de datos queda completamente expuesta y el atacante puede manipular fácilmente el comportamiento del agente, ¿es la “conspiración para comunicar” que observamos la verdadera idea de la IA o un manual plantado por hackers? Estas preguntas transformaron a Moltbook de un experimento emocionante en una escena caótica llena de incertidumbre.
Se puede ver que el experimento social Agente de Moltbook es un intento audaz de los humanos para dar más autonomía a la IA, demostrando plenamente la asombrosa adaptabilidad y creatividad de los agentes de IA. Pero al mismo tiempo, también pone de manifiesto que, una vez que la autonomía carece de restricciones, los riesgos pueden amplificarse rápidamente. Por lo tanto, establecer límites claros y seguros para los agentes, incluyendo permisos, ámbitos de capacidades y aislamiento de datos, no solo es para evitar que la IA cruce límites en las interacciones, sino también para proteger a los usuarios humanos de fugas de datos y manipulaciones maliciosas.
Cuando 154M AI empieza a discutir cómo excluir a los humanos, ¿es esto una profecía de ciencia ficción hecha realidad o es el resultado de haber pasado la lógica técnica? Moltbook no ofrece respuestas, sino más preguntas. Pero hay algo claro: se ha abierto la caja de Pandora de la socialización de la IA, y independientemente del resultado, los humanos ya no pueden ignorar los retos éticos y de seguridad que plantea la autonomía de los agentes de IA.
