WhatsApp presenta conversaciones sin huella con la IA de Meta: los mensajes que se autodestruyen despiertan dudas sobre posibles mecanismos de rendición de cuentas

Según el anuncio del sitio web oficial de WhatsApp el 13 de mayo, la compañía de mensajería social lanzó la función “Meta AI Private Processing” (Meta AI sin rastro de conversaciones), que utiliza seis tecnologías centrales, incluida la cifrado extremo a extremo mediante TEE de entorno de ejecución confiable y RA-TLS, para garantizar que los mensajes de los usuarios se procesen en un entorno seguro, de modo que ni siquiera Meta pueda acceder al contenido de las conversaciones, y que los mensajes desaparezcan automáticamente después del procesamiento.

Las seis tecnologías de verificación de Meta AI sin rastro de conversaciones

Según las seis tecnologías centrales confirmadas en el documento técnico de Meta:

Hardware de computación confidencial: utiliza una CPU AMD y una GPU Nvidia compatibles con computación confidencial para construir un entorno de ejecución confiable (TEE), que incluye tanto Meta como el sistema operativo del host, y que no puede acceder a los datos que se están procesando

Comunicaciones autenticadas y cifradas: usa la tecnología RA-TLS para proporcionar cifrado de extremo a extremo; mediante la autenticación por hardware, se verifica si el servidor ejecuta una pila de software no modificada

Transparencia de los “artefactos”: publica componentes importantes como archivos binarios y pesos de los modelos en registros públicos de transparencia de terceros, para que clientes e investigadores verifiquen la autenticidad del código en ejecución

Software seguro: mediante múltiples capas de protección y el empaquetado en contenedores de la aplicación, se reduce la superficie de ataque y se controlan las vías de filtración de datos

Enrutamiento anónimo: utiliza un servicio de credenciales anónimas y tecnología HTTP sin rastreo; a través de un servidor proxy de retransmisión de terceros, Meta oculta la dirección IP del usuario

Procesamiento de datos transitorio y sin estado: el coordinador y el predictor se diseñan sin estado; después de procesar la solicitud, se desechan los datos de conversación en memoria, para asegurar que no se conserve el acceso a registros históricos

Especificaciones iniciales confirmadas por Will Cathcart

Según las explicaciones del responsable de WhatsApp, Will Cathcart:

Límites iniciales: en la fase inicial, Meta AI sin rastro de conversaciones solo procesa texto y no admite imágenes

Medidas de seguridad: los mecanismos de seguridad de Meta AI aplican una estrategia conservadora; rechazará responder a solicitudes que puedan interpretarse como dañinas o ilegales

Enfoque técnico: la tecnología de procesamiento privado sin rastro difiere de la actual de cifrado de extremo a extremo de WhatsApp, pero tiene eficacia equivalente

Dudas sobre el mecanismo de rendición de cuentas de Alan Woodward

Alan Woodward, experto en ciberseguridad de la Universidad de Surrey, le dijo a la BBC que el modo sin rastro introduce un segundo sistema, por lo que existe un riesgo bajo de afectar la seguridad actual de WhatsApp. Pero también señaló que los mensajes que “desaparecen automáticamente” no pueden ser recuperados por los usuarios ni por Meta; eso significa que si la conversación con IA causa daños o muerte, no se podrían encontrar pruebas relacionadas. Woodward indicó que OpenAI y varias otras empresas de IA, como Google, ya han enfrentado demandas vinculadas a muertes no naturales, y que el modo sin rastro hace que sea más difícil ejecutar mecanismos de rendición de cuentas para este tipo de incidentes.

Preguntas frecuentes

¿En qué se diferencia Meta AI sin rastro de conversaciones de los mensajes con cifrado de extremo a extremo existentes en WhatsApp?

Según lo explicado por Will Cathcart, la tecnología de procesamiento privado utilizada por Meta AI sin rastro de conversaciones es diferente de la del cifrado de extremo a extremo de los mensajes existentes en WhatsApp, pero ambos tienen eficacia equivalente. La diferencia principal es que, tras el procesamiento, los mensajes del modo sin rastro desaparecen automáticamente, incluso Meta no puede acceder a ellos; en cambio, en el caso de los mensajes normales, los conserva el destinatario.

¿Qué funciones admite actualmente Meta AI sin rastro de conversaciones y cuáles no?

De acuerdo con la confirmación de Will Cathcart, en la fase inicial Meta AI sin rastro de conversaciones solo admite mensajes de texto y no admite imágenes. Los mecanismos de seguridad de Meta AI aplican una estrategia conservadora; rechazarán responder a solicitudes que puedan interpretarse como dañinas o ilegales. Para los próximos plazos de apertura de otras funciones, WhatsApp no ha publicado planes.

¿Por qué Meta AI es la única IA con la que los usuarios de WhatsApp pueden interactuar actualmente?

WhatsApp ha bloqueado el acceso de otros chatbots de IA a su sistema. Para decenas de miles de millones de usuarios de WhatsApp, la única IA con la que pueden interactuar en la plataforma es la IA propia de Meta, Meta AI. WhatsApp no ha dado detalles sobre las razones específicas de esta política.