a16z：¿Por qué la inteligencia artificial (IA) necesita urgentemente la tecnología de cifrado? La protección de datos, la privacidad y la seguridad en los sistemas de IA son fundamentales para garantizar que la información sensible esté segura y que los algoritmos funcionen de manera confiable. A medida que la IA se integra más en nuestras vidas, la criptografía se vuelve esencial para prevenir accesos no autorizados, manipulación y garantizar la confianza en estas tecnologías emergentes.

Escribiendo: a16z

Traducido por: Chopper, Foresight News

Los sistemas de inteligencia artificial están revolucionando la internet diseñada originalmente a escala humana, reduciendo los costos de colaboración y transacción a niveles históricos, y generando voces, videos y textos cada vez más difíciles de distinguir del comportamiento humano. Hoy en día, ya estamos siendo afectados por verificaciones humanas y máquinas, y actualmente, los agentes de inteligencia artificial comienzan a interactuar y comerciar como humanos.

La cuestión clave no es la existencia de la inteligencia artificial, sino que la internet carece de un mecanismo nativo que, al tiempo que protege la privacidad y garantiza la facilidad de uso, pueda distinguir entre humanos y máquinas.

Y ahí es donde entra en juego la tecnología blockchain. La criptografía ayuda a crear sistemas de inteligencia artificial más avanzados, y a la inversa, la inteligencia artificial puede potenciar la tecnología criptográfica, con muchas lógicas profundas detrás; aquí, resumimos varias razones por las cuales la inteligencia artificial necesita más que nunca blockchain en la actualidad.

Aumentar el costo de la suplantación por parte de la inteligencia artificial

La inteligencia artificial puede falsificar voces, características faciales, estilos de escritura, contenido de videos e incluso crear perfiles sociales completos, y puede hacerlo a escala: un agente inteligente puede transformarse en miles de cuentas, simulando diferentes opiniones, consumidores o votantes, y el costo de estas operaciones sigue bajando.

Estas formas de suplantación no son nuevas: cualquier estafador con intención siempre puede contratar actores de doblaje, falsificar llamadas telefónicas o enviar correos de phishing. La verdadera diferencia ahora está en el costo: hoy en día, la barrera para realizar ataques de fraude a gran escala ha bajado significativamente.

Al mismo tiempo, la mayoría de los servicios en línea asumen que “una cuenta corresponde a un usuario real”. Cuando esta premisa no se cumple, todos los sistemas posteriores colapsan. Las medidas basadas en detección (como la verificación humano-máquina) están destinadas a fallar, ya que la velocidad de evolución de la inteligencia artificial supera con creces las tecnologías de detección diseñadas específicamente para ella.

Entonces, ¿cómo puede la blockchain jugar un papel? Los sistemas descentralizados de prueba de identidad o de verificación de humanidad permiten a los usuarios completar una verificación de identidad sencilla, pero que en esencia elimina la posibilidad de múltiples identidades por persona. Por ejemplo, escanear la retina para obtener una identificación global puede ser simple y económico, pero obtener una segunda identificación sería casi imposible.

Al limitar la cantidad de identidades emitidas y aumentar el costo marginal para los atacantes, la blockchain hace que las operaciones de suplantación a escala por parte de la inteligencia artificial sean mucho más difíciles.

La inteligencia artificial puede falsificar contenido, pero la tecnología criptográfica impide que pueda falsificar la identidad única de un humano a bajo costo. La blockchain, al redefinir la escasez en la capa de identidad, aumenta el costo marginal de la suplantación sin añadir obstáculos adicionales para el uso normal por parte de los humanos.

Construcción de un sistema descentralizado de prueba de identidad humana

Una forma de demostrar la identidad humana es mediante una identidad digital que abarque toda la información necesaria para verificarla: nombre de usuario, código de identificación personal, contraseña, además de pruebas de terceros (como documentos de identidad, credenciales crediticias) y otros certificados relacionados.

¿Y qué valor puede aportar la criptografía? La respuesta es la descentralización. Cualquier sistema de identidad centralizado en el núcleo de internet puede convertirse en un punto único de fallo. Cuando los agentes de inteligencia artificial actúan en nombre de los humanos para realizar transacciones, comunicaciones y colaboraciones, quien controle la verificación de identidad en realidad controla la participación. Los emisores centralizados pueden revocar permisos, cobrar tarifas o incluso colaborar en actividades de vigilancia.

La descentralización invierte completamente esta dinámica: los usuarios, en lugar de los plataformas, controlan su propia información de identidad, haciendo que la identificación sea más segura y resistente a la censura.

A diferencia de los sistemas tradicionales, los mecanismos descentralizados de prueba de humanidad permiten a los usuarios gestionar y custodiar su propia información de identidad, completando la verificación de identidad humana de forma que proteja la privacidad y sea absolutamente neutral.

Creación de un “pase digital” portátil y universal para agentes de inteligencia artificial

Los agentes de inteligencia artificial no dependen de una sola plataforma: un mismo agente puede aparecer en chats, correos electrónicos, llamadas telefónicas, sesiones de navegador y APIs. Pero actualmente no existe un mecanismo confiable que confirme que estas interacciones en diferentes escenarios provienen del mismo agente, con el mismo estado, capacidades y autorizado por su “propietario”.

Además, si la identidad del agente solo está vinculada a una plataforma o mercado, no podrá usarse en otros productos o escenarios importantes. Esto fragmenta la experiencia del usuario y hace que la adaptación a diferentes contextos sea laboriosa y poco eficiente.

La capa de identidad basada en blockchain puede crear un “pase digital” universal y portátil para los agentes de inteligencia artificial. Estas identidades pueden vincular las capacidades, permisos y detalles de pago del agente, y ser verificadas en cualquier escenario, dificultando enormemente la suplantación. Esto también permite a los desarrolladores crear agentes de IA más útiles y con mejor experiencia de usuario: los agentes pueden operar en múltiples ecosistemas sin preocuparse por estar ligados a una plataforma específica.

Implementación de pagos a escala

A medida que los agentes de inteligencia artificial representan cada vez más a los humanos en transacciones, los sistemas de pago existentes se convierten en un cuello de botella evidente. Los pagos a escala para agentes inteligentes requieren infraestructura completamente nueva, capaz de gestionar microtransacciones de múltiples fuentes.

Actualmente, muchas herramientas basadas en blockchain, como soluciones de escalado, redes de segunda capa, instituciones financieras nativas de IA y protocolos de infraestructura financiera, muestran potencial para resolver este problema, permitiendo transacciones casi sin costo y una división de pagos más precisa.

Lo clave es que estas infraestructuras de pago en blockchain puedan soportar transacciones en masa, incluyendo micro pagos, interacciones de alta frecuencia y transacciones comerciales entre agentes, que son imposibles de manejar con los sistemas financieros tradicionales.

Los micropagos pueden dividirse entre múltiples proveedores de datos, y mediante contratos inteligentes automáticos, una sola interacción del usuario puede desencadenar pequeños pagos a todos los proveedores relevantes;

Los contratos inteligentes soportan pagos retroactivos basados en transacciones completadas, que se pueden ejecutar de forma forzosa, recompensando a los actores que proporcionaron información para decisiones de compra, todo de manera transparente y rastreable;

La blockchain puede realizar distribuciones de pagos complejas y programables, asegurando una distribución justa de beneficios mediante reglas codificadas, sin depender de decisiones centralizadas, y estableciendo relaciones financieras de confianza entre agentes autónomos.

Protección de la privacidad y seguridad en sistemas de inteligencia artificial

El núcleo de muchos sistemas de seguridad presenta una paradoja: cuanto más datos se recopilan para proteger a los usuarios, más fácil es para la inteligencia artificial falsificar la identidad del usuario.

En este contexto, la protección de la privacidad y la seguridad se convierten en la misma cuestión. El desafío es que los sistemas de identidad humana basados en blockchain tengan por defecto atributos de protección de privacidad, ocultando información sensible en todas las etapas, y asegurando que solo los humanos reales puedan proporcionar la información necesaria para verificar su identidad.

La combinación de sistemas basados en blockchain y tecnología de pruebas de conocimiento cero permite a los usuarios demostrar hechos específicos, como códigos de identificación personal, números de identidad o estándares de calificación, sin revelar datos subyacentes (como la dirección en la licencia de conducir).

De esta forma, las aplicaciones pueden obtener la verificación necesaria, mientras que los sistemas de IA quedan privados de los datos originales necesarios para la suplantación. La protección de la privacidad deja de ser una función adicional y se convierte en la línea de defensa principal contra la suplantación por IA.

Resumen

La inteligencia artificial reduce drásticamente los costos de operaciones a escala, pero hace que la confianza sea difícil de establecer. La tecnología blockchain puede redefinir los sistemas de confianza: elevando el costo de la suplantación, preservando la interacción a escala humana, logrando un sistema de identidad descentralizado, haciendo que la protección de la privacidad sea la configuración predeterminada y dotando a los agentes de IA de restricciones económicas nativas.

Si queremos construir una internet en la que los agentes de inteligencia artificial puedan operar normalmente sin destruir la confianza, entonces blockchain no es una opción, sino la tecnología fundamental para construir una internet nativa de IA, siendo un elemento clave que actualmente falta en la internet.