Investigación de IA sobre la descentralización: conceptos, arquitectura y análisis de la industria de la descentralización de IA.

Introducción

En la era digital, la inteligencia artificial (IA) se ha convertido en una fuerza clave para impulsar la innovación tecnológica y el progreso social. El desarrollo de la IA no solo implica avances tecnológicos, sino también una extensión de la inteligencia humana. La IA ha sido un tema candente en la industria de la inversión de riesgo y los mercados de capital en los últimos tiempos.

Con el desarrollo de la tecnología blockchain, surge la IA descentralizada (Decentralized AI). En este artículo, vamos a analizar la definición, la arquitectura y la forma en que interactúa con la industria de la inteligencia artificial.

Definición y arquitectura de la inteligencia artificial descentralizada.

El uso descentralizado de la IA aprovecha los recursos informáticos y de almacenamiento de datos descentralizados para entrenar y utilizar modelos de IA de manera distribuida, mejorando la privacidad y la seguridad. Su arquitectura principal consta de cuatro capas:

• Capa de modelo: admite el desarrollo, el intercambio y el comercio de modelos de IA descentralizados, lo que facilita la colaboración y la innovación a escala global. Entre los proyectos representativos de este nivel se encuentra Bittensor, que utiliza la tecnología blockchain para crear una plataforma global de colaboración e intercambio de modelos de IA.

• Capa de entrenamiento: Utilizando contratos inteligentes y tecnología descentralizada, se reducen los costos y se simplifica el proceso de entrenamiento de modelos de IA, mejorando así la eficiencia del entrenamiento. El desafío en este nivel radica en cómo aprovechar de manera efectiva los recursos de computación distribuida para un entrenamiento de modelos eficiente.

• Capa de datos: Utiliza la tecnología blockchain para almacenar y gestionar datos, garantizando la seguridad y la inmutabilidad de los datos, al mismo tiempo que otorga a los usuarios el control total sobre ellos. Aplicaciones en esta capa incluyen mercados de datos descentralizados, que permiten transacciones transparentes y la confirmación de la propiedad mediante tecnología blockchain.

• Capa de potencia de cálculo: Proporciona recursos de cálculo distribuido a través de una plataforma de potencia de cálculo descentralizada y soporte de ancho de banda, lo que permite un entrenamiento y una inferencia eficientes de modelos de IA. Los avances tecnológicos en esta área, como el cómputo en el borde y las redes distribuidas de GPU, ofrecen nuevas soluciones para el entrenamiento y la inferencia de modelos de IA.

Proyecto representativo de IA descentralizada

Desglose de la industria de la IA descentralizada: capa de modelos

Capa del modelo: El aumento exponencial de los parámetros del modelo grande ha mejorado significativamente el rendimiento del modelo, pero los beneficios derivados de la expansión adicional de la escala del modelo están disminuyendo gradualmente. Esta tendencia nos obliga a repensar la dirección del desarrollo del modelo de IA, cómo reducir costos y consumo de recursos sin comprometer el rendimiento.

El desarrollo de modelos de inteligencia artificial sigue la ‘ley de escala’, es decir, existe una cierta relación entre el rendimiento del modelo y el tamaño de los parámetros, el tamaño del conjunto de datos y el poder de cálculo.

Cuando el modelo se expande a cierta escala, su rendimiento en tareas específicas mejora significativamente de repente. A medida que aumenta el tamaño de los parámetros del modelo, la mejora en el rendimiento del modelo disminuye gradualmente. El equilibrio entre el tamaño de los parámetros y el rendimiento del modelo será clave para el desarrollo futuro.

Hemos visto que la competencia de precios de las API para los modelos grandes de IA se ha intensificado, y muchos fabricantes han reducido los precios para aumentar la cuota de mercado. Sin embargo, con la homogeneización del rendimiento de los modelos grandes, también se cuestiona la sostenibilidad de los ingresos de las API. Cómo mantener una alta fidelidad de los usuarios y aumentar los ingresos será un gran desafío en el futuro.

!

La aplicación del modelo del lado del dispositivo se logrará reduciendo la precisión de los datos y adoptando una arquitectura híbrida de modelo experto (MoE). La cuantificación del modelo puede comprimir datos de punto flotante de 32 bits en 8 bits,** lo que reduce significativamente el tamaño del modelo y el consumo de memoria. De esta manera, el modelo puede ejecutarse de manera eficiente en dispositivos del lado del dispositivo, lo que impulsa una mayor popularización de la tecnología de IA. **

Resumen: La cadena de bloques ayuda a mejorar la transparencia, la colaboración y la participación de los usuarios en el nivel de modelo de IA.

Peinado centralizado de la industria de la IA: capa de entrenamiento

Capa de entrenamiento: El entrenamiento de modelos grandes requiere comunicaciones de alta velocidad y baja latencia. Existe la posibilidad de utilizar una red de potencia descentralizada para intentar modelos grandes. El desafío en este nivel es cómo optimizar la asignación de recursos de comunicación y computación para lograr un entrenamiento de modelos más eficiente.

** Las redes de potencia informática descentralizadas tienen cierto potencial en el entrenamiento de modelos grandes. A pesar de los desafíos de la sobrecarga excesiva de comunicación, la eficiencia del entrenamiento se puede mejorar significativamente optimizando los algoritmos de programación y comprimiendo la cantidad de datos transferidos. Sin embargo, cómo superar la latencia de la red y los cuellos de botella en la transmisión de datos en un entorno del mundo real sigue siendo un desafío importante para la capacitación descentralizada.

Para resolver el problema de la capacitación de modelos grandes en la red descentralizada de potencia informática, podemos utilizar técnicas como compresión de datos, optimización de programación y actualización y sincronización local. Estos métodos pueden ** reducir los costos de comunicación, mejorar la eficiencia de entrenamiento y hacer que la red descentralizada de potencia informática sea una opción viable para la capacitación de modelos grandes**.

El aprendizaje automático de conocimiento cero (zkML) combina las técnicas de prueba de conocimiento cero y el aprendizaje automático, lo que permite verificar y razonar sobre modelos sin exponer los datos de entrenamiento y los detalles del modelo. Esta tecnología es especialmente adecuada para industrias que requieren alta confidencialidad de los datos, como la medicina y las finanzas, ya que garantiza la privacidad de los datos al tiempo que verifica la precisión y confiabilidad del modelo de IA.

Combinación descentralizada de la industria de la IA: capa de datos

La privacidad y la seguridad de los datos se ha convertido en un tema clave en el desarrollo de la IA. Las tecnologías descentralizadas de almacenamiento y procesamiento de datos proporcionan nuevas ideas para resolver estos problemas.

El almacenamiento de datos, el índice de datos y la aplicación de datos son elementos clave para garantizar el funcionamiento adecuado de los sistemas de IA descentralizados. Plataformas de almacenamiento descentralizado como Filecoin y Arweave ofrecen nuevas soluciones en seguridad de datos y protección de la privacidad, al tiempo que reducen los costos de almacenamiento.

!

Casos de almacenamiento descentralizado:

!

• La escala de almacenamiento de datos de Arweave ha crecido rápidamente desde 2020, impulsada principalmente por la demanda del mercado de NFT y las aplicaciones Web3. A través de Arweave, los usuarios pueden lograr un almacenamiento de datos permanente descentralizado, resolviendo el problema del almacenamiento de datos a largo plazo.
• El proyecto AO mejora aún más el ecosistema de Arweave, proporcionando a los usuarios una potencia informática más potente y una gama más amplia de escenarios de aplicación.

En esta página, comparamos dos proyectos de almacenamiento descentralizado: Arweave y Filecoin. Arweave logra un almacenamiento permanente a través de un pago único, mientras que Filecoin utiliza un modelo de pago mensual y se centra en proporcionar servicios de almacenamiento flexibles. Ambos tienen ventajas en cuanto a arquitectura técnica, escala de negocio y posicionamiento en el mercado, por lo que los usuarios pueden elegir la solución que mejor se adapte a sus necesidades específicas.

Desglose de la industria de IA descentralizada: Capa de potencia de cálculo

Capa de potencia informática: A medida que aumenta la complejidad de los modelos de IA, también lo hace la demanda de recursos informáticos. ** La aparición de redes de potencia informática descentralizadas proporciona una nueva forma de asignación de recursos para el entrenamiento y la inferencia de modelos de IA. **

!

La red de cálculo descentralizado (y las redes de cálculo especializadas para entrenamiento e inferencia) es actualmente el área más activa y de más rápido desarrollo en la pista DeAI. Esto es consistente con los proveedores de infraestructura del mundo real que están capturando los frutos del próspero mercado de la inteligencia artificial. Con la continua escasez de recursos de cálculo, como las GPU, los fabricantes de dispositivos de hardware de recursos de cálculo han ingresado en masa a este campo.

Caso de Aethir:

Modelo de negocio: mercado bilateral de alquiler de potencia de cálculo

El mercado de la informática descentralizada utiliza esencialmente la tecnología Web3 para ampliar el concepto de computación en red a un entorno económicamente incentivador y sin confianza. ** Al incentivar a los proveedores de recursos, como CPU y GPU, para que contribuyan con potencia de cálculo inactiva a la red descentralizada, se formará un mercado de servicios de potencia de cálculo descentralizado con una cierta escala; También conecta a los demandantes de recursos informáticos (como los proveedores de modelos) para proporcionarles recursos de servicios informáticos a un menor coste y de forma más flexible. El mercado de la potencia informática descentralizada también es un desafío para los proveedores de servicios en la nube con monopolios centralizados.

• El mercado descentralizado de potencia de cálculo se puede dividir aún más según el tipo de servicio en dos categorías: general y especializado. Las redes de cálculo general funcionan como nubes descentralizadas, proporcionando recursos de cálculo para diversas aplicaciones. Las redes de cálculo especializadas están diseñadas específicamente para casos de uso particulares. Por ejemplo, Render Network es una red de cálculo especializada en cargas de trabajo de renderizado; Gensyn es una red de cálculo especializada en el entrenamiento de modelos de aprendizaje automático; y io.net es un ejemplo de red de cálculo general.
• Un desafío importante para DeAI en el entrenamiento de modelos en infraestructura descentralizada es la alta latencia causada por la potencia informática masiva, las limitaciones de ancho de banda y el uso de hardware heterogéneo de diferentes proveedores en todo el mundo. Como resultado, una red informática de IA dedicada puede proporcionar más capacidades específicas de IA que una red informática de uso general. En la actualidad, el entrenamiento centralizado de modelos de ML sigue siendo el proyecto más eficiente y estable, pero plantea un requisito muy alto para la fuerza de capital de la parte del proyecto.

Conclusión

La IA descentralizada, como una tendencia tecnológica emergente, está demostrando gradualmente sus ventajas en términos de privacidad de datos, seguridad y rentabilidad. En el próximo artículo, exploraremos los riesgos y desafíos que enfrenta la IA descentralizada, así como sus futuras direcciones de desarrollo.