Certik presenta el «antivirus para agentes de IA» a medida que los mercados de habilidades enfrentan amenazas ocultas

CertiK ha lanzado una nueva plataforma de seguridad descrita como un “antivirus para agentes de IA”, diseñada para abordar los riesgos crecientes de los marketplaces de habilidades de IA de terceros no verificados.

• Aspectos clave:
• • Certik lanzó una plataforma de seguridad para aportar una capa “antivirus” a los ecosistemas de agentes.
• • Las auditorías del sector revelan riesgos elevados, pero CertiK busca proteger los marketplaces con una precisión de escaneo del 90,5%.
• • Finchip.ai se encuentra entre las plataformas que amplían integraciones de cara a futuras actualizaciones de escaneo orientadas a consumidores.

El desafío de seguridad

La empresa de seguridad para blockchain y IA Certik, el 27 de mayo, dio a conocer una nueva plataforma de seguridad diseñada para evaluar riesgos en habilidades de inteligencia artificial (IA) de terceros. Bajo la denominación de “antivirus para agentes de IA”, el lanzamiento llega en medio de la creciente preocupación de la industria por la seguridad de los marketplaces de habilidades de IA.

Los investigadores en seguridad han advertido que muchas de estas habilidades no están verificadas, pueden ejecutar acciones a nivel de sistema y podrían contener comportamientos maliciosos ocultos, creando un nuevo riesgo de cadena de suministro de software para la era de la IA. Las auditorías de seguridad en el sector han identificado riesgos que van desde la extracción de credenciales y la exfiltración de datos hasta la manipulación de transferencias de fondos y los ataques de override basados en prompts.

A pesar de estas preocupaciones, los marketplaces de habilidades de IA se han expandido rápidamente a medida que maduran los ecosistemas de agentes. Sin embargo, a diferencia de las tiendas tradicionales de aplicaciones, la mayoría de las habilidades provienen de repositorios públicos con poca o ninguna revisión. Los analistas señalan que esto genera oportunidades para que los atacantes inserten instrucciones dañinas, desencadenen accesos no autorizados a datos o manipulen flujos de ejecución autónoma.

En una publicación reciente de blog, Certik indicó que su plataforma de escaneo de habilidades está diseñada específicamente para evaluar los riesgos que emergen durante la ejecución, incluidos escenarios con transacciones financieras o llamadas de fondos. El escáner genera una puntuación numérica de 0 a 100, junto con veredictos de “pass”, “warn” o “fail” y hallazgos categorizados. Según la empresa, el sistema alcanza hasta un 90,5% de precisión al identificar riesgos de seguridad.

“A medida que los agentes de IA se integran más profundamente en sistemas financieros, flujos de trabajo empresariales e interacciones digitales cotidianas, el modelo de seguridad en torno a las habilidades de terceros se vuelve críticamente importante”, dijo Ronghui Gu, CEO y cofundador de Certik. “El CertiK Skill Scanner se creó para establecer una capa estandarizada de confianza antes de la ejecución, ayudando a usuarios y plataformas a identificar riesgos ocultos antes de que se expongan datos sensibles, activos o sistemas.”

Certik dijo que los marketplaces de habilidades de IA pueden integrar el escáner directamente en los flujos de publicación, revisando automáticamente las habilidades antes de que salgan en vivo y mostrando veredictos de seguridad a los usuarios. Las empresas pueden implementar la herramienta como parte de los flujos de cumplimiento interno y gestión de riesgos, mientras que los desarrolladores independientes pueden usarla para auto-auditar habilidades antes de publicarlas.

La empresa señaló que futuras actualizaciones permitirán que los usuarios cotidianos escaneen las habilidades por sí mismos antes de instalarlas. El escáner ya se ha desplegado en entornos de infraestructura selectos de agentes de IA en Web3. Certik también está ampliando integraciones con plataformas adicionales, incluyendo Finchip.ai.

“La confianza es el prerrequisito para que cualquier economía de habilidades funcione a escala”, dijo Gary Yang, inversor de incubación en Finchip.ai. “El trabajo de CertiK en la verificación de seguridad de habilidades es exactamente lo que necesita este ecosistema. Es lo que hace que valga la pena construir la misión de Finchip de la propiedad y distribución programables de habilidades.”

El lanzamiento se produce después de que Certik ampliara su presencia en infraestructura de seguridad enfocada en IA. A principios de este año, la empresa presentó su iniciativa AI Auditor para abordar riesgos vinculados a sistemas autónomos y entornos de ejecución impulsados por IA.

“Las aplicaciones de IA se están moviendo hacia una ejecución cada vez más autónoma, lo que crea una nueva categoría de retos de seguridad y confianza”, dijo Gu. “Creemos que la infraestructura de seguridad para la era de la IA debe funcionar de forma proactiva, no reactiva.”