Certik lança «Antivírus para agentes de IA» à medida que os mercados de competências enfrentam ameaças ocultas

A Certik lançou uma nova plataforma de segurança descrita como um “antivírus para agentes de IA”, pensada para lidar com os riscos crescentes dos mercados de competências de IA de terceiros sem validação.

• Principais pontos:
• • A Certik lançou uma plataforma de segurança para disponibilizar uma camada “antivírus” para ecossistemas de agentes.
• • Auditorias do sector revelam riscos elevados, mas a CertiK pretende proteger os mercados com 90,5% de precisão na varredura.
• • A Finchip.ai está entre as plataformas que expandem integrações com vista a futuras actualizações de varredura voltadas ao consumidor.

O desafio de segurança

A empresa de segurança para blockchain e IA, a Certik, revelou a 27 de Maio uma nova plataforma de segurança destinada a avaliar riscos em competências de inteligência artificial (IA) de terceiros. Apelidada de “antivírus para agentes de IA”, a versão surge num contexto de preocupação crescente da indústria sobre a segurança dos mercados de competências de IA.

Investigadores de segurança alertaram que muitas destas competências não são validadas, podem executar acções a nível de sistema e podem conter comportamentos maliciosos ocultos, criando um novo risco de cadeia de abastecimento de software para a era da IA. Auditorias de segurança em todo o sector identificaram riscos que vão desde a recolha de credenciais e exfiltração de dados até à manipulação de transferências de fundos e ataques de override baseados em prompts.

Apesar destas preocupações, os mercados de competências de IA têm-se expandido rapidamente à medida que os ecossistemas de agentes amadurecem. No entanto, ao contrário das lojas tradicionais de aplicações, a maioria das competências é obtida a partir de repositórios públicos com pouca ou nenhuma revisão. Os analistas dizem que isto cria oportunidades para que os atacantes incorporem instruções nocivas, despoletem acesso não autorizado a dados ou manipulem fluxos de execução autónoma.

Num artigo recente no blogue, a Certik afirmou que a sua plataforma de scanner de competências foi criada especificamente para avaliar riscos que surgem durante a execução, incluindo cenários que envolvem transacções financeiras ou chamadas de fundos. O scanner gera uma pontuação numérica de 0 a 100, juntamente com veredictos “pass”, “warn” ou “fail” e achados categorizados. Segundo a empresa, o sistema atinge até 90,5% de precisão na identificação de riscos de segurança.

“À medida que os agentes de IA se integram cada vez mais em sistemas financeiros, fluxos de trabalho empresariais e interacções digitais do dia-a-dia, o modelo de segurança em torno de competências de terceiros torna-se criticamente importante”, afirmou Ronghui Gu, CEO e cofundador da Certik. “O CertiK Skill Scanner foi construído para estabelecer uma camada de confiança padronizada antes da execução, ajudando utilizadores e plataformas a identificar riscos ocultos antes de dados sensíveis, activos ou sistemas ficarem expostos.”

A Certik disse que os mercados de competências de IA podem integrar o scanner directamente nos pipelines de publicação, avaliando automaticamente as competências antes de estas entrarem em funcionamento e apresentando veredictos de segurança aos utilizadores. As empresas podem implementar a ferramenta como parte de fluxos de trabalho internos de conformidade e gestão de risco, enquanto os programadores independentes podem utilizá-la para fazer auditorias às suas competências antes de as publicar.

A empresa referiu que as futuras actualizações permitirão aos utilizadores comuns fazerem a varredura das competências antes da instalação. O scanner já foi disponibilizado em ambientes de infra-estrutura de agentes Web3 de IA seleccionados. A Certik está igualmente a expandir integrações com plataformas adicionais, incluindo Finchip.ai.

“Confiança é o pré-requisito para que qualquer economia de competências funcione à escala”, disse Gary Yang, investidor de incubação na Finchip.ai. “O trabalho da CertiK na verificação da segurança de competências é exactamente o que este ecossistema precisa. É o que torna valioso construir a missão da Finchip de propriedade e distribuição de competências programáveis.”

O lançamento segue-se à expansão da Certik para infra-estrutura de segurança orientada para IA. No início deste ano, a empresa apresentou a sua iniciativa AI Auditor para abordar riscos associados a sistemas autónomos e ambientes de execução impulsionados por IA.

“As aplicações de IA estão a avançar para uma execução cada vez mais autónoma, o que cria uma nova categoria de desafios de segurança e confiança”, disse Gu. “Acreditamos que a infra-estrutura de segurança para a era da IA deve funcionar de forma proactiva, não reactiva.”