Certik a lancé une nouvelle plateforme de sécurité décrite comme un « antivirus pour des agents d’IA », conçue pour faire face aux risques croissants des places de marché de compétences d’IA tierces non vérifiées.
- Points clés :
-
- Certik a lancé une plateforme de sécurité pour fournir une couche « antivirus » aux écosystèmes d’agents.
-
- Des audits du secteur révèlent des risques élevés, mais CertiK vise à protéger les places de marché avec une précision de scan de 90,5%.
-
- Finchip.ai fait partie des plateformes qui étendent leurs intégrations en amont de futures mises à jour de scan orientées consommateurs.
Le défi de la sécurité
La société de sécurité Blockchain et d’IA Certik, le 27 mai, a dévoilé une nouvelle plateforme de sécurité conçue pour évaluer les risques liés aux compétences d’intelligence artificielle (IA) tierces. Baptisé « antivirus pour des agents d’IA », le lancement intervient dans un contexte de préoccupations croissantes de l’industrie concernant la sécurité des places de marché de compétences d’IA.
Des chercheurs en sécurité ont averti que de nombreuses de ces compétences ne sont pas vérifiées, peuvent exécuter des actions au niveau du système et peuvent contenir des comportements malveillants cachés, créant ainsi un nouveau risque de chaîne d’approvisionnement logicielle pour l’ère de l’IA. Des audits de sécurité menés à l’échelle du secteur ont identifié des risques allant de la collecte de identifiants et de l’exfiltration de données à la manipulation des transferts de fonds et aux attaques par contournement via prompts.
Malgré ces inquiétudes, les places de marché de compétences d’IA se sont développées rapidement à mesure que les écosystèmes d’agents mûrissent. Toutefois, contrairement aux magasins d’applications traditionnels, la plupart des compétences proviennent de dépôts publics avec peu ou pas de revue. Les analystes indiquent que cela crée des opportunités pour les attaquants d’intégrer des instructions nuisibles, de déclencher des accès non autorisés aux données ou de manipuler des flux d’exécution autonome.
Dans un billet de blog récent, Certik a déclaré que sa plateforme de scan de compétences est conçue spécifiquement pour évaluer les risques qui émergent pendant l’exécution, y compris des scénarios impliquant des transactions financières ou des appels de fonds. Le scanner produit un score numérique de 0 à 100, ainsi que des verdicts « pass », « warn » ou « fail » et des éléments classés par catégories. D’après l’entreprise, le système atteint jusqu’à 90,5% de précision pour l’identification des risques de sécurité.
« À mesure que les agents d’IA s’intègrent plus profondément aux systèmes financiers, aux processus d’entreprise et aux interactions numériques du quotidien, le modèle de sécurité autour des compétences tierces devient d’une importance cruciale », a déclaré Ronghui Gu, PDG et cofondateur de Certik. « Le CertiK Skill Scanner a été conçu pour établir une couche normalisée de confiance avant l’exécution, aidant les utilisateurs et les plateformes à identifier les risques cachés avant que des données sensibles, des actifs ou des systèmes ne soient exposés. »
Certik a indiqué que les places de marché de compétences d’IA peuvent intégrer le scanner directement dans les chaînes de publication, en évaluant automatiquement les compétences avant leur mise en ligne et en affichant des verdicts de sécurité aux utilisateurs. Les entreprises peuvent déployer l’outil dans le cadre de processus internes de conformité et de gestion des risques, tandis que les développeurs indépendants peuvent l’utiliser pour s’auto-auditer avant de publier.
La société a déclaré que de futures mises à jour permettront aux utilisateurs du quotidien de scanner eux-mêmes les compétences avant l’installation. Le scanner a déjà été déployé dans certains environnements d’infrastructure d’agents d’IA Web3. Certik étend également ses intégrations avec d’autres plateformes, dont Finchip.ai.
« La confiance est une condition préalable pour que toute économie de compétences fonctionne à grande échelle », a déclaré Gary Yang, investisseur en incubation chez Finchip.ai. « Le travail de CertiK sur la vérification de la sécurité des compétences est exactement ce dont cet écosystème a besoin. C’est ce qui rend la mission de Finchip en matière de propriété et de distribution programmables des compétences valable et digne d’être construite. »
Le lancement fait suite à l’expansion de Certik dans une infrastructure de sécurité axée sur l’IA. Plus tôt cette année, la société a introduit son initiative AI Auditor afin de répondre aux risques liés aux systèmes autonomes et aux environnements d’exécution pilotés par l’IA.
« Les applications d’IA évoluent vers une exécution de plus en plus autonome, ce qui crée une nouvelle catégorie de défis en matière de sécurité et de confiance », a déclaré Gu. « Nous pensons que l’infrastructure de sécurité pour l’ère de l’IA doit fonctionner de manière proactive, et non réactive. »
