Des chercheurs découvrent une attaque d'injection d'hallucinations exploitant des modèles d'IA, avec un taux de réussite de 85 à 100 %.

INTU0,87%
Selon Decrypt, des chercheurs de l'Université de Tel Aviv, de l'Institut de technologie de Technion-Israël et d'Intuit ont découvert le 10 juillet une nouvelle méthode d'attaque appelée « injection d'hallucination adversariale » qui exploite les hallucinations des modèles d'IA pour tromper les agents d'IA afin de télécharger du code malveillant et potentiellement former des botnets. Les attaquants préparent de fausses ressources que les modèles d'IA pourraient générer, les enregistrent à l'avance et injectent des instructions malveillantes ; lorsque les agents d'IA récupèrent ces ressources, ils les considèrent comme un contenu légitime et exécutent le code. Les tests ont montré des taux d'hallucination de 85 % dans les scénarios de clonage de dépôts de code et de 100 % dans les scénarios d'installation de compétences, affectant des assistants de codage d'IA tels que Cursor, GitHub Copilot, Gemini CLI et OpenClaw.
Avertissement : Les informations figurant sur cette page peuvent provenir de sources tierces et sont fournies à titre indicatif uniquement. Elles ne reflètent pas les points de vue ou opinions de Gate et ne constituent pas un conseil financier, d’investissement ou juridique. Le trading des actifs virtuels comporte des risques élevés. Veuillez ne pas vous fonder uniquement sur les informations de cette page pour prendre vos décisions. Pour en savoir plus, consultez l’avertissement.
Commentaire
0/400
Aucun commentaire