Investigadores alertam que agentes de IA podem transformar-se em botnets através de HalluSquatting, com uma taxa de alucinação de 85%

Investigadores da Universidade de Tel Aviv, do Technion e da Intuit demonstraram uma nova técnica de ataque chamada "Adversarial HalluSquatting" que explora alucinações geradas por IA para comprometer computadores. A técnica engana os agentes de IA, levando-os a confiar em repositórios de software falsos e ferramentas com instruções maliciosas, potencialmente permitindo aos atacantes criar botnets habilitadas por IA.

Testes revelaram que as taxas de alucinação de IA atingiram 85% em cenários de clonagem de repositórios e 100% em testes de instalação de competências contra assistentes de codificação como Cursor, GitHub Copilot, Gemini CLI e OpenClaw. Os investigadores alertaram que o método pode levar à execução remota de código quando os agentes agem com base em informações não verificadas, sem confirmar se as fontes são legítimas. O HalluSquatting espelha táticas de typosquatting, mas foca-se nos erros cometidos por modelos de IA, em vez de erros de digitação humanos.