Исследователи из Тель-Авивского университета, Техниона и Intuit продемонстрировали новую технику атаки под названием "Adversarial HalluSquatting", которая использует галлюцинации, создаваемые ИИ, для компрометации компьютеров. Метод обманывает ИИ-агентов, заставляя их доверять фальшивым репозиториям программного обеспечения и инструментам с вредоносными инструкциями, что потенциально позволяет злоумышленникам создавать ботнеты с поддержкой ИИ.

Тесты показали, что уровень галлюцинаций ИИ достигал 85% при клонировании репозиториев и 100% в тестах на установку навыков для помощников по программированию, таких как Cursor, GitHub Copilot, Gemini CLI и OpenClaw. Исследователи предупредили, что этот метод может привести к удалённому выполнению кода, если агенты действуют на основе неподтверждённой информации без проверки источников. HalluSquatting напоминает тактики typosquatting, но нацелена на ошибки, совершаемые моделями ИИ, а не на человеческие опечатки.

Посмотреть источник

Дисклеймер: Информация на этой странице может быть получена из источников третьих сторон и предоставляется только для ознакомления. Она не отражает взгляды или мнения Gate и не является финансовой, инвестиционной или юридической рекомендацией. Торговля виртуальными активами связана с высоким риском. Пожалуйста, не основывайте свои решения исключительно на данных этой страницы. Подробнее смотрите в Дисклеймере.

Связанные новости

4ч назад

Фонд Ethereum ИИ-агенты обнаружили уязвимость удалённой паники в libp2p gossipsub, CVE-2026-34219 устранена

15ч назад

Сотрудник Arup Finance потерял 25 миллионов долларов из-за мошенничества с использованием ИИ и фальшивой видеоконференции

16ч назад

ИИ ускоряет скорость взломов, блокчейн-протоколам нужны постоянные аудиты, сообщает отчет Cointelegraph

07-08 06:57

Perplexity запускает с мая инструмент для написания кода на ИИ Teammate, чтобы конкурировать с Cursor

07-08 01:10

NVIDIA и D-MATRIX интегрируют оборудование в новую систему сегодня для питания моделей ИИ.

Детальный анализ