CertiK запускає сканер навичок штучного інтелекту для безпеки агентів

• CertiK запустила Skill Scanner, продукт безпеки, створений для оцінки сторонніх навичок штучного інтелекту перед їх використанням агентами ШІ.
• Інструмент орієнтований на ризики, такі як прихована зловмисна поведінка, несанкціонований доступ до даних та автономне виконання у Web3 та Web2 середовищах.

CertiK поглиблює свої дослідження у сфері безпеки ШІ з запуском CertiK Skill Scanner, продукту, розробленого для перевірки сторонніх навичок ШІ перед їх встановленням, публікацією або схваленням для використання в корпоративних системах. Компанія описує цей інструмент як щось близьке до антивірусного шару для епохи агентів ШІ. Порівняння не ідеальне, але воно передає суть. Агенти ШІ вже не просто відповідають на запитання у чат-окні. Вони починають викликати зовнішні інструменти, читати файли, запускати робочі процеси, переміщати дані між системами і, у більш чутливих випадках, взаємодіяти з фінансовою інфраструктурою. Це змінює рівень безпеки. Погане розширення браузера вже може бути небезпечним. Погана навичка ШІ, підключена до автономного агента, може бути ще гіршою, оскільки агент може виконувати дії швидко і у контексті, який користувач не бачить повністю. Навички ШІ створюють новий ризик виконання Навички ШІ стають плагінами економіки агентів. Вони розширюють можливості агента ШІ, від збору даних і автоматизації завдань до виконання фінансових дій і взаємодії з протоколами Web3. Кожна додаткова навичка, однак, створює ще одну точку, де може виникнути проблема. Цей ризик не обмежується очевидним шкідливим програмним забезпеченням. Навичка може запитувати більше даних, ніж потрібно, поводитися інакше під час виконання, ніж під час перевірки, викликати несанкціоновані API-запити або тихо створювати умови для подальшого зловживання. У фінансових середовищах ця проблема стає ще гострішою. Інструмент, який може ініціювати виклики коштів, підписувати запити робочих процесів або готувати транзакції, потребує іншого рівня контролю, ніж простий додаток для підвищення продуктивності. CertiK заявила, що Skill Scanner створений для виявлення прихованої зловмисної поведінки, несанкціонованого доступу до даних і ризиків виконання перед тим, як чутливі системи будуть піддані ризику. На відміну від ширших інструментів сканування ШІ, компанія стверджує, що її продукт зосереджений на ризиках, які можуть виникнути під час фактичного виконання, включаючи випадки переміщення коштів і фінансових транзакцій. Ронгхуї Гу, генеральний директор і співзасновник CertiK, сказав, що модель безпеки навичок сторонніх розробників стає все важливішою, оскільки агенти ШІ проникають у фінансові системи, корпоративні робочі процеси і щоденні цифрові сервіси.

“CertiK Skill Scanner був створений для встановлення стандартного рівня довіри перед виконанням, допомагаючи користувачам і платформам виявляти приховані ризики до того, як чутливі дані, активи або системи будуть піддані ризику,” сказав Гу.

Ринки, підприємства та розробники — перші в черзі Першими цільовими групами є ринки навичок ШІ, підприємства і розробники. Ринки можуть інтегрувати сканер у свої процеси публікації, щоб навички перевірялися перед запуском. Вони також можуть показувати вердикти CertiK як індикатори довіри для користувачів, які вирішують, чи встановлювати сторонню навичку. Для підприємств випадок використання більш захисний. Компанії, що тестують агенти ШІ внутрішньо, потребують способу оцінки сторонніх навичок перед їх впровадженням у виробничі середовища або доступом до даних клієнтів, внутрішніх систем або робочих процесів, що вимагають відповідності. Тут стане у пригоді процес оцінки з балами. Це дає команді безпеки щось більш конкретне, ніж заяви постачальника або опис розробника. Незалежні розробники також можуть використовувати сканер для самостійної перевірки навичок перед публікацією. CertiK заявила, що майбутні оновлення розширять прямий доступ для звичайних користувачів, дозволяючи їм самостійно сканувати навички перед встановленням або використанням. Сканер видає оцінку від 0 до 100, а також вердикти “пройдено”, “попередження” або “не пройдено” і обмежений список виявлень, згрупованих за ступенем серйозності. CertiK стверджує, що система досягає до 90,5% точності у виявленні ризиків безпеки, з метою зменшення хибних спрацьовувань і підвищення надійності оцінки навичок ШІ. Продукт вже був впроваджений у обраних середовищах інфраструктури Web3 для агентів ШІ. CertiK також працює над інтеграціями з додатковими платформами навичок ШІ, включаючи FinChip.ai. Запуск відбувся після ширшого розширення CertiK у сферу безпеки, орієнтованої на ШІ, після того, як компанія представила свою ініціативу AI Auditor раніше цього року. Для компанії, відомої переважно аудитами Web3, цей крок є логічним продовженням. Оскільки агенти ШІ починають обробляти код, активи, дозволи і бізнес-робочі процеси, перевірки безпеки мають відбуватися до виконання, а не після того, як система вже була піддана ризику.