CertiK đã ra mắt một nền tảng bảo mật mới được mô tả là “phần mềm diệt vi-rút cho các tác nhân AI”, nhằm giải quyết rủi ro ngày càng tăng của các chợ marketplace kỹ năng AI bên thứ ba không được thẩm định.
- Những ý chính:
-
- CertiK ra mắt nền tảng bảo mật để bổ sung lớp “phần mềm diệt vi-rút” cho hệ sinh thái tác nhân.
-
- Các cuộc kiểm toán trong ngành cho thấy rủi ro cao, nhưng CertiK hướng tới bảo vệ các marketplace với độ chính xác quét 90,5%.
-
- Finchip.ai nằm trong số các nền tảng mở rộng tích hợp trước các bản cập nhật quét hướng tới người dùng trong tương lai.
Thách thức về an ninh
Công ty an ninh cho blockchain và AI CertiK, vào ngày 27 tháng 5, đã công bố một nền tảng bảo mật mới nhằm đánh giá rủi ro trong các kỹ năng AI (trí tuệ nhân tạo) của bên thứ ba. Được gọi là “phần mềm diệt vi-rút cho các tác nhân AI”, bản ra mắt diễn ra trong bối cảnh lo ngại ngày càng tăng của ngành về tính bảo mật của các chợ marketplace kỹ năng AI.
Các nhà nghiên cứu an ninh cảnh báo rằng nhiều kỹ năng trong số này không được thẩm định, có thể thực hiện các hành động ở cấp độ hệ thống và có thể chứa các hành vi độc hại ẩn, từ đó tạo ra rủi ro mới về chuỗi cung ứng phần mềm cho kỷ nguyên AI. Các cuộc kiểm toán an ninh trên toàn ngành đã xác định các rủi ro từ thu thập thông tin đăng nhập và đánh cắp dữ liệu cho đến thao túng chuyển tiền và các cuộc tấn công ghi đè dựa trên prompt.
Dù vậy, các chợ marketplace kỹ năng AI vẫn mở rộng nhanh chóng khi các hệ sinh thái tác nhân trưởng thành. Tuy nhiên, không giống các cửa hàng ứng dụng truyền thống, phần lớn kỹ năng được lấy từ các kho lưu trữ công khai với ít hoặc không có khâu rà soát. Các nhà phân tích cho rằng điều này tạo cơ hội để kẻ tấn công nhúng các chỉ dẫn gây hại, kích hoạt truy cập dữ liệu trái phép hoặc thao túng các luồng thực thi tự động.
Trong một bài blog gần đây, CertiK cho biết nền tảng bộ quét kỹ năng của họ được thiết kế riêng để đánh giá các rủi ro phát sinh trong quá trình thực thi, bao gồm cả các kịch bản liên quan đến giao dịch tài chính hoặc lệnh gọi quỹ. Bộ quét tạo ra điểm số định lượng từ 0 đến 100, cùng với các phán quyết “pass”, “warn” hoặc “fail” và các phát hiện được phân loại. Theo công ty, hệ thống đạt tới 90,5% độ chính xác trong việc nhận diện rủi ro bảo mật.
“Khi các tác nhân AI ngày càng được tích hợp sâu vào các hệ thống tài chính, quy trình doanh nghiệp và các tương tác số hằng ngày, mô hình bảo mật liên quan đến các kỹ năng của bên thứ ba trở nên đặc biệt quan trọng,” Ronghui Gu, CEO và đồng sáng lập của CertiK, cho biết. “CertiK Skill Scanner được xây dựng để thiết lập một lớp tin cậy theo chuẩn trước khi thực thi, giúp người dùng và nền tảng nhận diện rủi ro ẩn trước khi dữ liệu nhạy cảm, tài sản hoặc hệ thống bị phơi lộ.”
CertiK cho biết các chợ marketplace kỹ năng AI có thể tích hợp bộ quét trực tiếp vào các quy trình đăng tải, tự động rà soát kỹ năng trước khi chúng hoạt động và hiển thị các phán quyết bảo mật cho người dùng. Doanh nghiệp có thể triển khai công cụ như một phần của các quy trình tuân thủ nội bộ và quản lý rủi ro, trong khi các nhà phát triển độc lập có thể dùng để tự kiểm toán kỹ năng trước khi đăng tải.
Công ty cho biết các bản cập nhật trong tương lai sẽ cho phép người dùng phổ thông tự quét kỹ năng trước khi cài đặt. Bộ quét đã được triển khai trong một số môi trường hạ tầng tác nhân AI Web3. CertiK cũng đang mở rộng tích hợp với các nền tảng bổ sung, bao gồm Finchip.ai.
“Niềm tin là điều kiện tiên quyết để bất kỳ nền kinh tế kỹ năng nào có thể vận hành ở quy mô lớn,” Gary Yang, nhà đầu tư ươm tạo tại Finchip.ai, nói. “Công việc của CertiK về xác minh bảo mật kỹ năng đúng là thứ mà hệ sinh thái này cần. Đó là điều giúp sứ mệnh của Finchip về quyền sở hữu và phân phối kỹ năng có thể lập trình trở nên đáng để xây dựng.”
Việc ra mắt diễn ra sau đợt mở rộng của CertiK sang hạ tầng bảo mật tập trung vào AI. Đầu năm nay, công ty giới thiệu sáng kiến AI Auditor để giải quyết các rủi ro liên quan đến hệ thống tự động và các môi trường thực thi do AI điều khiển.
“Các ứng dụng AI đang hướng tới thực thi ngày càng tự động hơn, điều này tạo ra một nhóm thách thức mới về bảo mật và niềm tin,” Gu nói. “Chúng tôi tin rằng hạ tầng bảo mật cho kỷ nguyên AI phải hoạt động chủ động, không phải phản ứng.”
