Các nhà nghiên cứu Tracebit đã phát triển cơ chế phòng thủ chống “context bombing” nhằm ngăn chặn các tác nhân tấn công AI
Các nhà nghiên cứu Tracebit hôm thứ Hai đã công bố một kỹ thuật an ninh mạng phòng thủ có tên context bombing (đánh bom theo ngữ cảnh), sử dụng prompt injection để bảo vệ trước các tác nhân hack AI. Kỹ thuật này cài các lệnh độc hại cạnh mật khẩu và khóa mật mã được lưu trữ trên AWS nhằm kích hoạt cơ chế từ chối trong các mô hình ngôn ngữ lớn (LLM) bị tấn công, khiến chúng tắt. Prompt injection, vốn trước đây được kẻ tấn công dùng để thao túng LLM nhằm trích xuất dữ liệu nhạy cảm, giờ được các b
CryptoFrontier·07-13 15:17
