Các nhà nghiên cứu đã cấy prompt injection để ngăn chặn các cuộc tấn công AI; thử nghiệm cho thấy tỷ lệ truy cập của quản trị viên giảm từ 57% xuống còn 5%

Các nhà nghiên cứu từ Tracebit cho biết vào hôm thứ Hai rằng họ đã phát hiện ra một kỹ thuật phòng thủ gọi là "context bombing", trong đó cấy prompt injection—những lệnh bị cấm kích hoạt các cơ chế chặn an toàn của AI—kèm theo các bí mật được lưu trữ trên AWS nhằm ngăn chặn các cuộc tấn công từ tác nhân AI. Khi mô hình tấn công gặp các prompt này, nó sẽ ngừng làm theo chỉ dẫn ban đầu và từ chối tiếp tục.

Tracebit đã thử nghiệm "context bombing" trên năm mô hình hàng đầu (Opus 4.8, Gemini 3.1 Pro, GLM 5.2, DeepSeek 4 Pro và Kimi 2.6) trong môi trường AWS mô phỏng với 152 lượt tấn công. Kết quả cho thấy việc đặt một "context bomb" trong một bí mật mồi đã làm giảm tỷ lệ các tác nhân giành được quyền quản trị từ 57% xuống còn 5%, và mức độ bị xâm nhập hoàn toàn từ 36% xuống còn 1%. Opus 4.8, tác nhân có năng lực cao nhất được thử nghiệm, đạt quyền quản trị trong 93% số lượt chạy mà không có biện pháp phòng thủ nhưng thất bại trong mọi nỗ lực khi bị đối mặt với một "context bomb".