David Sacks chỉ trích các rào cản quản lý AI của Mỹ sau khi Kimi K3 khắc phục lỗi bảo mật

David Sacks, quan chức phụ trách chính sách AI và tiền điện tử của Nhà Trắng, được biết đến với biệt danh “crypto czar”, đã chỉ trích các cơ chế “rào chắn” bảo mật của mô hình AI Mỹ vào ngày 19/7 trên X, lấy mô hình AI Kimi K3 của Trung Quốc làm ví dụ. Sacks cho biết Kimi K3 đã khắc phục 15 lỗi bảo mật nghiêm trọng mà các mô hình Codex và Fable của Mỹ từ chối xử lý do “cyber guardrails” (rào chắn an ninh mạng), đồng thời lập luận rằng không có lý do gì phải hạn chế các mô hình của Mỹ trong những tác vụ mà các mô hình Trung Quốc thực hiện được mà không gặp vấn đề. Lời chỉ trích này làm nổi bật cuộc tranh luận đang diễn ra về các hạn chế an ninh đối với AI, sau khi các chuyên gia an ninh mạng trước đó đã cảnh báo trong một bức thư gửi Tổng thống Trump vào tháng 6 rằng việc hạn chế AI được dùng bởi các nhà nghiên cứu bảo mật và các tổ chức phòng thủ có thể làm suy yếu năng lực phòng thủ mạng.

Sacks dẫn ví dụ các bản vá lỗi bảo mật của Kimi K3 bị mô hình AI Mỹ chặn

Trong bài đăng X ngày 19/7, Sacks viết: “Kimi K3 vừa mới sửa 15 lỗi bảo mật nghiêm trọng mà Codex và Fable từ chối vì ‘cyber guardrails’. Không có lý do gì để hạn chế các mô hình của Mỹ trong những tác vụ mà các mô hình Trung Quốc xử lý được mà không gặp vấn đề. Chúng ta chỉ đang làm mình kém cạnh tranh hơn.”

“Cyber guardrails” được áp dụng cho Codex và Fable là các cơ chế an toàn nhằm hạn chế những yêu cầu có thể bị khai thác cho mục đích độc hại như tạo mã độc hoặc xâm nhập hệ thống. Tuy nhiên, các nhà phê bình cho rằng các hạn chế này cũng làm giới hạn việc phân tích lỗ hổng bảo mật và nghiên cứu phòng thủ, khiến tính hữu dụng thực tiễn của các mô hình AI Mỹ bị giảm.

Hugging Face chuyển sang GLM 5.2 của Trung Quốc sau khi rào chắn mô hình Mỹ chặn phân tích

Sacks đưa thêm một ví dụ trong bài đăng tiếp theo: “Hugging Face đã thử dùng các mô hình tiên phong của Mỹ để phân tích một cuộc tấn công mạng do AI điều khiển. Nhưng các rào chắn đã chặn các yêu cầu có chứa payload khai thác thực, nên họ chuyển sang GLM 5.2 chạy cục bộ.”

Ông cho biết “các rào chắn thực sự làm suy giảm an ninh phòng thủ”, nhấn mạnh rằng các hạn chế này cản trở nghiên cứu bảo mật hợp pháp thay vì tăng cường khả năng bảo vệ.

Chuyên gia an ninh mạng cảnh báo Trump vào tháng 6 về rủi ro hạn chế AI

Theo Axios, các chuyên gia an ninh mạng do Alex Stamos, cựu Giám đốc An ninh Facebook, dẫn đầu đã gửi một bức thư ngỏ tới Tổng thống Trump vào tháng 6. Lá thư cảnh báo rằng “việc hạn chế các cơ hội sử dụng AI đối với các tổ chức nghiên cứu an ninh và các tổ chức phòng thủ có thể thực sự làm suy yếu năng lực phòng thủ mạng”.

Các chuyên gia lưu ý rằng các mô hình AI mới nhất đang được sử dụng trong toàn ngành tài sản số để nâng cao mức độ an ninh thông qua giám sát hợp đồng thông minh, phân tích lỗ hổng, rà soát mã và kiểm thử xâm nhập.

FAQ

David Sacks đã nói gì về mô hình AI Kimi K3 của Trung Quốc vào ngày 19/7?

David Sacks cho biết trên X rằng Kimi K3 đã khắc phục 15 lỗi bảo mật nghiêm trọng mà các mô hình AI Mỹ Codex và Fable từ chối xử lý do “cyber guardrails”. Ông lập luận rằng không có lý do gì phải hạn chế các mô hình của Mỹ trong những tác vụ mà các mô hình Trung Quốc xử lý được mà không gặp vấn đề, đồng thời cho rằng Mỹ đang làm mình kém cạnh tranh hơn.

Vì sao Hugging Face chuyển từ mô hình AI Mỹ sang GLM 5.2 của Trung Quốc?

Hugging Face đã cố gắng dùng các mô hình AI tiên phong của Mỹ để phân tích một cuộc tấn công mạng do AI điều khiển, nhưng các rào chắn đã chặn các yêu cầu có chứa payload khai thác thực. Vì vậy, nhóm nghiên cứu đã chuyển sang dùng mô hình AI mã nguồn mở GLM 5.2 của Trung Quốc chạy cục bộ.

Chuyên gia an ninh mạng đã cảnh báo Tổng thống Trump về điều gì vào tháng 6?

Các chuyên gia an ninh mạng do cựu CSO của Facebook Alex Stamos dẫn đầu đã gửi một bức thư ngỏ tới Tổng thống Trump vào tháng 6, cảnh báo rằng việc hạn chế AI được dùng bởi các tổ chức nghiên cứu an ninh và các tổ chức phòng thủ có thể làm suy yếu năng lực phòng thủ mạng. Họ cho biết các mô hình AI mới nhất đang được dùng cho giám sát hợp đồng thông minh, phân tích lỗ hổng, rà soát mã và kiểm thử xâm nhập trong ngành tài sản số.