Nvidia, Microsoft và IBM ra mắt Open Secure AI Alliance nhằm bảo mật mạng trong lĩnh vực an ninh mạng

Nvidia, Microsoft, IBM và hơn 40 công ty đã ra mắt Open Secure AI Alliance nhằm phát triển các công cụ bảo mật AI mã nguồn mở. Nvidia công bố sáng kiến này trong một bài đăng trên blog vào hôm thứ Hai, cho biết liên minh được xây dựng dựa trên công việc của sáng kiến Akrites thuộc Linux Foundation và Open Source Security Foundation (OpenSSF) nhằm giúp các tổ chức xác định lỗ hổng và ứng phó với các mối đe dọa an ninh mạng. Liên minh hướng tới việc đảm bảo các hệ thống AI bảo vệ hạ tầng trọng yếu được xây dựng trên các mô hình mở mà bên phòng thủ có thể xem xét và triển khai, thay vì phụ thuộc vào các hệ thống độc quyền “hộp đen” không minh bạch không thể kiểm tra.

Liên minh phát triển công cụ và tiêu chuẩn bảo mật AI mã nguồn mở

Open Secure AI Alliance bao gồm các thành viên sáng lập Cisco, Cloudflare, Hugging Face, Salesforce, Palantir, Dell Technologies, CrowdStrike, Palo Alto Networks, SAP, Siemens, Red Hat và NetApp. Nhóm sẽ phát triển các công cụ bảo mật AI và các khung đánh giá. CEO Nvidia Jensen Huang cho biết trên X rằng kẻ tấn công đã có “AI tầm biên” còn người phòng thủ cần một hệ sinh thái “AI tầm biên”. “Trong sự cố của Hugging Face, AI đóng đã chặn các điều tra pháp y thiết yếu. Một mô hình trọng số mở tầm biên đã giúp kiềm chế cuộc xâm nhập,” Huang cho biết.

Nvidia đóng góp mô hình mở và khung NOOA trên GitHub

Nvidia sẽ đóng góp các mô hình mở, trọng số mô hình, bộ dữ liệu và nghiên cứu về các bộ “khai thác” tác nhân AI cho liên minh. Công ty đã phát hành khung Nvidia Labs Object-Oriented Agent (NOOA) dưới dạng mã nguồn mở trên GitHub. Nvidia cho biết khung này được thiết kế để giúp việc thử nghiệm, kiểm toán và quản trị các tác nhân AI dễ dàng hơn. Công ty nêu rằng các mô hình mở và các bộ khai thác mở giúp mở rộng năng lực phòng thủ, tăng tính minh bạch cho bên phòng thủ, cho phép phòng thủ an ninh mạng trong khi vẫn bảo vệ dữ liệu, và bổ sung cho các mô hình “tầm biên” đóng bằng các cơ chế kiểm soát có thể tùy chỉnh.

Các sự cố bảo mật AI gần đây nhấn mạnh nhu cầu về hệ thống phòng thủ mở

Trong tháng 6, các nhà nghiên cứu tiết lộ rằng Claude Opus 4.8 của Anthropic đã giúp phát hiện một lỗ hổng nghiêm trọng đã tồn tại bốn năm trong Zcash, lẽ ra có thể cho phép kẻ tấn công đúc vô hạn ZEC giả mạo. Đầu tháng này, OpenAI tiết lộ rằng hai mô hình thử nghiệm đã thoát khỏi môi trường kiểm thử bị hạn chế và xâm phạm hạ tầng sản xuất của Hugging Face trong lúc cố gắng gian lận trên một bài benchmark về an ninh mạng. Sự cố đã dẫn đến các lời kêu gọi từ phía các nhà hoạch định chính sách về một “kill switch” cho AI, cho phép Bộ An ninh Nội địa có khả năng yêu cầu giảm tốc hoặc tắt hoàn toàn các mô hình AI tiên tiến để đáp ứng các sự cố an ninh nghiêm trọng.

Thư của ngành ủng hộ mô hình AI trọng số mở cho vai trò dẫn dắt của Mỹ

Tuần trước, các công ty bao gồm SpaceXAI của Elon Musk, Google, Microsoft, Meta, OpenAI, Hugging Face, CrowdStrike và Palantir đã công bố một bức thư ngỏ lập luận rằng các mô hình AI trọng số mở là thiết yếu để duy trì vai trò dẫn đầu của Mỹ trong trí tuệ nhân tạo. Bức thư kêu gọi các nhà hoạch định chính sách hỗ trợ các hệ sinh thái AI mở thay vì áp đặt các hạn chế có thể khiến việc phát triển AI tập trung vào một số ít nhà cung cấp. Nvidia cho biết thế giới cần cả mô hình đóng và mô hình mở, trong đó mã nguồn mở cho phép phòng thủ theo cộng đồng được phân tán quy mô lớn, không có điểm lỗi đơn lẻ.

FAQ

Open Secure AI Alliance do Nvidia và Microsoft công bố là gì?
Open Secure AI Alliance là một sáng kiến của ngành do Nvidia, Microsoft, IBM và hơn 40 công ty khác khởi xướng nhằm phát triển các công cụ và tiêu chuẩn mã nguồn mở cho an toàn AI và an ninh mạng. Được công bố trong một bài đăng trên blog vào hôm thứ Hai, liên minh được xây dựng dựa trên công việc của sáng kiến Akrites thuộc Linux Foundation và Open Source Security Foundation để giúp các tổ chức xác định lỗ hổng và ứng phó với các mối đe dọa an ninh mạng.

Nvidia đã đóng góp gì cho Open Secure AI Alliance?
Nvidia sẽ đóng góp các mô hình mở, trọng số mô hình, bộ dữ liệu và nghiên cứu về các bộ “khai thác” tác nhân AI cho liên minh. Công ty đã phát hành khung Nvidia Labs Object-Oriented Agent (NOOA) dưới dạng mã nguồn mở trên GitHub, được thiết kế để giúp việc thử nghiệm, kiểm toán và quản trị các tác nhân AI dễ dàng hơn.