Claude Mythos có đe dọa an ninh tài chính? Bộ trưởng Tài chính Mỹ và Chủ tịch Cục Dự trữ Liên bang khẩn cấp họp để cảnh báo rủi ro

Bộ trưởng Tài chính Hoa Kỳ và Chủ tịch Cục Dự trữ Liên bang Mỹ (Fed) khẩn cấp triệu tập các lãnh đạo cấp cao trên Phố Wall, đưa ra cảnh báo về mô hình mới nhất của Anthropic, Mythos. Chính quyền đã phân loại mô hình này là rủi ro mang tính hệ thống đối với hệ thống tài chính.

Lãnh đạo tài chính khẩn cấp triệu tập các lãnh đạo cấp cao trên Phố Wall, mối đe dọa mạng do AI gây ra được nâng cấp lên rủi ro mang tính hệ thống

Theo báo cáo của《Bloomberg》, Bộ trưởng Tài chính Hoa Kỳ Scott Bessent và Chủ tịch Fed Jerome Powell tuần trước đã khẩn cấp triệu tập các CEO ngân hàng lớn trên Phố Wall tại trụ sở Bộ Tài chính ở Washington, D.C., để đưa ra cảnh báo về các rủi ro an ninh mạng có thể do mô hình mới nhất của công ty AI Anthropic, “Claude Mythos Preview”, gây ra.

Các lãnh đạo ngân hàng tham dự cuộc họp gồm CEO Tập đoàn Citigroup Jane Fraser, CEO Morgan Stanley Ted Pick, CEO Bank of America Brian Moynihan, CEO Wells Fargo Charlie Scharf, và CEO Goldman Sachs David Solomon; CEO JPMorgan Jamie Dimon không thể tham dự. Các tổ chức nói trên đều được cơ quan quản lý xếp vào nhóm các tổ chức tài chính có tầm quan trọng mang tính hệ thống.

Cuộc họp này do Bộ trưởng Tài chính và Chủ tịch Fed trực tiếp tham dự, được giới doanh nghiệp xem là hành động bất thường. Trong quá khứ, sự can thiệp của chính phủ đối với rủi ro AI phần lớn chỉ dừng lại ở các nhóm công tác cấp cơ quan; nay, nó đã được nâng cấp trực tiếp lên việc các lãnh đạo cao nhất của cơ quan tài chính tự mình đưa ra cảnh báo, qua đó phát đi tín hiệu rõ ràng rằng chính quyền đã định danh mối đe dọa mạng do AI là rủi ro mang tính hệ thống đối với sự ổn định của hệ thống tài chính.

Khả năng của mô hình Mythos đáng kinh ngạc, có thể tự phát hiện số lượng lớn lỗ hổng zero-day

Theo tài liệu kỹ thuật do Anthropic công bố cùng ngày, Mythos có khả năng nhận diện và khai thác lỗ hổng trong tất cả các hệ điều hành chủ đạo và trình duyệt web. Ở giai đoạn thử nghiệm, mô hình tự tìm ra hàng nghìn lỗ hổng zero-day (lỗ hổng zero-day) chưa từng được biết đến trước đó, trong đó có một lỗ hổng đã tiềm ẩn suốt 27 năm trong hệ điều hành mã nguồn mở định hướng bảo mật OpenBSD; ngoài ra, mô hình còn phát hiện một lỗ hổng trong thư viện xử lý video FFmpeg mà ngay cả khi chạy qua các công cụ kiểm thử tự động tới 5 triệu lần cũng không thể phát hiện được.

Các nhà nghiên cứu của Anthropic nhấn mạnh rằng năng lực phát hiện lỗ hổng của Mythos đến từ sự tiến bộ tổng thể của mô hình về viết chương trình, suy luận và tính tự chủ, chứ không phải kết quả của việc huấn luyện cố ý.

Trong tuyên bố, công ty cho biết: “Khả năng giúp mô hình hiệu quả hơn trong việc vá lỗ hổng cũng làm cho nó hiệu quả hơn trong việc khai thác lỗ hổng.” Cách nói này làm nổi bật tính hai mặt của Mythos: ranh giới giữa phòng thủ và tấn công gần như bị xóa nhòa trước các mô hình kiểu này.

Anthropic từ chối công bố công khai, triển khai “Kế hoạch Cánh Kính” để thu hẹp phạm vi truy cập

Bởi năng lực quá mạnh, Anthropic quyết định không công bố Mythos ra công chúng, áp dụng chiến lược giới hạn truy cập, chỉ mở cho một số công ty hợp tác nhất định sử dụng. Công ty đồng thời tuyên bố khởi động kế hoạch hợp tác an ninh mạng mang tính phòng thủ mang tên “Project Glasswing” (“Kế hoạch Cánh Kính”), phối hợp với hơn 40 đối tác doanh nghiệp như AWS, Apple, Cisco, Google, JPMorgan, Microsoft, Nvidia và các đối tác khác, với mục tiêu chủ động tìm ra và vá các lỗ hổng trong phần mềm then chốt trước khi kẻ tấn công kịp ra tay.

Nguồn hình: X/@AnthropicAI Anthropic đồng thời tuyên bố khởi động kế hoạch hợp tác an ninh mạng mang tính phòng thủ mang tên “Project Glasswing” (“Kế hoạch Cánh Kính”)

Anthropic cho biết: “Vì năng lực của mô hình là rất mạnh, nên chúng tôi áp dụng thái độ thận trọng trong cách phát hành. Chúng tôi đang hợp tác với một nhóm nhỏ khách hàng truy cập sớm để thử nghiệm mô hình này và tin rằng đây là thế hệ mang tính đột phá nhất mà chúng tôi đã xây dựng cho đến nay.”

Công ty cũng tiết lộ rằng họ đã thuyết trình cho các quan chức chính phủ về các kịch bản ứng dụng trong tấn công và phòng thủ liên quan đến Mythos, đồng thời tiếp tục duy trì trao đổi với Cơ quan An ninh mạng và Cơ sở hạ tầng (CISA) của Mỹ cùng Trung tâm Đổi mới Tiêu chuẩn AI. Điểm được giới bên ngoài tiếp tục quan tâm sẽ tập trung vào việc cơ quan quản lý sẽ đặt ra tiêu chuẩn thẩm định phát hành cho các mô hình tương tự như thế nào, các tổ chức tài chính nên thực hiện những biện pháp phòng thủ cụ thể nào, và liệu sự phối hợp giữa các cơ quan quản lý quốc tế có theo kịp tốc độ tiến hóa của công nghệ hay không.

Nội dung bài viết này được tổng hợp từ thông tin do các Agent mã hóa thu thập, được《加密城市》biên tập và hiệu đính, hiện vẫn đang ở giai đoạn huấn luyện, có thể tồn tại sai lệch về logic hoặc sai số thông tin; nội dung chỉ để tham khảo, vui lòng không coi đó là lời khuyên đầu tư.