Bộ trưởng Tài chính Hoa Kỳ và Chủ tịch Cục Dự trữ Liên bang (Fed) đã khẩn cấp triệu tập các lãnh đạo cấp cao của Phố Wall để cảnh báo về mô hình AI mới nhất của Anthropic, Mythos. Giới chức đã xác định mô hình này là rủi ro hệ thống đối với hệ thống tài chính.
Các thủ lĩnh tài chính khẩn cấp triệu tập các lãnh đạo cấp cao của Phố Wall, mối đe dọa mạng do AI tăng cấp thành rủi ro hệ thống
Theo báo cáo của Bloomberg, Bộ trưởng Tài chính Hoa Kỳ Scott Bessent và Chủ tịch Fed Jerome Powell đã khẩn cấp triệu tập các CEO ngân hàng lớn của Phố Wall tại trụ sở Bộ Tài chính ở Washington, D.C. vào tuần trước để đưa ra cảnh báo về các rủi ro an ninh mạng mà mô hình AI mới nhất của công ty Anthropic, “Claude Mythos Preview”, có thể gây ra.
Các lãnh đạo ngân hàng tham dự cuộc họp bao gồm CEO của Citigroup Jane Fraser, CEO của Morgan Stanley Ted Pick, CEO của Bank of America Brian Moynihan, CEO của Wells Fargo Charlie Scharf, và CEO của Goldman Sachs David Solomon; CEO của JPMorgan Jamie Dimon thì không thể tham dự. Tất cả các tổ chức nói trên đều được cơ quan quản lý xếp vào nhóm các tổ chức tài chính quan trọng mang tính hệ thống.
Cuộc họp lần này do chính Bộ trưởng Tài chính và Chủ tịch Fed trực tiếp tham dự, và được giới trong ngành coi là một hành động bất thường. Những lần can thiệp của chính phủ vào rủi ro AI trước đây phần lớn chỉ dừng ở các nhóm công tác cấp tổ chức; nay trực tiếp được nâng lên thành cảnh báo do chính lãnh đạo cao nhất của cơ quan tài chính đưa ra, phát đi tín hiệu rõ ràng rằng giới chức đã xếp mối đe dọa mạng do AI là rủi ro hệ thống đối với sự ổn định của hệ thống tài chính.
Khả năng của mô hình Mythos gây ấn tượng, có thể tự phát hiện hàng loạt lỗ hổng zero-day
Theo tài liệu kỹ thuật do Anthropic công bố cùng ngày, Mythos có khả năng nhận diện và khai thác lỗ hổng trong tất cả các hệ điều hành và trình duyệt web phổ biến. Ở giai đoạn thử nghiệm, mô hình này tự tìm ra hàng nghìn lỗ hổng zero-day chưa từng biết đến trước đó (zero-day vulnerabilities), trong đó có một lỗ hổng đã tồn tại suốt 27 năm trong một hệ điều hành mã nguồn mở định hướng an ninh là OpenBSD; ngoài ra, mô hình còn phát hiện một lỗ hổng trong thư viện xử lý video FFmpeg mà ngay cả khi chạy bằng các công cụ kiểm thử tự động cũng không thể phát hiện được sau 5.000.000 lần thực thi quy trình.
Các nhà nghiên cứu của Anthropic nhấn mạnh rằng khả năng phát hiện lỗ hổng của Mythos đến từ sự tiến bộ tổng thể của mô hình về viết chương trình, suy luận và tính tự chủ, chứ không phải là kết quả của việc huấn luyện có chủ đích.
Trong tuyên bố, công ty cho biết: “Khả năng làm cho mô hình hiệu quả hơn trong việc vá lỗ hổng cũng khiến nó hiệu quả hơn trong việc khai thác lỗ hổng.” Cách nói này làm nổi bật tính hai mặt của Mythos: ranh giới giữa phòng thủ và tấn công, trước các mô hình kiểu này, gần như bị xóa nhòa.
Anthropic từ chối công bố công khai, thu hẹp phạm vi truy cập bằng kế hoạch “cánh kính”
Vì năng lực quá mạnh, Anthropic quyết định không phát hành công khai Mythos ra bên ngoài, mà áp dụng chiến lược hạn chế truy cập, chỉ mở cho một số công ty hợp tác nhất định sử dụng. Đồng thời, công ty cũng công bố khởi động kế hoạch hợp tác an ninh mạng mang tính phòng thủ có tên “Project Glasswing” (kế hoạch “cánh kính”), hợp tác với hơn 40 đối tác doanh nghiệp như AWS, Apple, Cisco, Google, JPMorgan, Microsoft, Nvidia,… Mục tiêu là trước khi kẻ tấn công ra tay, chủ động tìm ra và vá các lỗ hổng trong các phần mềm then chốt.
Nguồn hình: X/@AnthropicAI Anthropic đồng bộ tuyên bố khởi động kế hoạch hợp tác an ninh mạng mang tính phòng thủ có tên “Project Glasswing” (kế hoạch “cánh kính”)
Anthropic cho biết: “Do năng lực của mô hình là rất mạnh, chúng tôi áp dụng thái độ thận trọng trong cách thức phát hành. Chúng tôi đang hợp tác với một nhóm nhỏ khách hàng truy cập sớm để thử nghiệm mô hình này và tin rằng đây là thế hệ đột phá nhất mà chúng tôi đã xây dựng đến nay.”
Công ty cũng tiết lộ rằng đã có buổi thuyết trình cho quan chức chính phủ về các kịch bản ứng dụng phòng thủ và tấn công của Mythos, đồng thời tiếp tục trao đổi với Cơ quan An ninh mạng và Cơ sở hạ tầng (CISA) của Mỹ cùng Trung tâm Đổi mới Tiêu chuẩn AI. Điểm được giới bên ngoài quan tâm sau đó tập trung vào việc cơ quan quản lý sẽ xây dựng các tiêu chuẩn thẩm định phát hành cho các mô hình tương tự như thế nào, các tổ chức tài chính nên áp dụng những biện pháp phòng vệ cụ thể nào, và liệu sự phối hợp giữa các cơ quan quản lý quốc tế có theo kịp tốc độ tiến hóa của công nghệ hay không.
Bài viết này được tổng hợp từ thông tin của nhiều bên do Agent mã hóa tạo ra, được 《加密城市》 duyệt bản thảo và biên tập; hiện vẫn đang trong giai đoạn đào tạo, có thể tồn tại sai lệch logic hoặc sai số thông tin; nội dung chỉ để tham khảo, vui lòng không coi là lời khuyên đầu tư.
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể đến từ bên thứ ba và không đại diện cho quan điểm hoặc ý kiến của Gate. Nội dung hiển thị trên trang này chỉ mang tính chất tham khảo và không cấu thành bất kỳ lời khuyên tài chính, đầu tư hoặc pháp lý nào. Gate không đảm bảo tính chính xác hoặc đầy đủ của thông tin và sẽ không chịu trách nhiệm cho bất kỳ tổn thất nào phát sinh từ việc sử dụng thông tin này. Đầu tư vào tài sản ảo tiềm ẩn rủi ro cao và chịu biến động giá đáng kể. Bạn có thể mất toàn bộ vốn đầu tư. Vui lòng hiểu rõ các rủi ro liên quan và đưa ra quyết định thận trọng dựa trên tình hình tài chính và khả năng chấp nhận rủi ro của riêng bạn. Để biết thêm chi tiết, vui lòng tham khảo
Tuyên bố miễn trừ trách nhiệm.
