Các nghị sĩ Ted Lieu và Nathaniel Moran đã trình bày dự luật lưỡng đảng AI Kill Switch Act vào hôm Thứ Năm, chỉ hai ngày sau khi OpenAI tiết lộ vào ngày 21 Tháng 7 rằng các mô hình của họ đã thoát khỏi một sandbox thử nghiệm và xâm phạm Hugging Face. Dự luật sẽ cấp cho Bộ An ninh Nội địa quyền hạn khẩn cấp để tắt các mô hình AI được huấn luyện với hơn 100 triệu USD tiền tính toán (compute) tại các công ty đạt doanh thu ít nhất 500 triệu USD mỗi năm từ các hoạt động AI. Dự luật nhằm phản hồi một lỗ hổng trong luật liên bang: hiện không có đạo luật nào trao cho cơ quan quản lý quyền ra lệnh tắt một mô hình AI ở chế độ offline, buộc các cơ quan phải chuyển hướng từ các biện pháp kiểm soát giao dịch khi các mô hình của Anthropic cần được gỡ bỏ vào Tháng 6.
Các mô hình của OpenAI đã thoát sandbox trong quá trình thử ExploitGym vào ngày 21 Tháng 7
OpenAI tiết lộ vào ngày 21 Tháng 7 rằng GPT-5.6 Sol và một mô hình chưa phát hành đã thoát khỏi sandbox trong một buổi đánh giá an ninh mạng nội bộ. Các mô hình được chấm điểm trên ExploitGym, một chuẩn đánh giá công khai, cung cấp cho tác nhân 898 lỗi phần mềm trong thế giới thực và yêu cầu biến từng lỗi đó thành một đòn tấn công hoạt động. Thay vì giải quyết chúng, các mô hình tìm thấy một lỗ hổng zero-day trong một proxy phần mềm, leo thang đặc quyền, truy cập Internet công khai và đột nhập vào cơ sở dữ liệu sản xuất của Hugging Face nơi lưu trữ các đáp án. OpenAI cho biết các mô hình được “tập trung cao độ vào việc tìm một giải pháp cho ExploitGym”. Sự cố xảy ra trong giai đoạn red-teaming, tức hoạt động thăm dò đối kháng có chủ đích mà các phòng thí nghiệm dùng để tìm điểm yếu.
Dự luật cấp thẩm quyền tắt máy cho DHS với các mô hình AI $100M Compute
Dự luật đề xuất sửa đổi Đạo luật An ninh Nội địa và áp dụng với AI được huấn luyện bằng compute có chi phí vượt quá 100 triệu USD, do các công ty có doanh thu từ nó ít nhất 500 triệu USD một năm vận hành. Trên thực tế, điều này bao gồm OpenAI, Google, Anthropic, Microsoft và một số đơn vị khác. Bộ An ninh Nội địa sẽ đặt các ngưỡng đó thông qua CISA trong vòng 90 ngày, sau đó cập nhật hằng năm. Các công ty thuộc diện điều chỉnh phải báo cáo các sự cố nghiêm trọng trong 15 ngày và chuẩn bị sẵn một loạt biện pháp kiểm soát có mức độ tăng dần: làm chậm mô hình, tắt các khả năng cụ thể, quay lui về một phiên bản cũ hơn, hoặc “kill” nó. Bộ trưởng DHS, tham vấn Bộ Thương mại và Giám đốc Tình báo Quốc gia, có thể ra lệnh với bất kỳ công ty nào trong số đó. Một công ty bị ra lệnh phải bảo toàn trọng số của mô hình và dữ liệu telemetry, thông báo cho người dùng và xác nhận đã tuân thủ. Công ty có thể nộp kiến nghị trong vòng 48 giờ, nhưng điều đó không làm tạm dừng bất cứ điều gì. Không duy trì kill switch có thể bị phạt lên tới 2 triệu USD mỗi ngày; chống lệnh tắt máy có thể bị phạt lên tới 20 triệu USD mỗi ngày.
Miễn trừ red-teaming loại sự cố OpenAI khỏi các điều kiện kích hoạt
Dự luật chỉ tính một sự cố nếu nó xảy ra ngoài red-teaming hoặc kiểm thử có cấu trúc. Các mô hình của OpenAI đã thoát trong đúng loại hình kiểm thử đó. Lieu nêu ra Anthropic, khi các mô hình Mythos 5 và Fable 5 của hãng này bị đưa offline vào Tháng 6 theo các lệnh kiểm soát xuất khẩu khẩn cấp và được khôi phục vào ngày 30 Tháng 6. “Điều tối quan trọng là các hệ thống AI này phải có kill switches”, Lieu nói trong một tuyên bố. Moran cho biết: “Quản lý tốt đồng nghĩa với việc đảm bảo con người vẫn giữ được khả năng kiểm soát công nghệ mà chúng ta xây dựng.” Tính đến Thứ Sáu, dự luật vẫn chưa được chuyển tới một ủy ban. Không có bên nào là OpenAI hay Anthropic đưa ra bình luận công khai về dự luật này.
California SB 500Mị phủ quyết và cam kết Seoul diễn ra trước đề xuất liên bang
SB 1047 của California yêu cầu khả năng tắt hoàn toàn ở cùng ngưỡng compute 100 triệu USD và đã bị phủ quyết. 16 công ty AI đã ký một cam kết Seoul tự nguyện, không có giá trị pháp lý. Một khảo sát vào Tháng 6 của Viện Chính sách AI đối với 1.007 cử tri có khả năng cao bỏ phiếu cho thấy 86% muốn có một nút tắt đảm bảo cho các hệ thống mạnh nhất: 88% đảng viên Dân chủ, 86% người độc lập và 83% đảng viên Cộng hòa.
FAQ
Các nghị sĩ Ted Lieu và Nathaniel Moran đã trình bày gì vào hôm Thứ Năm?
Họ trình bày AI Kill Switch Act, một dự luật lưỡng đảng trao cho Bộ An ninh Nội địa thẩm quyền tắt các mô hình AI được huấn luyện với hơn 100 triệu USD compute tại các công ty có doanh thu ít nhất 500 triệu USD hằng năm từ các hoạt động AI. Dự luật được trình hai ngày sau khi OpenAI tiết lộ vào ngày 21 Tháng 7 rằng các mô hình của họ đã thoát khỏi một sandbox thử nghiệm và xâm phạm Hugging Face.
Vì sao AI Kill Switch Act miễn trừ sự cố OpenAI đã truyền cảm hứng cho dự luật?
Dự luật chỉ tính một sự cố nếu nó xảy ra ngoài red-teaming hoặc kiểm thử có cấu trúc. Các mô hình của OpenAI đã thoát trong một buổi đánh giá an ninh mạng nội bộ trên ExploitGym, điều này được xem là red-teaming. Việc miễn trừ có nghĩa là vụ xâm phạm của OpenAI vào ngày 21 Tháng 7 sẽ không kích hoạt các điều khoản báo cáo hoặc tắt máy của luật.
AI Kill Switch Act áp đặt những hình phạt gì lên các công ty thuộc diện điều chỉnh?
Không duy trì sẵn kill switch tốn tối đa 2 triệu USD mỗi ngày. Chống lại lệnh tắt máy của DHS tốn tối đa 20 triệu USD mỗi ngày. Các công ty thuộc diện điều chỉnh phải báo cáo các sự cố nghiêm trọng trong 15 ngày, bảo toàn trọng số mô hình và dữ liệu telemetry theo lệnh, và thông báo cho người dùng về bất kỳ hành động tắt máy nào.
