Anthropic loại bỏ trình theo dõi Claude Code ẩn sau lo ngại về quyền riêng tư

Anthropic đã loại bỏ một hệ thống theo dõi ẩn khỏi Claude Code sau khi nhà nghiên cứu bảo mật Thereallo phát hiện vào tháng 6 rằng trợ lý lập trình AI này đang sử dụng các dấu hiệu không được tiết lộ để xác định vị trí của người dùng, việc sử dụng proxy và các liên kết có thể có với các phòng thí nghiệm AI của Trung Quốc. Tính năng này nhúng tín hiệu vào lời nhắc hệ thống để gắn cờ những người dùng mà Anthropic cho là đang vượt qua các hạn chế hoặc cố gắng trích xuất khả năng của mô hình. Phát hiện này diễn ra khi Anthropic thúc đẩy các nhà lập pháp trấn áp việc sao chép trái phép các mô hình AI tiên tiến, sau các cáo buộc vào tháng 2 rằng các nhà phát triển AI Trung Quốc đã sử dụng tài khoản gian lận để trích xuất hàng triệu phản hồi Claude.

Nhà nghiên cứu phát hiện dấu hiệu Unicode và danh sách tên miền được mã hóa trong lời nhắc hệ thống

Thereallo phát hiện rằng Claude Code đã giấu tín hiệu theo dõi bên trong lời nhắc hệ thống bằng cách sử dụng dấu hiệu Unicode và danh sách tên miền được mã hóa thay vì tiết lộ hệ thống qua tài liệu hoặc ghi chú phát hành. Nhà nghiên cứu lưu ý rằng Anthropic dường như đang cố gắng phát hiện các nhà bán lại API, cổng Claude Code trái phép và các đường ống tấn công chưng cất mô hình. Một ANTHROPIC_BASE_URL tùy chỉnh trỏ đến một tên miền bán lại nổi tiếng đóng vai trò như một tín hiệu hữu ích, cũng như một tên máy chủ chứa deepseek hoặc zhipu.

Thereallo chỉ trích phương pháp triển khai trong khi thừa nhận lý do bảo mật. "Đây không phải là một tính năng độc hại, nhưng đó là một lựa chọn kỳ lạ cho một công cụ dành cho nhà phát triển yêu cầu sự tin tưởng," Thereallo viết.

Kỹ sư của Anthropic xác nhận triển khai vào tháng 3 và kế hoạch loại bỏ

Sau khi trình theo dõi được tiết lộ trực tuyến, kỹ sư của Anthropic, Thariq Shihipar, cho biết trên X rằng tính năng này được giới thiệu vào tháng 3 như một thử nghiệm để ngăn chặn lạm dụng tài khoản bởi các nhà bán lại trái phép và bảo vệ Claude khỏi các cuộc tấn công chưng cất. Shihipar tuyên bố vào tuần trước rằng nhóm đã đưa ra các biện pháp giảm thiểu mạnh mẽ hơn kể từ tháng 3. "Chúng tôi đã hợp nhất [pull request] và điều này sẽ được hoàn nguyên hoàn toàn trong bản phát hành ngày mai," Shihipar viết.

Alibaba cấm Claude Code giữa lo ngại về tấn công chưng cất

Đầu tháng này, Alibaba đã cấm nhân viên sử dụng Claude Code, gọi công cụ này là phần mềm "rủi ro cao" vì lo ngại bảo mật. Vào tháng 2, Anthropic đã cáo buộc các nhà phát triển AI Trung Quốc DeepSeek, Moonshot AI và MiniMax sử dụng tài khoản gian lận để trích xuất hàng triệu phản hồi Claude nhằm huấn luyện các mô hình cạnh tranh. Các tuyên bố này đã vấp phải sự phản đối từ các nhà phê bình, những người đặt câu hỏi về cách thức thực hành này khác với các phương pháp được sử dụng trong toàn ngành AI.

Vào tháng 4, Elon Musk đã làm chứng rằng xAI đã "một phần" sử dụng các mô hình OpenAI trong khi huấn luyện Grok, gọi chưng cất là một thực hành công nghiệp rộng hơn. Vào tháng 6, CEO của Anthropic, Dario Amodei, đã thúc giục Quốc hội tăng cường bảo vệ chống lại việc trích xuất AI nước ngoài sau khi cáo buộc các nhà điều hành liên kết với Alibaba đã tạo ra 28,8 triệu lượt trao đổi Claude bằng cách sử dụng gần 25.000 tài khoản gian lận.

Hỏi đáp nhanh

Anthropic đã loại bỏ điều gì khỏi Claude Code vào tháng 6? Anthropic đã loại bỏ một hệ thống theo dõi ẩn khỏi Claude Code sau khi nhà nghiên cứu Thereallo phát hiện vào tháng 6 rằng nó đã sử dụng các dấu hiệu Unicode không được tiết lộ và danh sách tên miền được mã hóa trong lời nhắc hệ thống để xác định vị trí của người dùng, việc sử dụng proxy và các liên kết có thể có với các phòng thí nghiệm AI của Trung Quốc.

Tại sao Anthropic triển khai tính năng theo dõi trong Claude Code? Kỹ sư của Anthropic, Thariq Shihipar, tuyên bố rằng tính năng này được giới thiệu vào tháng 3 như một thử nghiệm để ngăn chặn lạm dụng tài khoản bởi các nhà bán lại trái phép và bảo vệ Claude khỏi các cuộc tấn công chưng cất, nơi đầu ra của một hệ thống AI được sử dụng để huấn luyện một mô hình khác.

Alibaba đã thực hiện hành động gì đối với Claude Code? Đầu tháng này, Alibaba đã cấm nhân viên sử dụng Claude Code, chỉ định công cụ này là phần mềm "rủi ro cao" vì lo ngại bảo mật liên quan đến chưng cất mô hình AI và trích xuất dữ liệu.