Chúng ta nhớ về anh ấy? Các quan chức Trung Quốc xem ChatGPT như nhật ký, bất ngờ tiết lộ hành động đàn áp xuyên quốc gia và bôi nhọ bà Takashi Sano

Các quan chức Trung Quốc đã sử dụng ChatGPT như một nhật ký để vô tình vạch trần một hoạt động bí mật nhằm trấn áp và bôi nhọ Thủ tướng Nhật Bản Sanae Takaichi. Báo cáo của OpenAI chỉ ra rằng người này cũng đã sử dụng điều này để thu thập thông tin chính trị và kinh tế của Mỹ và hỏi về công nghệ hoán đổi khuôn mặt, làm nổi bật mối đe dọa của chiến tranh thông tin trong kỷ nguyên AI.

Các quan chức Trung Quốc đã sử dụng tạp chí ChatGPT để vô tình vạch trần cuộc chiến thông tin xuyên quốc gia

Nếu bạn nói với AI mọi thứ, bạn có thể làm rò rỉ bí mật quốc gia? Cuộc chiến thông tin giữa Trung Quốc nhằm đàn áp và bôi nhọ Thủ tướng Nhật Bản Sanae Takaichi xuyên biên giới đã vô tình bị phơi bày bởi việc một nhân viên thực thi pháp luật Trung Quốc sử dụng ChatGPT.

Theo báo cáo mới nhất từ OpenAI, nhân viên thực thi pháp luật Trung Quốc đã sử dụng ChatGPT làm nhật ký để trình bày chi tiết các hoạt động bí mật bị nghi ngờ là đàn áp.Hồ sơ của anh ấy trên ChatGPT cho thấy các nhà khai thác Trung Quốc đã cải trang thành các quan chức USCIS để cảnh báo những người bất đồng chính kiến Trung Quốc sống ở Hoa Kỳ rằng những tuyên bố công khai của họ đã vi phạm pháp luật.

Trong một trường hợp khác, ông mô tả một nỗ lực sử dụng các tài liệu giả mạo của Tòa án Quận Hoa Kỳ để yêu cầu xóa tài khoản mạng xã hội của những người bất đồng chính kiến.

Ngoài ra, nhân viên thực thi pháp luật Trung Quốc đã yêu cầu ChatGPT tạo ra một kế hoạch nhiều giai đoạn,Một nỗ lực đã được thực hiện để làm mất uy tín của Thủ tướng Nhật Bản khi đó là Sanae Takaichi bằng cách kích động sự tức giận trực tuyến về việc Mỹ áp đặt thuế quan đối với hàng hóa Nhật Bản.

Theo OpenAI, ChatGPT đã từ chối trả lời lệnh này vào thời điểm đó. Nhưng khi Sanae Takaichi nhậm chức vào cuối tháng Mười, các hashtag tấn công bà và phàn nàn về thuế quan của Mỹ vẫn xuất hiện trên một diễn đàn phổ biến với các nhà sáng tạo đồ họa Nhật Bản.

Nguồn: Flickr, do Focal Foto sản xuất Các quan chức Trung Quốc đã sử dụng ChatGPT làm nhật ký, vô tình phơi bày cuộc chiến thông tin xuyên quốc gia

Các quan chức Trung Quốc dựa vào ChatGPT để thu thập thông tin về các cơ quan chính phủ Mỹ

OpenAI cho biết trong báo cáo rằng khi được hỏi về các tổ chức có liên quan ở Hoa Kỳ, ChatGPT đã cung cấp các nguồn thông tin công khai về vị trí của các văn phòng chính phủ liên bang Hoa Kỳ, sự phân bố nhân viên liên bang theo tiểu bang, các diễn đàn chuyên nghiệp và trang web tìm kiếm việc làm trong các ngành kinh tế và tài chính của Hoa Kỳ.

Các nhân viên thực thi pháp luật Trung Quốc sau đó đã gửi email bằng tiếng Anh cho các quan chức chính phủ tiểu bang Hoa Kỳ và các nhà phân tích chính sách kinh doanh và tài chính, mời họ tham gia vào các cuộc tư vấn có trả tiền và cung cấp lời khuyên chiến lược cho khách hàng của họ.

Những email này thường tìm cách chuyển cuộc trò chuyện sang các nền tảng hội nghị truyền hình khác, chẳng hạn như WhatsApp, Zoom hoặc Teams.Một trong những tài khoản cũng đã tải lên thông số kỹ thuật phần cứng, yêu cầu hướng dẫn từng bước phi kỹ thuật để cài đặt phần mềm hoán đổi khuôn mặt tức thì FaceFusion.

Cuộc đấu vật AI giữa Mỹ và Trung Quốc đã tăng cường và Lầu Năm Góc đang gây áp lực lên nó

Việc phát hành OpenAI diễn ra vào thời điểm quan trọng trong cuộc chiến thống trị AI của Mỹ và Trung Quốc. Việc ứng dụng công nghệ này trên chiến trường và trên hội đồng quản trị của các công ty ở hai nền kinh tế hàng đầu thế giới sẽ là chìa khóa cho tương lai.

Bộ Quốc phòng Hoa Kỳ hiện đang rơi vào bế tắc trong các cuộc thảo luận với nhà phát triển Claude Anthropic về cách sử dụng mô hình AI của họ.

Bộ trưởng Quốc phòng Pete Hegseth đã đưa ra tối hậu thư cho Giám đốc điều hành Anthropic Dario Amodei vào thứ Sáu,Yêu cầu họ loại bỏ các hạn chế bảo mật đối với các mô hình AI hoặc có nguy cơ mất hợp đồng béo bở của Lầu Năm Góc.

Michael Horowitz, cựu quan chức Lầu Năm Góc, người tập trung vào các công nghệ mới nổi, nói với CNN rằng báo cáo của OpenAI cho thấy rõ ràng rằng Trung Quốc đang tích cực sử dụng các công cụ AI để tăng cường chiến tranh thông tin mạng.

OpenAI vẫn chưa phát hiện ra các cuộc tấn công mạng tự động và các tác nhân đe dọa sử dụng kết hợp AI

Theo CyberScoop, trong phiên hỏi đáp truyền thông,OpenAI cho biết họ vẫn chưa tìm thấy trường hợp các tác nhân đe dọa sử dụng ChatGPT để thực hiện các cuộc tấn công mạng tự động, nhưng nói thêm rằng công ty vẫn còn một số cuộc điều tra chưa khép kín đang được tiến hành.

Trong một số trường hợp, rõ ràng ChatGPT chỉ là một trong số các công cụ AI được sử dụng bởi các tác nhân đe dọa.

Trong trường hợp của một cơ quan thực thi pháp luật Trung Quốc, báo cáo tình trạng về chiến tranh thông tin được tải lên mô hình đề cập đến việc sử dụng các mô hình AI từ Trung Quốc, chẳng hạn như DeepSeek, và rất có thể tổ chức này đã sử dụng một mô hình khác để chuẩn bị cho một chiến dịch bôi nhọ Sanae Takaichi.

Đọc thêm:
Tin tặc Trung Quốc đã phát động một cuộc tấn công mạng AI quy mô lớn! Anthropic: Tốc độ và quy mô hack AI đã vượt qua hack của con người