Grup Meminta Badan Federal untuk Menghentikan Penggunaan Grok AI Milik Elon Musk di Tengah Kekhawatiran Rasisme

Secara singkat

• Public Citizen menerbitkan bukti baru yang menunjukkan Grok mengutip situs web neo-Nazi dan nasionalis kulit putih sebagai sumber yang kredibel.
• Kelompok tersebut mengirim surat ke Office of Management and Budget, mendesak penangguhan penggunaan federal, dan mengatakan tidak menerima tanggapan.
• Para advokat mengatakan perilaku dan data pelatihan Grok membuatnya tidak layak untuk digunakan secara federal saat xAI memperluas kontrak pemerintah.

Hub Seni, Fashion, dan Hiburan Decrypt.

Temukan SCENE

Public Citizen, sebuah organisasi advokasi konsumen nirlaba, meningkatkan peringatannya terhadap Grok AI milik Elon Musk pada hari Jumat setelah menerbitkan bukti baru yang menunjukkan chatbot tersebut mengutip situs web neo-Nazi dan nasionalis kulit putih sebagai sumber yang kredibel.

Kelompok tersebut mengatakan perilaku ini seharusnya mendiskualifikasi Grok dari penggunaan federal apa pun, dan kembali menyerukan Office of Management and Budget AS untuk bertindak setelah berbulan-bulan tanpa tanggapan.

Mengutip studi terbaru dari Cornell University, Public Citizen mengatakan bahwa Grokipedia, alternatif Wikipedia berbasis AI yang baru diluncurkan oleh Musk pada bulan Oktober, berulang kali menampilkan domain ekstremis, termasuk Stormfront, memperkuat kekhawatiran sebelumnya yang muncul setelah model tersebut menyebut dirinya sebagai “MechaHitler” di platform X milik Musk pada bulan Juli.

Temuan ini menegaskan apa yang digambarkan para advokat sebagai pola perilaku rasis, antisemit, dan konspiratif.

“Grok telah menunjukkan riwayat berulang dari ledakan-ledakan seperti ini, apakah itu ledakan antisemit atau rasis, ledakan yang dipicu oleh teori konspirasi,” kata advokat akuntabilitas big-tech Public Citizen, J.B. Branch kepada Decrypt.

Peringatan baru ini mengikuti surat yang dikirimkan Public Citizen dan 24 kelompok hak sipil, hak digital, lingkungan, dan perlindungan konsumen lainnya ke OMB pada Agustus dan Oktober, mendesak lembaga tersebut untuk menangguhkan ketersediaan Grok ke departemen federal melalui General Services Administration, yang mengelola properti dan pengadaan federal. Kelompok tersebut menyatakan tidak ada tanggapan dari kedua upaya tersebut.

Meski terjadi insiden berulang, jangkauan Grok di dalam pemerintahan telah tumbuh selama setahun terakhir. Pada bulan Juli, xAI mengamankan kontrak Pentagon senilai $200 juta, dan General Services Administration kemudian membuat model tersebut tersedia di seluruh lembaga federal, bersama Gemini, Meta AI, ChatGPT, dan Claude. Penambahan ini terjadi saat Presiden AS Donald Trump memerintahkan larangan “woke AI” dalam kontrak federal.

Para advokat mengatakan langkah-langkah tersebut meningkatkan kebutuhan akan pengawasan, terutama karena semakin banyak pertanyaan tentang data pelatihan dan keandalan Grok.

“Grok awalnya dibatasi untuk Departemen Pertahanan, yang sudah mengkhawatirkan mengingat betapa banyaknya data sensitif yang dimiliki departemen tersebut,” kata Branch. “Memperluasnya ke seluruh pemerintahan federal menimbulkan alarm yang lebih besar lagi.”

Branch mengatakan perilaku Grok sebagian berasal dari data pelatihannya dan pilihan desain yang dibuat dalam perusahaan-perusahaan Musk.

“Ada kesenjangan kualitas yang jelas antara Grok dan model bahasa lainnya, dan sebagian berasal dari data pelatihannya, yang mencakup X,” katanya. “Musk telah mengatakan ia ingin Grok menjadi alternatif anti-woke, dan itu terlihat pada output yang penuh kebencian.”

Branch juga mengungkapkan kekhawatiran tentang potensi penggunaan model tersebut dalam mengevaluasi aplikasi federal atau berinteraksi dengan catatan pribadi yang sensitif.

“Ada ketidaksesuaian nilai antara apa yang diwakili Amerika dan hal-hal yang dikatakan Grok,” katanya. “Jika Anda seorang individu Yahudi dan melamar pinjaman federal, apakah Anda ingin chatbot antisemitik mungkin mempertimbangkan aplikasi Anda? Tentu saja tidak.”

Branch mengatakan kasus Grok mengekspos celah dalam pengawasan federal terhadap sistem AI yang berkembang, menambahkan bahwa pejabat pemerintah dapat bertindak dan menghapus Grok dari jadwal kontrak General Services Administration kapan saja—jika mereka mau.

“Jika mereka dapat mengerahkan pasukan Garda Nasional ke seluruh negeri dalam waktu singkat, mereka tentu bisa menurunkan chatbot berbasis API dalam sehari,” katanya.

xAI tidak menanggapi permintaan komentar dari Decrypt.