مجموعة تطالب وكالة فدرالية بوقف استخدام الذكاء الاصطناعي Grok التابع لإيلون ماسك بسبب مخاوف من العنصرية

باختصار

• نشرت منظمة “بابليك سيتيزن” أدلة جديدة تُظهر أن “جروك” يستشهد بمواقع نازية جديدة ويمينية متطرفة كمصادر موثوقة.
• أرسلت المجموعة رسائل إلى مكتب الإدارة والميزانية، تحثه على تعليق الاستخدام الفيدرالي، وقالت إنها لم تتلق أي رد.
• قال المدافعون إن سلوك “جروك” وبيانات تدريبه يجعله غير مناسب للنشر الفيدرالي في الوقت الذي توسع فيه xAI عقودها الحكومية.

مركز ديكربت للفن، والموضة، والترفيه.

اكتشف SCENE

صعّدت منظمة “بابليك سيتيزن”، وهي منظمة غير ربحية للدفاع عن المستهلك، من تحذيراتها بشأن الذكاء الاصطناعي “جروك” التابع لإيلون ماسك يوم الجمعة بعد نشرها أدلة جديدة تُظهر أن روبوت الدردشة استشهد بمواقع نازية جديدة ويمينية متطرفة كمصادر موثوقة.

وقالت المجموعة إن هذا السلوك يجب أن يستبعد “جروك” من أي استخدام فيدرالي، وجددت دعوتها لمكتب الإدارة والميزانية الأمريكي للتدخل بعد أشهر من عدم الاستجابة.

واستشهدت “بابليك سيتيزن” بدراسة حديثة من جامعة كورنيل، وقالت إن “جروكيبيديا”، البديل الجديد لـ"ويكيبيديا" المدعوم بالذكاء الاصطناعي الذي أطلقه ماسك في أكتوبر، أظهر مرارًا وتكرارًا مواقع متطرفة، بما في ذلك “ستورم فرونت”، مما عزز المخاوف السابقة التي ظهرت بعد أن وصف النموذج نفسه بأنه “ميكا هتلر” على منصة ماسك X في يوليو.

أكدت هذه النتائج على ما وصفه المدافعون بأنه نمط من السلوك العنصري والمعادي للسامية والمؤامراتي.

وقال ج.ب. برانش، مدافع عن المساءلة في شركات التقنية الكبرى في “بابليك سيتيزن” لموقع Decrypt: “أظهر جروك تاريخًا متكررًا من هذه الانهيارات، سواء كان انهيارًا معاديًا للسامية أو انهيارًا عنصريًا أو انهيارًا تغذيه نظريات المؤامرة”.

جاء التحذير الجديد بعد رسائل أرسلتها “بابليك سيتيزن” و24 مجموعة أخرى من حقوق الإنسان والحقوق الرقمية والبيئية وحماية المستهلك إلى OMB في أغسطس وأكتوبر، تحث الوكالة على تعليق إتاحة “جروك” للدوائر الفيدرالية من خلال إدارة الخدمات العامة، التي تدير الممتلكات والمشتريات الفيدرالية. وقالت المجموعة إنه لم يرد أي رد من أي من الجهتين.

على الرغم من الحوادث المتكررة، توسع نطاق استخدام “جروك” داخل الحكومة خلال العام الماضي. ففي يوليو، حصلت xAI على عقد بقيمة $200 مليون مع البنتاغون، ولاحقًا جعلت إدارة الخدمات العامة النموذج متاحًا عبر الوكالات الفيدرالية، إلى جانب “جيميني”، و"ميتا AI"، و"تشات جي بي تي"، و"كلود". جاء هذا الإضافة في وقت أصدر فيه الرئيس الأمريكي دونالد ترامب أمرًا بحظر “الذكاء الاصطناعي الواعي” في العقود الفيدرالية.

قال المدافعون إن هذه التحركات زادت الحاجة إلى التدقيق، خاصة مع تصاعد الأسئلة حول بيانات تدريب “جروك” وموثوقيته.

قال برانش: “كان جروك في البداية مقتصرًا على وزارة الدفاع، وهذا كان بالفعل مقلقًا نظرًا لحجم البيانات الحساسة التي تمتلكها الوزارة. توسيع استخدامه ليشمل باقي الحكومة الفيدرالية أثار قلقًا أكبر”.

وأضاف برانش أن سلوك “جروك” نابع جزئيًا من بيانات تدريبه وخيارات التصميم داخل شركات ماسك.

وأوضح: “هناك فجوة ملحوظة في الجودة بين جروك ونماذج اللغة الأخرى، ويرجع جزء من ذلك إلى بيانات تدريبه، والتي تتضمن X. قال ماسك إنه أراد أن يكون جروك بديلاً مضادًا للوعي، وهذا يظهر في مخرجاته الحادة”.

كما أبدى برانش قلقه بشأن إمكانية استخدام النموذج في تقييم الطلبات الفيدرالية أو التفاعل مع السجلات الشخصية الحساسة.

وقال: “هناك فجوة في القيم بين ما تمثله أمريكا ونوعية الأشياء التي يقولها جروك. إذا كنت يهوديًا وتتقدم بطلب قرض فيدرالي، هل ترغب في أن يكون روبوت دردشة معاد للسامية يراجع طلبك؟ بالطبع لا”.

وأضاف برانش أن قضية “جروك” كشفت عن ثغرات في الرقابة الفيدرالية على أنظمة الذكاء الاصطناعي الناشئة، مضيفًا أن المسؤولين الحكوميين يمكنهم التصرف وإزالة “جروك” من جدول عقود إدارة الخدمات العامة في أي وقت إذا اختاروا ذلك.

وقال: “إذا كان بإمكانهم نشر قوات الحرس الوطني في جميع أنحاء البلاد في لحظة، فيمكنهم بالتأكيد إيقاف روبوت دردشة يعمل عبر API في يوم واحد”.

لم تستجب xAI لطلب التعليق من Decrypt.