إندونيسيا وماليزيا تحظران Grok من xAI وسط مخاوف من صور الذكاء الاصطناعي المسيئة

أعلن مسؤولون من إندونيسيا وماليزيا عن حظر مؤقت لروبوت الدردشة Grok التابع لشركة xAI.

تُعد هذه الخطوات الأكثر صرامة حتى الآن من قبل المسؤولين الحكوميين استجابةً لفيض من الصور الجنسية المولدة بالذكاء الاصطناعي التي غالبًا ما تصور نساء وقاصرين حقيقيين، وأحيانًا تصور العنف والتي ينشرها Grok استجابةً لطلبات المستخدمين على شبكة X الاجتماعية. (تُعد X و xAI جزءًا من نفس الشركة.)

في بيان تم نشره يوم السبت مع صحيفة الغارديان ومنشورات أخرى، قالت وزيرة الاتصالات والرقميات الإندونيسية، موتيا حفيظ: "تعتبر الحكومة ممارسة التزييف العميق الجنسي غير التوافقي انتهاكًا خطيرًا لحقوق الإنسان والكرامة وأمن المواطنين في الفضاء الرقمي."

كما استدعت الوزارة، حسبما ورد، مسؤولين من X لمناقشة القضية.

ذكرت صحيفة نيويورك تايمز أن الحكومة الماليزية أعلنت حظرًا مماثلاً يوم الأحد.

تضمنت الاستجابات الحكومية المتنوعة خلال الأسبوع الماضي أمرًا من وزارة تكنولوجيا المعلومات الهندية لشركة X باتخاذ إجراءات لمنع Grok من توليد محتوى فاحش، بالإضافة إلى أمر من المفوضية الأوروبية للشركة بالاحتفاظ بجميع الوثائق المتعلقة بـ Grok، مما قد يمهد الطريق لإجراء تحقيق.

في المملكة المتحدة، صرحت هيئة تنظيم الاتصالات Ofcom بأنها "ستجري تقييمًا سريعًا لتحديد ما إذا كانت هناك مشكلات محتملة في الامتثال تستدعي التحقيق." وقال رئيس الوزراء كير ستارمر في مقابلة إن Ofcom تحظى "بدعمه الكامل لاتخاذ الإجراءات اللازمة."

وبينما يبدو أن إدارة ترامب في الولايات المتحدة تلتزم الصمت بشأن هذه القضية (إيلون ماسك، الرئيس التنفيذي لشركة xAI، هو متبرع رئيسي لترامب وقاد إدارة ترامب المثيرة للجدل لوزارة كفاءة الحكومة العام الماضي)، فقد دعا أعضاء مجلس الشيوخ الديمقراطيون شركتي آبل وجوجل إلى إزالة X من متاجر تطبيقاتهما.

استجابت xAI في البداية من خلال نشر اعتذار يبدو أنه بلسان المتحدث على حساب Grok، معترفة بأن منشورًا "انتهك المعايير الأخلاقية والقوانين الأمريكية المحتملة" المتعلقة بمواد الاعتداء الجنسي على الأطفال. وقامت لاحقًا بتقييد ميزة توليد الصور بالذكاء الاصطناعي على المشتركين المدفوعين في X، على الرغم من أن هذا التقييد لم يؤثر على تطبيق Grok نفسه، الذي لا يزال يسمح لأي شخص بتوليد الصور.

ردًا على منشور يتساءل لماذا لم تتخذ الحكومة البريطانية إجراءات ضد أدوات توليد الصور الأخرى بالذكاء الاصطناعي، كتب ماسك: "إنهم يريدون أي ذريعة للرقابة."

نُشر هذا المقال لأول مرة في 11 يناير. وقد تم تحديثه ليعكس حظر ماليزيا على Grok.