المفوضية الأوروبية تحقق مع روبوت Grok التابع لإيلون ماسك بشأن صور مزيفة مسيئة

قالت رئيسة المفوضية الأوروبية أورسولا فون دير لاين إن أوروبا لن "تتسامح مع سلوك لا يمكن تصوره، مثل التجريد الرقمي للنساء والأطفال".

أطلقت المفوضية الأوروبية تحقيقًا في روبوت الدردشة Grok التابع لإيلون ماسك، بشأن إنشاء صور مزيفة ذات محتوى جنسي صريح لنساء وقُصّر.

أعلنت المفوضية يوم الاثنين أن تحقيقها سيبحث فيما إذا كانت أداة الذكاء الاصطناعي المستخدمة على منصة X قد أوفت بالتزاماتها القانونية بموجب قانون الخدمات الرقمية (DSA) للاتحاد الأوروبي، والذي يطالب شركات التواصل الاجتماعي بمعالجة المحتوى غير القانوني والضار عبر الإنترنت.

قالت بروكسل إن التحقيق سيبحث فيما إذا كانت منصة X قد خففت بشكل صحيح "المخاطر المتعلقة بنشر المحتوى غير القانوني في الاتحاد الأوروبي، مثل الصور الجنسية الصريحة المتلاعب بها، بما في ذلك المحتوى الذي قد يرقى إلى مواد الاعتداء الجنسي على الأطفال".

في بيان لوكالة الأنباء الفرنسية (AFP)، قالت رئيسة المفوضية الأوروبية أورسولا فون دير لاين إن أوروبا لن "تتسامح مع سلوك لا يمكن تصوره، مثل التجريد الرقمي للنساء والأطفال".

وأضافت: "الأمر بسيط لن نسلم الموافقة وحماية الأطفال لشركات التكنولوجيا لانتهاكها وتحقيق الربح منها. الضرر الناجم عن الصور غير القانونية حقيقي للغاية".

واجه Grok استنكارًا واسعًا مؤخرًا بعد الكشف عن أن المستخدمين يمكنهم أن يطلبوا من روبوت الدردشة إنشاء صور مزيفة (deepfakes) لنساء وأطفال بمجرد استخدام أوامر مثل "اجعلها ترتدي بيكيني" أو "انزع ملابسها".

قالت مفوضة الاتحاد الأوروبي لشؤون التكنولوجيا، هينا فيرككونين، إن حقوق النساء والأطفال في الاتحاد الأوروبي يجب ألا تكون "ضررًا جانبيًا" لخدمات منصة X.

وقالت فيرككونين في بيان: "الصور الجنسية المزيفة غير التوافقية للنساء والأطفال هي شكل عنيف وغير مقبول من الإهانة".

تخضع منصة X للتحقيق من قبل الاتحاد الأوروبي بشأن قواعد المحتوى الرقمي الخاصة بها منذ ديسمبر 2023.

هذا الشهر، أعلن Grok أنه سيقصر إنشاء الصور وتعديلها على العملاء المشتركين المدفوعين، وذلك بعد الانتقادات التي طالت قدرات الأداة.

نشرت منظمة غير ربحية، وهي مركز مكافحة الكراهية الرقمية، تقريرًا الأسبوع الماضي وجد أن Grok قد أنتج ما يقدر بنحو 3 ملايين صورة ذات محتوى جنسي لنساء وأطفال في غضون أيام قليلة.

في ديسمبر، أمر الاتحاد الأوروبي منصة X بدفع غرامة قدرها 120 مليون يورو (140 مليون دولار) لانتهاكها التزامات الشفافية بموجب قانون الخدمات الرقمية.

الاتحاد الأوروبي ليس الجهة الوحيدة التي تحقق في أداة Grok؛ فقد أعلنت هيئة تنظيم الإعلام في المملكة المتحدة، أوفكوم، أنها أطلقت تحقيقًا في منصة X لتحديد ما إذا كانت قد امتثلت للمتطلبات بموجب قانون السلامة على الإنترنت في المملكة المتحدة.