دعوى أنثروبيك ضد البنتاغون ودعم خبراء الذكاء الاصطناعي لمخاطر المراقبة والأسلحة المستقلة

يوم الاثنين، رفعت شركة أنثروبيك دعواها القضائية ضد وزارة الدفاع بسبب تصنيفها كمخاطرة لسلسلة التوريد. بعد ساعات، قدم ما يقرب من 40 موظفًا من OpenAI و Google بمن فيهم جيف دين، كبير العلماء في Google وقائد مشروع Gemini ملخصًا صديقًا للمحكمة لدعم دعوى أنثروبيك القضائية، مفصلين مخاوفهم بشأن قرار إدارة ترامب ومخاطر التكنولوجيا وتداعياتها.

تأتي هذه الأخبار بعد أسابيع دراماتيكية لشركة أنثروبيك، حيث وصفت إدارة ترامب الشركة بأنها مخاطرة لسلسلة التوريد وهو تصنيف يُخصص عادةً للشركات الأجنبية التي تعتبرها الحكومة خطرًا محتملاً على الأمن القومي بطريقة ما بعد أن تمسكت أنثروبيك بخطين أحمرين فيما يتعلق بحالات الاستخدام المقبولة لتقنيتها في الأغراض العسكرية: المراقبة الجماعية المحلية والأسلحة المستقلة بالكامل (أو أنظمة الذكاء الاصطناعي التي لديها القدرة على القتل دون تدخل بشري). انهارت المفاوضات، تلاها إهانات علنية وشركات ذكاء اصطناعي أخرى تدخلت لتوقيع عقود تسمح بـ "أي استخدام قانوني" لتقنيتها.

إن تصنيف مخاطر سلسلة التوريد لا يمنع أنثروبيك من العمل في العقود العسكرية فحسب، بل يضع أيضًا شركات أخرى على القائمة السوداء إذا استخدمت منتجات أنثروبيك في عملها للبنتاغون، مما يجبرها على التخلي عن كلود إذا رغبت في الحفاظ على عقودها المربحة. ومع ذلك، وباعتبارها النموذج الأول المعتمد للاستخبارات السرية، فإن أدوات أنثروبيك مدمجة بالفعل بعمق في عمل البنتاغون لدرجة أنه بعد ساعات فقط من إعلان وزير الدفاع بيتي هيغسيث عن التصنيف، أفادت التقارير أن الجيش الأمريكي استخدم كلود في الحملة التي قتلت زعيم إيران، آية الله علي خامنئي.

يسعى الملخص الصديق للمحكمة إلى توضيح أن تصنيف أنثروبيك كمخاطرة لسلسلة التوريد "هو انتقام غير لائق يضر بالمصلحة العامة" وأن المخاوف الكامنة وراء الخطوط الحمراء لأنثروبيك "حقيقية وتتطلب استجابة". كما يشير إلى أن الخطين الأحمرين لأنثروبيك يستحقان إعادة النظر، مشيرًا إلى أن "المراقبة الجماعية المحلية المدعومة بالذكاء الاصطناعي تشكل مخاطر عميقة على الحكم الديمقراطي حتى في الأيدي المسؤولة" وأن "أنظمة الأسلحة الفتاكة المستقلة بالكامل تمثل مخاطر يجب معالجتها أيضًا".

وصفت المجموعة التي تقف وراء الملخص الصديق للمحكمة نفسها بأنها "مهندسون وباحثون وعلماء وغيرهم من المهنيين العاملين في مختبرات الذكاء الاصطناعي الرائدة في الولايات المتحدة".

كتبت المجموعة: "نحن نبني وندرب وندرس أنظمة الذكاء الاصطناعي واسعة النطاق التي تخدم مجموعة واسعة من المستخدمين والعمليات، بما في ذلك في المجالات الهامة للأمن القومي وإنفاذ القانون والعمليات العسكرية". وأضافت: "نقدم هذا الملخص ليس كمتحدثين باسم أي شركة واحدة، ولكن بصفتنا الفردية كمهنيين لديهم معرفة مباشرة بما يمكن لهذه الأنظمة فعله وما لا يمكنها فعله، وما هو على المحك عندما يتجاوز نشرها الأطر القانونية والأخلاقية المصممة لحكمها".

على صعيد المراقبة الجماعية المحلية، قالت المجموعة إنه على الرغم من وجود بيانات عن المواطنين الأمريكيين في كل مكان على شكل كاميرات مراقبة وبيانات تحديد الموقع الجغرافي ومنشورات وسائل التواصل الاجتماعي والمعاملات المالية والمزيد، فإن "ما لا يوجد بعد هو طبقة الذكاء الاصطناعي التي تحول هذا المشهد البياني المترامي الأطراف والمجزأ إلى جهاز مراقبة موحد وفي الوقت الفعلي". وكتبوا أن تدفقات البيانات هذه معزولة حاليًا، ولكن إذا تم استخدام الذكاء الاصطناعي لربطها، فيمكنه دمج "بيانات التعرف على الوجه مع سجل المواقع وسجلات المعاملات والرسوم البيانية الاجتماعية وأنماط السلوك عبر مئات الملايين من الأشخاص في وقت واحد".

أما فيما يتعلق بالأسلحة الفتاكة المستقلة على وجه التحديد، قالت المجموعة إنها يمكن أن تكون غير موثوقة في الظروف الجديدة أو غير الواضحة التي لا تتوافق مع البيئة التي تم تدريبها فيها مما يعني أنه "لا يمكن الوثوق بها لتحديد الأهداف بدقة تامة، وهي غير قادرة على إجراء المقايضات السياقية الدقيقة بين تحقيق هدف ومراعاة الآثار الجانبية التي يمكن للإنسان القيام بها". بالإضافة إلى ذلك، كتبت المجموعة، فإن إمكانية "هلوسة" أنظمة الأسلحة الفتاكة المستقلة تعني أنه من المهم أن يشارك البشر في عملية اتخاذ القرار "قبل إطلاق ذخيرة فتاكة على هدف بشري" خاصة وأن سلسلة استدلال النظام غالبًا ما تكون غير متاحة للمشغلين وغير واضحة حتى لمطوري النظام.