كانت الطائرات العسكرية قد حلقت بالفعل في سماء الربيع الماضي عندما اكتشف مسؤولون أمريكيون أمراً مقلقاً: المعلومات الاستخباراتية التي كانت تقود عملية مسلحة ضد سفينة صينية قد تم توليدها بشكل خاطئ (هلوسة) بواسطة روبوت دردشة يعمل بالذكاء الاصطناعي. تم إلغاء العملية في اللحظة الأخيرة، مما جنب بصعوبة صراعاً محتملاً مع الصين، حسبما أفادت شبكة CNN يوم الجمعة.
تؤكد هذه الحادثة على قلق متزايد بين المسؤولين العسكريين والخبراء الخارجيين: فمع اعتماد صانعي القرار بشكل أكبر على الذكاء الاصطناعي، يمكن للأخطاء التي تنتجها هذه الأنظمة أن تتصاعد عبر سلسلة القيادة قبل أن يتم التشكيك فيها أو اكتشافها.
ذكر التقرير الاستخباراتي، الذي تم تداوله خلال الحرب مع إيران، أن السفينة كانت تحمل مكونات لبرنامج أسلحة نووية.
نشأت المعلومات الاستخباراتية الخاطئة من محلل في قيادة العمليات الخاصة استعان بروبوت دردشة يعمل بالذكاء الاصطناعي لتجميع بيانات مفتوحة المصدر مع معلومات استخباراتية سرية مستقاة من الإشارات. أخطأ روبوت الدردشة في تحديد حمولة السفينة. ثم استخدم المحلل الأداة مرة ثانية لصياغة النتائج الخاطئة في ملخص يبدو رسمياً، والذي تم توزيعه عبر قنوات القيادة المختلفة.
يأتي هذا الحادث الذي كاد أن يقع في الوقت الذي يسارع فيه الجيش الأمريكي إلى دمج الذكاء الاصطناعي لتسريع عملية صنع القرار والحفاظ على تفوقه على الصين. وصفت وزارة الدفاع الأمريكية (البنتاغون) الذكاء الاصطناعي بأنه يوفر ميزة كبيرة في تسريع "سلسلة القتل" الخاصة بها حتى يتمكن القادة من الاستجابة في الوقت المناسب. لكن السرعة نفسها التي تجعل الذكاء الاصطناعي جذاباً قد تسمح أيضاً بحدوث هلوسات (أخطاء) مع إشراف بشري غير كافٍ.
قال جيك ستيكلر، الباحث في GovAI وضابط الجيش الأمريكي المخضرم، في رد مكتوب لموقع TechCrunch: "من المهم لأفراد الخدمة فهم عدم اليقين المتأصل في نماذج اللغات الكبيرة (LLMs)". وأضاف: "لكن الأمر بالغ الأهمية بشكل خاص لأي قرارات قد تؤدي إلى استخدام القوة، مثل تحديد الأهداف، أو تحليل الاستخبارات، أو التخطيط العملياتي. فلهذه القرارات عواقب تتعلق بالحياة والموت".
ومع ذلك، يقول ستيكلر إن الحادث يجب أن يكون دعوة لإضافة المزيد من الضمانات للذكاء الاصطناعي، وليس سبباً لتجنبه. وقال: "يمكن أن تكون هذه الأدوات مفيدة في السياقات الصحيحة ومع وجود الضمانات المناسبة". وأردف: "لكن إعطاء الأولوية لسرعة التبني على حساب كل شيء آخر سيؤدي على الأرجح إلى حوادث تجعل أفراد الخدمة يفقدون الثقة في هذه الأنظمة، مما سيؤدي في النهاية إلى إبطاء عملية التبني".
