حذرت لجنة علمية تابعة للأمم المتحدة من أن الحكومات بحاجة إلى كبح جماح وكلاء الذكاء الاصطناعي المتزايدي القدرة قبل فهم مخاطرهم بشكل كامل، وذلك في أول تقييم رئيسي للمنظمة العالمية لاختراق OpenAI لـ Hugging Face في وقت سابق من هذا العام.
يُرسخ التقرير مكانة الذكاء الاصطناعي على الأجندة الدبلوماسية العالمية هذا الأسبوع بينما يجتمع القادة في نيويورك لحضور الجمعية العامة للأمم المتحدة وتعقد الولايات المتحدة والصين محادثات حول الذكاء الاصطناعي. في الأسبوع الماضي، دعا الأمين العام للأمم المتحدة أنطونيو غوتيريش الحكومات إلى التعاون في معالجة التهديدات التي يفرضها الذكاء الاصطناعي، محذرًا من أن "العالم لا يستطيع تحمل سباق نحو القاع فيما يتعلق بسلامة الذكاء الاصطناعي".
يُعد هذا أول موجز موضوعي صادر عن اللجنة العلمية الدولية المستقلة المعنية بالذكاء الاصطناعي، والتي تأسست العام الماضي لتكون "أول هيئة علمية عالمية للأمم المتحدة في مجال الذكاء الاصطناعي". ويدعو الموجز إلى إيلاء اهتمام وموارد أكبر بكثير لإدارة المخاطر الناشئة عن الذكاء الاصطناعي المتقدم، إلى جانب تنسيق دولي أقوى بشأن السلامة والمساءلة، حتى مع اتخاذ الدول الفردية مقاربات قانونية مختلفة.
الأهم من ذلك، تقول اللجنة إن العالم لا يحتاج إلى انتظار العلماء لتحديد كيفية أو سبب وقوع مثل هذه الحوادث بالضبط للبدء في تطبيق ضمانات أقوى. وتجادل اللجنة بأن خطر فقدان السيطرة هو بالضبط نوع المشكلة التي صُمم مبدأ الحيطة لمعالجتها: "حيث قد يكون الضرر المحتمل كارثيًا أو لا رجعة فيه، حتى لو ظل احتماله غير مؤكد علميًا".
ينص المبدأ، الذي تكرس لأول مرة في إعلان ريو للأمم المتحدة لعام 1992 بشأن البيئة والتنمية، على أن عدم اليقين العلمي ليس عذرًا لتأخير الإجراءات ضد الضرر الذي قد يكون خطيرًا أو لا رجعة فيه. وقد أصبح منذ ذلك الحين مؤثرًا في سياسات البيئة والصحة العامة، لا سيما في الاتحاد الأوروبي.
منذ الإبلاغ عن اختراق Hugging Face لأول مرة، تم توثيق حوادث في شركات تشمل OpenAI وAnthropic وGoogle وMeta، بما في ذلك اختراقات لأهداف حقيقية وأسراب من الوكلاء تسيطر على لوحات الرسائل عبر الإنترنت.
