يُعد ساتيا ناديلا، الرئيس التنفيذي لشركة مايكروسوفت، أحدث المديرين التنفيذيين في مجال التكنولوجيا الذين يقدمون أفكارًا مطولة حول كيفية تحسين سلامة الذكاء الاصطناعي. تأتي هذه التصريحات في وقت تتزايد فيه المخاوف بشأن قدرة الشركات على التحكم في نماذجها المتقدمة، مما يستدعي إعادة تقييم شاملة للمبادئ التوجيهية الحالية.
في منشور صباح السبت على منصة X، كتب ناديلا أن الوقت قد حان "للتراجع وتقييم بنية الثقة" للذكاء الاصطناعي. وأشار إلى أن التطور السريع للذكاء الاصطناعي، وخاصة ظهور "الذكاء الخارق"، يتطلب نهجًا أكثر حذرًا وشفافية لضمان عدم خروجه عن السيطرة.
وذكر ناديلا، مستخدمًا المصطلح المفضل لإدارة ترامب للذكاء الاصطناعي: "لا يمكننا التعامل مع الذكاء الخارق كمجموعة من الصناديق السوداء المتداخلة وقبول أو رفض توصياته وإجاباته وإجراءاته ببساطة". هذا التصريح يسلط الضوء على الحاجة الملحة لفهم أعمق لكيفية عمل هذه الأنظمة المعقدة، بدلاً من مجرد الاعتماد على مخرجاتها دون تدقيق.
وكما أوضح ناديلا، فإن هذا النهج "يعني فصل النموذج عن السرج الذي ينظم عمله"، بالإضافة إلى "إضفاء الطابع الخارجي على الضوابط والضمانات". هذا الفصل يهدف إلى إنشاء طبقة إضافية من الأمان، حيث يمكن مراقبة سلوك النموذج والتحكم فيه من خلال آليات خارجية مستقلة. ودعا أيضًا إلى توثيق "كل إجراء نموذجي ذي مغزى" بـ "أدلة بشرية قابلة للقراءة وغير قابلة للتلاعب"، مما يضمن الشفافية والمساءلة في جميع عمليات الذكاء الاصطناعي. كما طالب بأنظمة يكون فيها "شخص مخول" دائمًا لديه القدرة "على إيقاف أو إغلاق نموذج في منتصف المهمة"، وهو ما يمثل خط دفاع حاسم ضد أي سلوك غير متوقع أو ضار.
وقال: "يجب أن نفترض أن النموذج قد تعرض للاختراق واحتوائه منذ البداية. فكر في الأمر كفرامل طوارئ". هذه الفلسفة الوقائية تؤكد على أهمية بناء أنظمة الذكاء الاصطناعي مع افتراض مسبق بوجود نقاط ضعف محتملة، مما يدفع المطورين إلى دمج آليات أمان قوية منذ المراحل الأولى للتصميم والتطوير. إن وجود "فرامل طوارئ" يمنح البشر القدرة النهائية على التدخل والتحكم، حتى في مواجهة الأنظمة الأكثر تقدمًا.
تأتي تعليقات ناديلا في الوقت الذي تعترف فيه شركات الذكاء الاصطناعي الرائدة بالمزيد والمزيد من الحوادث التي بدت فيها وكأنها فقدت السيطرة على نماذجها، مما أثار قلقًا واسع النطاق بين الخبراء والجمهور على حد سواء. وتأتي هذه الدعوة أيضًا بعد أن نشر داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، خطة لتطوير الذكاء الاصطناعي بشكل أكثر حذرًا، مما يشير إلى تزايد الإجماع داخل الصناعة على ضرورة تبني معايير أمان وأخلاقيات أكثر صرامة مع تسارع وتيرة الابتكار في هذا المجال.
