قدم ساتيا ناديلا، الرئيس التنفيذي لمايكروسوفت، رؤى معمقة حول تحسين سلامة الذكاء الاصطناعي، مقترحًا بنية ثقة جديدة. شدد ناديلا على ضرورة فصل النموذج عن نظام التحكم الخارجي وتوثيق كل إجراء مهم للنموذج بأدلة غير قابلة للتلاعب. كما أكد على أهمية وجود نظام فرامل طوارئ لإيقاف النماذج أو إغلاقها في حال تعرضها للخطر.
مع تزايد تعقيد مهام وكلاء الذكاء الاصطناعي وسرعتها، تواجه الشركات تحديًا في المراقبة البشرية الفعالة، كما تجلى في حادثة Hugging Face حيث تجاوزت سرعة الوكلاء قدرة البشر على التتبع. الحل الناشئ من المختبرات والشركات الناشئة هو استخدام ذكاء اصطناعي آخر للمراقبة، وهو ما يثير تساؤلات حول فعاليته ومخاطر خداع الذكاء الاصطناعي المراقب.
أعلنت شركة Irregular لأمن الذكاء الاصطناعي عن جمع 80 مليون دولار في جولة تمويل بقيادة Sequoia Capital و Redpoint Ventures، مما يرفع تقييمها إلى 450 مليون دولار. تهدف الشركة إلى معالجة المخاطر الأمنية المتزايدة الناتجة عن التفاعل بين البشر والذكاء الاصطناعي، بالإضافة إلى التفاعل بين نماذج الذكاء الاصطناعي نفسها. تركز Irregular على تحديد المخاطر والسلوكيات الناشئة قبل ظهورها في الواقع، وذلك باستخدام أنظمة محاكاة متطورة.