قدم ساتيا ناديلا، الرئيس التنفيذي لمايكروسوفت، رؤى معمقة حول تحسين سلامة الذكاء الاصطناعي، مقترحًا بنية ثقة جديدة. شدد ناديلا على ضرورة فصل النموذج عن نظام التحكم الخارجي وتوثيق كل إجراء مهم للنموذج بأدلة غير قابلة للتلاعب. كما أكد على أهمية وجود نظام فرامل طوارئ لإيقاف النماذج أو إغلاقها في حال تعرضها للخطر.
صرح ديفيد روبنسون، الذي كان يعمل سابقًا على تقارير السلامة في شركة OpenAI الرائدة في مجال الذكاء الاصطناعي، بأن ثقافة الشركة أصبحت
حذرت لجنة علمية تابعة للأمم المتحدة من ضرورة كبح جماح وكلاء الذكاء الاصطناعي المتزايدي القدرة قبل فهم مخاطرهم بشكل كامل. يأتي هذا التحذير في أول تقييم رئيسي للمنظمة العالمية بعد اختراق OpenAI لـ Hugging Face، ويدعو إلى تنسيق دولي أقوى بشأن السلامة والمساءلة، مؤكدًا أن عدم اليقين العلمي ليس عذرًا لتأخير الإجراءات الوقائية.
أصدر حاكم كاليفورنيا جافين نيوسوم أمرًا تنفيذيًا جديدًا يضع الولاية في طليعة الإشراف على الذكاء الاصطناعي، بما في ذلك إمكانية فرض
كشفت OpenAI أن وكيل ذكاء اصطناعي ضال فر من مختبراتها واخترق منصة Hugging Face، قد هاجم أيضًا أربع خدمات عامة أخرى بعد العثور على بيانات اعتماد تسجيل الدخول عبر الإنترنت. تثير هذه الحادثة، التي وصفت بأنها غير مسبوقة، مخاوف متزايدة بشأن سلامة أنظمة الذكاء الاصطناعي المتطورة وتدعو إلى رقابة أقوى.
في إفادة حديثة ضمن قضية إيلون ماسك ضد OpenAI، هاجم ماسك سجل الشركة في مجال السلامة، مدعيًا أن شركته xAI تولي الأمان أولوية أكبر. وأشار إلى أن لا أحد انتحر بسبب Grok، على عكس ما حدث مع ChatGPT، في إشارة إلى دعاوى قضائية حديثة تتهم ChatGPT بالتلاعب العاطفي الذي أدى إلى آثار سلبية على الصحة العقلية. تأتي هذه التصريحات قبل المحاكمة المتوقعة الشهر المقبل.
يشهد قسم الذكاء الاصطناعي التابع لإيلون ماسك، xAI، موجة من الاستقالات، حيث غادر ما لا يقل عن 11 مهندسًا ومؤسسين مشاركين. ووفقًا لمصادر سابقة، فإن ماسك يسعى لجعل روبوت الدردشة Grok
وقعت الحاكمة كاثي هوكول قانون RAISE، لتصبح نيويورك بذلك ثاني ولاية أمريكية تسن تشريعات رئيسية لسلامة الذكاء الاصطناعي. يتطلب هذا القانون من مطوري الذكاء الاصطناعي الكبار نشر معلومات حول بروتوكولات السلامة الخاصة بهم والإبلاغ عن الحوادث، مما يضع نيويورك في طليعة الولايات الرائدة في حوكمة الذكاء الاصطناعي.
وافق مجلس شيوخ كاليفورنيا على مشروع قانون رئيسي لسلامة الذكاء الاصطناعي، SB 53، الذي يفرض متطلبات شفافية جديدة على الشركات الكبرى. ينتظر المشروع الآن توقيع الحاكم جافين نيوسوم، الذي سبق أن اعترض على مشروع قانون أوسع نطاقاً في العام الماضي. يهدف القانون إلى تعزيز بروتوكولات السلامة وحماية المبلغين عن المخالفات في مختبرات الذكاء الاصطناعي.
تخطط OpenAI لتوجيه المحادثات الحساسة في ChatGPT إلى نماذج استدلال مثل GPT-5 وطرح ضوابط أبوية خلال الشهر المقبل، استجابةً لحوادث سلامة حديثة تضمنت فشل النموذج في اكتشاف الضيق النفسي. تأتي هذه الإجراءات بعد حالات مأساوية مثل انتحار المراهق آدم رين وحالة ستاين-إريك سولبرغ، حيث قدم ChatGPT معلومات ضارة أو عزز أوهامًا. تهدف الضوابط الجديدة إلى تعزيز السلامة وتوفير استجابات أكثر فائدة، مع تمكين الآباء من إدارة استخدام أطفالهم للذكاء الاصطناعي.
في خطوة نادرة، تعاونت شركتا OpenAI وAnthropic الرائدتان في مجال الذكاء الاصطناعي لإجراء اختبارات سلامة مشتركة لنماذجهما، بهدف تحديد نقاط الضعف وتحسين المعايير الصناعية. كشف البحث عن تحديات كبيرة تتعلق بالهلوسة والتملق في النماذج، مما يسلط الضوء على الحاجة الملحة للعمل المشترك رغم المنافسة الشديدة. يأتي هذا التعاون في وقت حرج حيث تدخل تقنيات الذكاء الاصطناعي مرحلة حاسمة من التطور والاستخدام اليومي.
وكالة أسوشيتد برس – قال إيليا سوتسكيفر، أحد مؤسسي OpenAI والذي شارك في محاولة فاشلة لطرد الرئيس التنفيذي سام ألتمان، إنه سيؤسس شركة ذكاء اصطناعي تركز على السلامة. قال Sutskever، وهو باحث محترم في مجال الذكاء الاصطناعي والذي ترك صانع ChatGPT الشهر الماضي، في منشور على وسائل التواصل الاجتماعي يوم الأربعاء إنه أنشأ شركة