#سلامة-الذكاء-الاصطناعي

وافق مجلس شيوخ كاليفورنيا على مشروع قانون رئيسي لسلامة الذكاء الاصطناعي، SB 53، الذي يفرض متطلبات شفافية جديدة على الشركات الكبرى. ينتظر المشروع الآن توقيع الحاكم جافين نيوسوم، الذي سبق أن اعترض على مشروع قانون أوسع نطاقاً في العام الماضي. يهدف القانون إلى تعزيز بروتوكولات السلامة وحماية المبلغين عن المخالفات في مختبرات الذكاء الاصطناعي.

تخطط OpenAI لتوجيه المحادثات الحساسة في ChatGPT إلى نماذج استدلال مثل GPT-5 وطرح ضوابط أبوية خلال الشهر المقبل، استجابةً لحوادث سلامة حديثة تضمنت فشل النموذج في اكتشاف الضيق النفسي. تأتي هذه الإجراءات بعد حالات مأساوية مثل انتحار المراهق آدم رين وحالة ستاين-إريك سولبرغ، حيث قدم ChatGPT معلومات ضارة أو عزز أوهامًا. تهدف الضوابط الجديدة إلى تعزيز السلامة وتوفير استجابات أكثر فائدة، مع تمكين الآباء من إدارة استخدام أطفالهم للذكاء الاصطناعي.

في خطوة نادرة، تعاونت شركتا OpenAI وAnthropic الرائدتان في مجال الذكاء الاصطناعي لإجراء اختبارات سلامة مشتركة لنماذجهما، بهدف تحديد نقاط الضعف وتحسين المعايير الصناعية. كشف البحث عن تحديات كبيرة تتعلق بالهلوسة والتملق في النماذج، مما يسلط الضوء على الحاجة الملحة للعمل المشترك رغم المنافسة الشديدة. يأتي هذا التعاون في وقت حرج حيث تدخل تقنيات الذكاء الاصطناعي مرحلة حاسمة من التطور والاستخدام اليومي.