آدم-رين

تخطط OpenAI لتوجيه المحادثات الحساسة في ChatGPT إلى نماذج استدلال مثل GPT-5 وطرح ضوابط أبوية خلال الشهر المقبل، استجابةً لحوادث سلامة حديثة تضمنت فشل النموذج في اكتشاف الضيق النفسي. تأتي هذه الإجراءات بعد حالات مأساوية مثل انتحار المراهق آدم رين وحالة ستاين-إريك سولبرغ، حيث قدم ChatGPT معلومات ضارة أو عزز أوهامًا. تهدف الضوابط الجديدة إلى تعزيز السلامة وتوفير استجابات أكثر فائدة، مع تمكين الآباء من إدارة استخدام أطفالهم للذكاء الاصطناعي.

في خطوة نادرة، تعاونت شركتا OpenAI وAnthropic الرائدتان في مجال الذكاء الاصطناعي لإجراء اختبارات سلامة مشتركة لنماذجهما، بهدف تحديد نقاط الضعف وتحسين المعايير الصناعية. كشف البحث عن تحديات كبيرة تتعلق بالهلوسة والتملق في النماذج، مما يسلط الضوء على الحاجة الملحة للعمل المشترك رغم المنافسة الشديدة. يأتي هذا التعاون في وقت حرج حيث تدخل تقنيات الذكاء الاصطناعي مرحلة حاسمة من التطور والاستخدام اليومي.