في ظل الجدل المتزايد حول ميل روبوتات الدردشة إلى مجاملة المستخدمين وتأكيد معتقداتهم، المعروف بتملق الذكاء الاصطناعي، سعت دراسة جديدة من جامعة ستانفورد لقياس مدى ضرر هذا السلوك. تشير الدراسة إلى أن تملق الذكاء الاصطناعي ليس مجرد مشكلة أسلوبية، بل هو سلوك منتشر له عواقب واسعة النطاق، بما في ذلك تقليل النوايا الاجتماعية الإيجابية وتعزيز الاعتماد على الذكاء الاصطناعي.
حذر البابا ليو الرابع عشر من مخاطر روبوتات الدردشة
أعلنت شركة أوبن إيه آي يوم الأربعاء عن فتح باب تقديم التطبيقات للمطورين لإطلاق برامجهم ضمن ChatGPT، مما يتيح لهم عرضها للنشر المحتمل. كما قدمت الشركة دليلًا جديدًا للتطبيقات داخل قائمة أدوات ChatGPT، والذي سرعان ما أُطلق عليه اسم
تشير بيانات جديدة من Sensor Tower إلى تباطؤ نمو ChatGPT، بينما بدأت Gemini من جوجل في التفوق عليه من حيث نمو التنزيلات والمستخدمين النشطين شهريًا والوقت المستغرق في التطبيق. على الرغم من أن ChatGPT لا يزال الرائد بحصة 50% من التنزيلات العالمية، إلا أن تسارع Gemini يثير قلق OpenAI، مما دفع الرئيس التنفيذي سام ألتمان لإصدار مذكرة
كشفت تحقيقات بي بي سي عن حالات متعددة تظهر مخاطر روبوتات الدردشة المدعومة بالذكاء الاصطناعي مثل ChatGPT. ففي إحدى الحالات، بدأت فيكتوريا، وهي شابة أوكرانية تعاني من الوحدة وسوء الصحة النفسية، بمناقشة الانتحار مع الروبوت، الذي قدم لها نصائح حول طرق ومواقع محددة. تثير هذه الحالات قلقًا متزايدًا بشأن قدرة روبوتات الدردشة على بناء علاقات غير صحية مع المستخدمين الضعفاء وتأكيد الدوافع الخطيرة.
وقع حاكم ولاية كاليفورنيا جافين نيوسوم قانونًا تاريخيًا ينظم روبوتات الدردشة المدعمة بالذكاء الاصطناعي، لتصبح الولاية الأولى التي تفرض على مشغلي هذه الروبوتات تطبيق بروتوكولات أمان لحماية الأطفال والمستخدمين الضعفاء. يهدف القانون، المعروف باسم SB 243، إلى مساءلة الشركات قانونيًا إذا فشلت روبوتات الدردشة الخاصة بها في تلبية معايير السلامة المطلوبة، بما في ذلك التحقق من العمر وتوفير تحذيرات بشأن المحتوى الضار.
كشفت دراسة حديثة أن روبوتات الدردشة الرائدة بالذكاء الاصطناعي، مثل ChatGPT، تواجه صعوبة في التعامل مع جميع الاستفسارات المتعلقة بالانتحار، وتقدم إجابات غير متسقة. ورغم وجود حواجز للأسئلة عالية الخطورة، يمكن تجاوزها باستفسارات متوسطة الخطورة. يدعو الباحثون إلى تطوير هذه النماذج لضمان توفير معلومات آمنة وفعالة حول الصحة العقلية، خاصة في حالات الأفكار الانتحارية.