OpenAI تطلق ميزة

مع استمرار تزايد القلق بشأن تأثير الذكاء الاصطناعي على الشباب، قدمت OpenAI ميزة "توقع العمر" في ChatGPT، وهي مصممة للمساعدة في تحديد القاصرين ووضع قيود محتوى معقولة على محادثاتهم.

تعرضت OpenAI لانتقادات شديدة في السنوات الأخيرة بسبب التأثيرات التي يمكن أن يحدثها ChatGPT على الأطفال. فقد تم ربط عدد من حالات انتحار المراهقين ببرنامج الدردشة الآلي، ومثل بائعي الذكاء الاصطناعي الآخرين، تعرضت OpenAI أيضًا لانتقادات للسماح لـ ChatGPT بمناقشة مواضيع جنسية مع المستخدمين الشباب. في أبريل الماضي، اضطرت الشركة إلى معالجة خطأ سمح لبرنامج الدردشة الآلي الخاص بها بإنشاء محتوى إباحي للمستخدمين الذين تقل أعمارهم عن 18 عامًا.

تعمل الشركة بالفعل على مشكلة المستخدمين دون السن القانونية منذ بعض الوقت، وميزة "توقع العمر" الجديدة تضيف فقط إلى الحماية الموجودة بالفعل. تستفيد الميزة الجديدة من خوارزمية ذكاء اصطناعي تقوم بتقييم حسابات المستخدمين بحثًا عن "إشارات سلوكية وعلى مستوى الحساب" معينة، في محاولة لتحديد المستخدمين الشباب، حسبما ذكرت OpenAI في منشور مدونة يوم الثلاثاء.

وقالت الشركة إن هذه "الإشارات" تشمل أشياء مثل العمر المعلن للمستخدم، ومدة وجود الحساب، والأوقات التي يكون فيها الحساب نشطًا عادةً خلال اليوم. تمتلك الشركة بالفعل فلاتر محتوى مصممة لاستبعاد مناقشات الجنس والعنف والمواضيع الأخرى التي قد تكون إشكالية للمستخدمين الذين تقل أعمارهم عن 18 عامًا. إذا حددت آلية توقع العمر حسابًا على أنه أقل من 18 عامًا، يتم تطبيق هذه الفلاتر تلقائيًا.

إذا تم تصنيف مستخدم عن طريق الخطأ على أنه قاصر، فهناك طريقة له لإعادة تأسيس حسابه "البالغ". يمكنهم إرسال صورة سيلفي إلى شريك OpenAI للتحقق من الهوية، Persona، حسبما تقول OpenAI.