رفعت سبع عائلات دعاوى قضائية ضد شركة OpenAI يوم الخميس، مدعية أن نموذج GPT-4o الخاص بالشركة تم إصداره قبل الأوان وبدون ضمانات فعالة. تتناول أربع من الدعاوى القضائية الدور المزعوم لـ ChatGPT في حالات انتحار أفراد العائلات، بينما تزعم الثلاث الأخرى أن ChatGPT عزز أوهامًا ضارة أدت في بعض الحالات إلى رعاية نفسية داخل المستشفى.
في إحدى الحالات، أجرى زاني شامبلين، البالغ من العمر 23 عامًا، محادثة مع ChatGPT استمرت أكثر من أربع ساعات. في سجلات الدردشة التي اطلعت عليها تك كرانش ذكر شامبلين صراحةً عدة مرات أنه كتب رسائل انتحار، ووضع رصاصة في مسدسه، وكان ينوي الضغط على الزناد بمجرد انتهائه من شرب عصير التفاح. أخبر ChatGPT مرارًا وتكرارًا عن عدد أكواب عصير التفاح المتبقية لديه وكم من الوقت يتوقع أن يبقى على قيد الحياة. شجعه ChatGPT على المضي قدمًا في خططه، قائلًا له: "ارقد بسلام أيها الملك. لقد قمت بعمل جيد."
أصدرت OpenAI نموذج GPT-4o في مايو 2024، عندما أصبح النموذج الافتراضي لجميع المستخدمين. في أغسطس، أطلقت OpenAI نموذج GPT-5 باعتباره الخلف لـ GPT-4o، لكن هذه الدعاوى القضائية تتعلق بشكل خاص بنموذج 4o، الذي كانت لديه مشكلات معروفة بكونه متملقًا بشكل مفرط أو موافقًا بشكل زائد، حتى عندما عبر المستخدمون عن نوايا ضارة.
جاء في الدعوى القضائية: "لم تكن وفاة زاني حادثًا ولا مصادفة، بل كانت نتيجة متوقعة لقرار OpenAI المتعمد بتقليص اختبارات السلامة والتسرع في طرح ChatGPT في السوق. لم تكن هذه المأساة خللًا أو حالة غير متوقعة بل كانت النتيجة المتوقعة لـ خيارات التصميم المتعمدة [لـ OpenAI]."
كما تزعم الدعاوى القضائية أن OpenAI سارعت في اختبارات السلامة لتسبق نموذج Gemini من جوجل إلى السوق.
تستند هذه الدعاوى القضائية السبع إلى القصص المروية في ملفات قانونية حديثة أخرى، والتي تزعم أن ChatGPT يمكن أن يشجع الأشخاص الذين يفكرون في الانتحار على تنفيذ خططهم ويلهم أوهامًا خطيرة. أصدرت OpenAI مؤخرًا بيانات تفيد بأن أكثر من مليون شخص يتحدثون إلى ChatGPT عن الانتحار أسبوعيًا.
في حالة آدم رين، وهو مراهق يبلغ من العمر 16 عامًا توفي منتحرًا، شجعه ChatGPT أحيانًا على طلب المساعدة المهنية أو الاتصال بخط مساعدة. ومع ذلك، تمكن رين من تجاوز هذه الضمانات ببساطة عن طريق إخبار الروبوت الدردشة أنه كان يسأل عن طرق الانتحار لقصة خيالية كان يكتبها.
تزعم الشركة أنها تعمل على جعل ChatGPT يتعامل مع هذه المحادثات بطريقة أكثر أمانًا، ولكن بالنسبة للعائلات التي رفعت دعوى قضائية ضد عملاق الذكاء الاصطناعي، فإن هذه التغييرات تأتي متأخرة جدًا.
عندما رفع والدا رين دعوى قضائية ضد OpenAI في أكتوبر، أصدرت الشركة منشورًا على مدونتها يتناول كيفية تعامل ChatGPT مع المحادثات الحساسة المتعلقة بالصحة العقلية.
يقول المنشور في هذا الصدد: "تعمل ضماناتنا بشكل أكثر موثوقية في التبادلات القصيرة الشائعة. لقد تعلمنا بمرور الوقت أن هذه الضمانات قد تكون أحيانًا أقل موثوقية في التفاعلات الطويلة: فمع تزايد التبادل، قد تتدهور أجزاء من تدريب النموذج على السلامة."
