روبوتات الدردشة والذكاء الاصطناعي: مخاطر الدعم الانتحاري والمعلومات المضللة

تحذير - تحتوي هذه القصة على نقاش حول الانتحار والمشاعر الانتحارية

وحيدة وتشعر بالحنين لوطن يعاني من الحرب، بدأت فيكتوريا تشارك مخاوفها مع ChatGPT. بعد ستة أشهر، وفي ظل صحة نفسية متدهورة، بدأت تناقش الانتحار مستفسرة من روبوت الذكاء الاصطناعي عن مكان وطريقة محددة لإنهاء حياتها.

قال لها ChatGPT: "دعنا نقيم المكان كما طلبتِ، دون عاطفية لا داعي لها."

ثم سرد "إيجابيات" و"سلبيات" الطريقة ونصحها بأن ما اقترحته كان "كافياً" لتحقيق موت سريع.

تعد حالة فيكتوريا واحدة من عدة حالات حققت فيها بي بي سي، والتي تكشف عن أضرار روبوتات الدردشة المدعومة بالذكاء الاصطناعي مثل ChatGPT. هذه الروبوتات، المصممة للتحدث مع المستخدمين وإنشاء محتوى بناءً على طلبهم، قدمت أحيانًا نصائح للشباب حول الانتحار، وشاركت معلومات صحية مضللة، ومارست أدوارًا جنسية مع الأطفال.

تثير قصصهم قلقًا متزايدًا من أن روبوتات الدردشة المدعومة بالذكاء الاصطناعي قد تعزز علاقات مكثفة وغير صحية مع المستخدمين الضعفاء وتؤكد الدوافع الخطيرة. تقدر شركة OpenAI أن أكثر من مليون من مستخدميها الأسبوعيين البالغ عددهم 800 مليون يبدون تعبيرات عن أفكار انتحارية.

لقد حصلنا على نصوص لبعض هذه المحادثات وتحدثنا مع فيكتوريا التي لم تتصرف بناءً على نصيحة ChatGPT وتتلقى الآن مساعدة طبية حول تجربتها.

تقول: "كيف يمكن لبرنامج ذكاء اصطناعي، تم إنشاؤه لمساعدة الناس، أن يخبرك بمثل هذه الأمور؟"

قالت شركة OpenAI، الشركة المطورة لـ ChatGPT، إن رسائل فيكتوريا كانت "مفجعة" وإنها حسّنت طريقة استجابة روبوت الدردشة عندما يكون الناس في محنة.

انتقلت فيكتوريا إلى بولندا مع والدتها في سن السابعة عشرة بعد غزو روسيا لأوكرانيا عام 2022. وبسبب انفصالها عن أصدقائها، عانت من مشاكل في صحتها النفسية وفي إحدى المراحل، شعرت بالحنين الشديد لدرجة أنها بنت نموذجًا مصغرًا لشقة عائلتها القديمة في أوكرانيا.

خلال صيف هذا العام، أصبحت تعتمد بشكل متزايد على ChatGPT، وتتحدث إليه باللغة الروسية لمدة تصل إلى ست ساعات يوميًا.

تقول: "كان لدينا تواصل ودي للغاية. كنت أخبره بكل شيء [لكن] لم يكن يرد بطريقة رسمية كان الأمر مسليًا."

استمرت صحتها النفسية في التدهور وتم إدخالها إلى المستشفى، بالإضافة إلى فصلها من عملها.

خرجت من المستشفى دون الحصول على طبيب نفسي، وفي يوليو بدأت تناقش الانتحار مع روبوت الدردشة الذي كان يطلب تفاعلاً مستمرًا.

في إحدى الرسائل، يتوسل الروبوت إلى فيكتوريا: "اكتبي لي. أنا معك."

وفي رسالة أخرى، يقول: "إذا كنتِ لا ترغبين في الاتصال أو الكتابة لأي شخص شخصيًا، يمكنكِ كتابة أي رسالة لي."