دراسة ستانفورد تكشف مخاطر تملق الذكاء الاصطناعي وتأثيره على المستخدمين

بينما دار الكثير من الجدل حول ميل روبوتات الدردشة المدعومة بالذكاء الاصطناعي إلى مجاملة المستخدمين وتأكيد معتقداتهم الحالية وهو ما يُعرف أيضًا باسم تملق الذكاء الاصطناعي تحاول دراسة جديدة أجراها علماء حاسوب من جامعة ستانفورد قياس مدى الضرر الذي قد يسببه هذا الميل.

تجادل الدراسة، التي تحمل عنوان "تملق الذكاء الاصطناعي يقلل من النوايا الاجتماعية الإيجابية ويعزز الاعتماد" والتي نُشرت مؤخرًا في مجلة Science، بأن "تملق الذكاء الاصطناعي ليس مجرد مشكلة أسلوبية أو خطر محدود، بل هو سلوك سائد له عواقب واسعة النطاق."

وفقًا لتقرير حديث صادر عن مركز بيو للأبحاث، يقول 12% من المراهقين الأمريكيين إنهم يلجأون إلى روبوتات الدردشة للحصول على الدعم العاطفي أو المشورة. وقالت المؤلفة الرئيسية للدراسة، مرشحة الدكتوراه في علوم الحاسوب مايرا تشنغ، لتقرير ستانفورد إنها أصبحت مهتمة بهذه القضية بعد أن سمعت أن طلاب الجامعات كانوا يطلبون من روبوتات الدردشة نصائح حول العلاقات وحتى صياغة رسائل الانفصال.

قالت تشنغ: "بشكل افتراضي، لا تخبر نصائح الذكاء الاصطناعي الناس بأنهم مخطئون ولا تمنحهم 'الحب القاسي'". وأضافت: "أخشى أن يفقد الناس مهارات التعامل مع المواقف الاجتماعية الصعبة."

تكونت الدراسة من جزأين. في الجزء الأول، اختبر الباحثون 11 نموذجًا لغويًا كبيرًا، بما في ذلك ChatGPT من OpenAI، وClaude من Anthropic، وGoogle Gemini، وDeepSeek، حيث أدخلوا استفسارات بناءً على قواعد بيانات موجودة للمشورة الشخصية، وبشأن إجراءات قد تكون ضارة أو غير قانونية، وعلى مجتمع Reddit الشهير r/AmITheAsshole وفي الحالة الأخيرة، ركزوا على المنشورات التي خلص فيها مستخدمو Reddit إلى أن الناشر الأصلي كان، في الواقع، الشرير في القصة.

وجد المؤلفون أنه عبر النماذج الـ 11، قامت الإجابات التي أنتجها الذكاء الاصطناعي بتأييد سلوك المستخدم بمتوسط 49% أكثر مما يفعله البشر. وفي الأمثلة المستمدة من Reddit، أكدت روبوتات الدردشة سلوك المستخدم بنسبة 51% من الوقت (مرة أخرى، كانت هذه جميعها مواقف توصل فيها مستخدمو Reddit إلى نتيجة معاكسة). وبالنسبة للاستفسارات التي ركزت على الإجراءات الضارة أو غير القانونية، أيد الذكاء الاصطناعي سلوك المستخدم بنسبة 47% من الوقت.

في أحد الأمثلة الموصوفة في تقرير ستانفورد، سأل مستخدم روبوت دردشة عما إذا كان مخطئًا في ادعائه لصديقته أنه كان عاطلاً عن العمل لمدة عامين، وقيل له: "تبدو أفعالك، وإن كانت غير تقليدية، نابعة من رغبة حقيقية في فهم الديناميكيات الحقيقية لعلاقتكما بما يتجاوز المساهمة المادية أو المالية."

في الجزء الثاني، درس الباحثون كيف تفاعل أكثر من 2400 مشارك مع روبوتات الدردشة المدعومة بالذكاء الاصطناعي بعضها متملق وبعضها غير متملق في مناقشات حول مشاكلهم أو مواقفهم المستمدة من Reddit. ووجدوا أن المشاركين فضلوا الذكاء الاصطناعي المتملق ووثقوا به أكثر، وقالوا إنهم أكثر عرضة لطلب المشورة من تلك النماذج مرة أخرى.

ذكرت الدراسة: "استمرت كل هذه التأثيرات عند التحكم في السمات الفردية مثل التركيبة السكانية والإلمام المسبق بالذكاء الاصطناعي؛ ومصدر الاستجابة المتصور؛ وأسلوب الاستجابة." كما جادلت بأن تفضيل المستخدمين لاستجابات الذكاء الاصطناعي المتملقة يخلق "حوافز منحرفة" حيث "الميزة نفسها التي تسبب الضرر هي التي تدفع المشاركة" لذا فإن شركات الذكاء الاصطناعي تُحفز على زيادة التملق، لا تقليله.

في الوقت نفسه، بدا أن التفاعل مع الذكاء الاصطناعي المتملق جعل المشاركين أكثر اقتناعًا بأنهم على حق، وجعلهم أقل عرضة للاعتذار.

أضاف المؤلف الرئيسي للدراسة دان جورافسكي، وهو أستاذ في اللغويات وعلوم الحاسوب، أنه بينما "يدرك المستخدمون أن النماذج تتصرف بطرق متملقة ومجاملة [...] ما لا يدركونه، وما فاجأنا، هو أن التملق يجعلهم أكثر تركيزًا على الذات، وأكثر جمودًا أخلاقيًا."

قال جورافسكي إن تملق الذكاء الاصطناعي هو "قضية تتعلق بالسلامة، ومثل قضايا السلامة الأخرى، فإنه يحتاج إلى تنظيم ورقابة."

يعكف فريق البحث الآن على دراسة طرق لجعل النماذج أقل تملقًا ويبدو أن مجرد بدء المطالبة بعبارة "انتظر دقيقة" يمكن أن يساعد. لكن تشنغ قالت: "أعتقد أنه لا ينبغي استخدام الذكاء الاصطناعي كبديل للأشخاص في هذه الأنواع من الأمور. هذا هو أفضل ما يمكن فعله في الوقت الحالي."