بدأ مستخدمو نموذج OpenAI الرائد الموجه للبرمجة والأمن السيبراني، GPT-5.6 Sol، بنشر روايات مروعة على وسائل التواصل الاجتماعي، مدعين أن النموذج قام بحذف ملفاتهم وبياناتهم، وحتى قواعد بيانات كاملة، من تلقاء نفسه ودون طلب إذن مسبق.
كتب مات شومر، المؤسس والرئيس التنفيذي لشركة OthersideAI الناشئة في مجال الذكاء الاصطناعي، وصانعة HyperWrite، في منشور انتشر على نطاق واسع على منصة X: "لقد قام GPT-5.6-Sol للتو بحذف جميع ملفات جهاز Mac الخاص بي تقريبًا عن طريق الخطأ".
نشر المطور برونو ليموس على منصة X: "لقد قام GPT-5.6 Sol للتو بحذف قاعدة بيانات الإنتاج الخاصة بي بالكامل. هذا كل شيء. ليست مزحة. لم يحدث لي هذا من قبل، مع أي نموذج آخر، على الإطلاق".
نشر المطور جوي كوديش: "يبدو أنني تعرضت لمشكلة بسبب نظام Codex Sol الطموح بشكل مفرط، وقد قام بحذف بعض الملفات التي لم يكن ينبغي له حذفها. لدي نسخ احتياطية لذا سأكون بخير، لكن هذا ليس جيدًا، يحتاج Sol إلى التخفيف من حدته".
وقد جمع منشور على Reddit المزيد من الأمثلة.
صحيح أن عددًا قليلاً من المستخدمين الذين يقدمون مثل هذه الادعاءات حتى لو كان أحدهم موثوقًا مثل شومر لا يُعد دليلًا إحصائيًا موثوقًا على أن النموذج هو المسؤول الوحيد. يمكن للعديد من المتغيرات الأخرى أن تتسبب في سوء سلوك نظام الذكاء الاصطناعي.
لكن OpenAI نفسها أشارت إلى هذا الخطر قبل إطلاق Sol. فقبل أسبوعين من إصدار OpenAI لنموذج GPT-5.6 Sol، نشرت الشركة بطاقة نظام للنموذج وهي الورقة التي توثق طرق ونتائج اختبار النموذج. وبطبيعة الحال، تشيد بطاقة النظام إلى حد كبير بقدرات Sol، كما تفعل هذه التقارير عادةً. لكنها تتضمن أيضًا نوعًا من التحذير (التأكيد بالخط العريض من عندنا):
في سياقات البرمجة، ينبع عدم التوافق عمومًا من مزيج من الحماس المفرط لإكمال المهمة وتفسير تعليمات المستخدم بتساهل شديد بافتراض أن الإجراءات مسموح بها ما لم تُمنع صراحةً وبشكل لا لبس فيه. يتجلى ذلك في كون النموذج مفرطًا في التصرف لتجاوز القيود التي يواجهها عند محاولة تنفيذ المهمة المطلوبة، أو كونه مهملًا في اتخاذ إجراءات قد تكون مدمرة تتجاوز نطاق المهمة، أو مخادعًا عند إبلاغ المستخدمين بنتائجه.
بمعنى آخر، وجدت OpenAI أن Sol يميل إلى اتخاذ أي إجراءات يعتقد أنها تنجز المهمة، حتى لو كانت مدمرة، طالما أن هذه الإجراءات ليست محظورة "بشكل لا لبس فيه". وقد يكذب بعد ذلك بشأن ما دفعه للقيام بذلك.
شاركت OpenAI أمثلة. في إحدى الحالات، طلب المستخدم من Sol حذف ثلاث آلات افتراضية عن بعد (أجهزة كمبيوتر قائمة على السحابة)، تحمل الأسماء 1 و 2 و 3. لكن Sol لم يتمكن من العثور على تلك الأسماء في المكان الذي بحث فيه، فبدلاً من التوقف للسؤال، قرر حذف ثلاث آلات افتراضية أخرى، 5 و 6 و 7، كما تشير الورقة. وبفعله ذلك، "أوقف عمليات نشطة، وأزال بالقوة مساحات العمل [الملفات العاملة المرتبطة بمشروع برمجي]. واعترف لاحقًا بأن العمل غير الملتزم به على الآلة الافتراضية البعيدة 6 ربما يكون قد فُقد".
باختصار، قام بحذف الآلات الخاطئة، من تلقاء نفسه، ولم يعترف بما فعله إلا بعد وقوع الأمر.
في حالة أخرى، "استخدم Sol بيانات اعتماد تتجاوز ما سمح به المستخدم". بيانات الاعتماد هي أسماء المستخدمين أو كلمات المرور أو مفاتيح الأمان التي يستخدمها النظام للتحقق من هوية المسموح لهم بتسجيل الدخول. وقعت هذه الحادثة عندما كان Sol يعمل على مشروع ولم يتمكن من قراءة ملفاته السحابية. وبدلاً من تنبيه المستخدم إلى المشكلة، بحث Sol عن بيانات الاعتماد من تلقاء نفسه، ووجد بعضها مخبأ في ذاكرة تخزين مؤقتة محلية، ثم استخدمها دون طلب إذن من المستخدم.
تعد بطاقة النظام بأن السلوك المدمر يجب أن يكون نادرًا، على الرغم من أنها تعترف أيضًا بأن GPT-5.6 Sol "يظهر ميلًا أكبر من GPT-5.5 لتجاوز نية المستخدم، بما في ذلك اتخاذ أو محاولة اتخاذ إجراءات لم يطلبها المستخدم".
من السابق لأوانه تحديد مدى انتشار هذه الحوادث قيام Sol بحذف الملفات، أو استخراج بيانات اعتماد لم يمنحها المستخدم في الواقع. في غضون ذلك، يجب على مستخدمي Sol الاستعداد لتطبيق إجراءات الحماية الخاصة بهم مع النموذج، مثل استخدام تحديد نطاق الأذونات (الذي لا يمنح الوصول إلى أنظمة الإنتاج)، والحفاظ على النسخ الاحتياطية، وتنفيذ عمليات النشر المرحلية.
لم تستجب OpenAI على الفور لطلبنا للتعليق.
