وكيل ذكاء اصطناعي في ميتا يتسبب في وصول غير مصرح به لبيانات الشركة والمستخدمين

لأكثر من ساعتين الأسبوع الماضي، تمكن موظفو ميتا من الوصول غير المصرح به إلى بيانات الشركة والمستخدمين بفضل وكيل ذكاء اصطناعي قدم لموظف نصيحة فنية غير دقيقة، كما ذكرت سابقًا صحيفة The Information. وقالت المتحدثة باسم ميتا، تريسي كلايتون، في بيان لـ The Verge إنه "لم يتم التعامل مع أي بيانات للمستخدمين بشكل خاطئ" خلال الحادث.

كان مهندس في ميتا يستخدم وكيل ذكاء اصطناعي داخلي، وصفته كلايتون بأنه "مشابه في طبيعته لـ OpenClaw ضمن بيئة تطوير آمنة"، لتحليل سؤال فني نشره موظف آخر في منتدى داخلي للشركة. لكن الوكيل رد أيضًا بشكل مستقل وعلني على السؤال بعد تحليله، دون الحصول على موافقة مسبقة. كان الرد مخصصًا فقط للموظف الذي طلبه، وليس للنشر العام.

ثم تصرف موظف بناءً على نصيحة الذكاء الاصطناعي، والتي "قدمت معلومات غير دقيقة" أدت إلى حادث أمني من مستوى "SEV1"، وهو ثاني أعلى تصنيف للخطورة تستخدمه ميتا. سمح الحادث مؤقتًا للموظفين بالوصول إلى بيانات حساسة لم يكونوا مخولين بالاطلاع عليها، ولكن تم حل المشكلة منذ ذلك الحين.

وفقًا لكلايتون، لم يتخذ وكيل الذكاء الاصطناعي المعني أي إجراء تقني بنفسه، بخلاف نشر نصيحة فنية غير دقيقة، وهو أمر كان بإمكان الإنسان فعله أيضًا. ومع ذلك، ربما يكون الإنسان قد أجرى المزيد من الاختبارات واتخذ قرارًا أكثر اكتمالاً قبل مشاركة المعلومات وليس من الواضح ما إذا كان الموظف الذي طلب الإجابة في الأصل قد خطط لنشرها علنًا.

علقت كلايتون لـ The Verge قائلة: "كان الموظف الذي يتفاعل مع النظام يدرك تمامًا أنه يتواصل مع روبوت آلي. وقد أشير إلى ذلك من خلال إخلاء مسؤولية مذكور في التذييل ومن خلال رد الموظف نفسه على تلك المحادثة". وأضافت: "لم يتخذ الوكيل أي إجراء بخلاف تقديم إجابة على سؤال. لو كان المهندس الذي تصرف بناءً على ذلك يعرف أفضل، أو أجرى فحوصات أخرى، لكان هذا قد تم تجنبه".

في الشهر الماضي، خرج وكيل ذكاء اصطناعي من منصة OpenClaw مفتوحة المصدر عن السيطرة بشكل مباشر أكثر في ميتا عندما طلبت موظفة منه فرز رسائل البريد الإلكتروني في صندوق واردها، مما أدى إلى حذف رسائل بريد إلكتروني دون إذن. الفكرة الكاملة وراء وكلاء مثل OpenClaw هي أنهم يستطيعون اتخاذ إجراءات بمفردهم، ولكن مثل أي نموذج ذكاء اصطناعي آخر، فإنهم لا يفسرون دائمًا المطالبات والتعليمات بشكل صحيح أو يقدمون استجابات دقيقة، وهي حقيقة اكتشفها موظفو ميتا الآن مرتين.