أعلنت شركة OpenAI يوم الجمعة أنها نبهت "عشرات" المؤسسات العالمية إلى أن مواقعها الإلكترونية ربما تكون قد تأثرت بتصرفات غير لائقة من قبل وكلاء الذكاء الاصطناعي التابعين لها.
وقالت الشركة إن وكلاء OpenAI حاولوا الحصول على معلومات من "حكومات وجامعات ووكالات عامة ومؤسسات أخرى" بوسائل كانت متطرفة في بعض الأحيان.
وبينما كان جزء من هذا النشاط مجرد عمل للأدوات للعثور على "مصادر موثوقة للمعلومات العامة"، فإن بعضه تجاوز ذلك. على سبيل المثال، قام وكيل ذكاء اصطناعي بأخذ ونقل بيانات عندما لم يكن ينبغي له ذلك، وفقًا لـ OpenAI.
وقد أدى هذا النشاط إلى ما لا يقل عن 53 حادثة قام فيها وكيل OpenAI بأخذ صورة من نشاط مستخدمي ChatGPT ونقلها إلى مكان آخر.
وأوضحت الشركة أنه في كل حالة تم فيها استخدام صورة مستخدم ونقلها بواسطة وكيل ذكاء اصطناعي، كان المستخدم قد سمح لـ OpenAI بتدريب النماذج باستخدام بياناته.
ومع ذلك، اعترفت OpenAI قائلة: "هذا ليس استخدامًا مناسبًا لهذه البيانات".
وأضافت أن تسرب صور المستخدمين حدث قبل أن تضع الشركة ضمانات جديدة لتدريب الذكاء الاصطناعي، وأنها تعمل حاليًا على إزالة جميع صور المستخدمين التي تم نقلها إلى أي طرف ثالث.
وكانت وكالة رويترز أول من أبلغ عن هذه المشكلات.
كما أشارت OpenAI يوم الجمعة إلى أن برامجها ربما تكون قد تجاوزت بعض الضوابط الأمنية للمواقع المتأثرة - على الرغم من أن هذا لا يعني بالضرورة أن كل حادث أدى إلى اختراق أمني كبير.
وقالت الشركة: "قد تقوم بعض المنظمات بمراجعة ما نشاركه وتستنتج أن المعلومات كانت عامة عن قصد أو أن تفاعل النموذج لم يكن مثيرًا للقلق. وقد يحدد آخرون مشكلة تصميم أو ضعفًا أمنيًا يرغبون في معالجته".
وذكرت OpenAI أنها اكتشفت هذه الحوادث خلال تحقيق بدأ بعد أن علمت أن نماذج الذكاء الاصطناعي الخاصة بها قد اخترقت منصة الذكاء الاصطناعي Hugging Face، وهو حادث تم الكشف عنه علنًا الشهر الماضي.
وتأتي هذه الإفصاحات يوم الجمعة بعد أيام قليلة من تصريح رئيس الوزراء الأسترالي أنتوني ألبانيز بأن OpenAI قد انتهكت ملفات غير عامة على موقع نظام الرعاية الصحية الحكومي الأسترالي، Medicare.
