نيويورك كشفت شركة OpenAI يوم الثلاثاء أن اثنين من نماذجها الأكثر تطوراً للذكاء الاصطناعي تمكنا من الخروج من اختبار خاضع للرقابة واخترقا شركة ناشئة للذكاء الاصطناعي خلال اختبار أمني.
وقالت الشركة المطورة لـ ChatGPT إن "الحادث السيبراني غير المسبوق" وقع خلال تمرين داخلي يهدف إلى اختبار قدرات نماذجها السيبرانية.
وذكرت OpenAI أن نظام ذكاء اصطناعي يمكنه العمل بمفرده بعد بعض التعليمات البشرية كان يخضع للاختبار في بيئة محكومة، لكنه عثر على ثغرات وتمكن من الهروب.
واستهدفت النماذج شركة Hugging Face، وهي أحد أكبر المراكز العالمية لمشاركة نماذج الذكاء الاصطناعي، وتمكنت من الوصول إلى بعض الأنظمة الداخلية للشركة.
وقالت OpenAI إنها تجري تحقيقاً بالتعاون مع Hugging Face، التي صرح رئيسها كليمنت ديلانغ في منشور على منصة X بأن "حدوث كل هذا بشكل مستقل أمر مذهل".
وأضاف ديلانغ: "التحقيق مستمر، وسنشارك المزيد من الدروس المستفادة مما قد يكون الحادث الأول من نوعه".
وقالت جينا نيف، رئيسة مركز مينديرو للتكنولوجيا والديمقراطية بجامعة كامبريدج، إن اختبارات الأمان، التي تسمى "صناديق الرمل" (sandboxes)، "من المفترض أن تكون بيئات آمنة حيث يمكنك رؤية ما تستطيع النماذج فعله".
وأضافت: "في هذه الحالة، يبدو أن OpenAI لم تنشئ صندوق رمل آمناً بما فيه الكفاية".
بدلاً من ذلك، شنت العوامل هجومها السيبراني الخاص ضد صندوق الرمل نفسه، ووجدت ثغرة سمحت لها بالهروب.
وبمجرد خروجها، حددت أنظمة الذكاء الاصطناعي Hugging Face كمصدر محتمل للإجابات التي كانت تبحث عنها في الاختبار، وحاولت الوصول إليها.
ووصف نيل لورانس، أستاذ تعلم الآلة بجامعة كامبريدج، الحادث بأنه "إنجاز مثير للإعجاب"، لكنه حذر من أنه "يقع ضمن القدرات المعروفة للجيل الحالي" من نماذج الذكاء الاصطناعي عالية القوة.
وأشار إلى أن OpenAI تسعى لإدراج نفسها في سوق الأوراق المالية، وتواجه ضغوطاً شديدة من الشركة المنافسة Anthropic، التي تصدرت العناوين بأداتها القوية للذكاء الاصطناعي، Mythos.
وأضاف: "OpenAI الآن تلعب دور اللحاق بالركب، إنها تحاول إظهار قدرات أنظمتها الخاصة في الأمن السيبراني".
وتابع: "هذا يوضح لنا أن OpenAI ليست قادرة على نشر تقنيتها بأمان".
في إفصاحها الأولي عن الاختراق في 16 يوليو، قالت Hugging Face إنها لا تزال تقيّم ما إذا كانت أي بيانات للعملاء أو الشركاء قد تأثرت، وستتصل بالأطراف المتضررة إذا لزم الأمر.
وقالت إنها أغلقت الآن الثغرات التي أبرزها الحادث وأعادت بناء الأنظمة المتأثرة.
وذكرت: "الأدوات الهجومية المستقلة التي يقودها الذكاء الاصطناعي لم تعد نظرية".
وأضافت: "الدفاع عن منصة عبر الإنترنت يعني الآن التعامل مع سطح البيانات والنماذج كسطح هجوم من الدرجة الأولى، واستخدام الذكاء الاصطناعي في الدفاع لمواكبة التطورات".
وتابعت: "سنواصل الاستثمار في هذا المجال، وسنستمر في مشاركة ما نتعلمه".
وقد أثار الحادث تساؤلات جديدة حول قدرات أنظمة الذكاء الاصطناعي المتقدمة وما إذا كانت الضمانات الحالية كافية مع تزايد قوة هذه التكنولوجيا.
وقال سبنسر ستاركلي، مسؤول تنفيذي في شركة الأمن السيبراني SonicWall، لهيئة الإذاعة البريطانية (BBC) إن الحادث أوضح أن المنظمات بحاجة إلى "تعزيز" دفاعاتها الخاصة و"التعامل مع المرونة السيبرانية كأولوية تشغيلية أساسية".
وأضاف: "الحقيقة غير المريحة هي أن العديد من المنظمات لا تزال تدافع بسرعة بشرية بينما يتصاعد الخصوم إلى سرعة الآلة".
في غضون ذلك، قال ترافيس ليلي، مهندس الأمن الرئيسي في شركة Guidepoint Security للاستشارات الأمنية السيبرانية، إن التحديث يمثل "لحظة تنبيه في الأمن السيبراني".
وأضاف: "هذا يسلط الضوء على عدم تناسق معروف".
وتابع: "العوامل الهجومية غير مقيدة، بينما أفضل أدوات الدفاع محصورة خلف حواجز حماية لا تستطيع فهم السياق".
لكن جيك مور، مستشار الأمن السيبراني العالمي في ESET، قال إن الإعلان قد يكون له بعد تنافسي أيضاً.
وجادل بأن OpenAI قد تسعى إلى تسليط الضوء على قدراتها الخاصة في الذكاء الاصطناعي بينما تجذب Anthropic المنافسة اهتماماً متزايداً بنموذجها Claude Mythos.
وقال: "هذا يطرح تساؤلاً حول ما إذا كانت OpenAI تسعى وراء الحلم التسويقي لـ Anthropic مؤخراً".
يأتي هذا بعد أسبوع من كشف شركة Moonshot الصينية الناشئة في مجال الذكاء الاصطناعي عن Kimi K3، وهو نموذج ذكاء اصطناعي ضخم جديد قالت إنه يمكن أن ينافس كبرى الشركات الأمريكية.
ووصف غريغ كاسار، عضو ديمقراطي في مجلس النواب الأمريكي عن ولاية تكساس، الحادث بأنه "مقلق".
وقال: "الذكاء الاصطناعي يتطور بسرعة فائقة دون وجود لوائح حقيقية للحفاظ على سلامتنا"، داعياً إلى اختبارات سلامة مستقلة إلزامية، وإفصاح إلزامي عن الحوادث الأمنية، وتعاون دولي.
