أعلنت شركة Irregular لأمن الذكاء الاصطناعي يوم الأربعاء عن جمع 80 مليون دولار كتمويل جديد في جولة قادتها Sequoia Capital و Redpoint Ventures، بمشاركة من الرئيس التنفيذي لشركة Wiz، آساف رابابورت. وقال مصدر مقرب من الصفقة إن الجولة قدرت قيمة Irregular بـ 450 مليون دولار.
صرح المؤسس المشارك دان لاهف لموقع TechCrunch قائلاً: "وجهة نظرنا هي أنه قريبًا، سيأتي الكثير من النشاط الاقتصادي من التفاعل بين البشر والذكاء الاصطناعي، والتفاعل بين الذكاء الاصطناعي والذكاء الاصطناعي نفسه، وهذا سيكسر مكدس الأمان عند نقاط متعددة."
كانت Irregular تُعرف سابقًا باسم Pattern Labs، وهي بالفعل لاعب مهم في تقييمات الذكاء الاصطناعي. يُستشهد بعمل الشركة في تقييمات الأمان لنموذج Claude 3.7 Sonnet وكذلك لنماذج OpenAI o3 و o4-mini. وبشكل عام، فإن إطار عمل الشركة لتسجيل قدرة النموذج على اكتشاف الثغرات الأمنية (المسمى SOLVE) يستخدم على نطاق واسع داخل الصناعة.
بينما قامت Irregular بعمل كبير على المخاطر الحالية للنماذج، فإن الشركة تجمع التمويل بهدف تحقيق شيء أكثر طموحًا: رصد المخاطر والسلوكيات الناشئة قبل ظهورها في الواقع. وقد أنشأت الشركة نظامًا معقدًا من البيئات المحاكاة، مما يتيح اختبارًا مكثفًا للنموذج قبل إصداره.
يقول المؤسس المشارك عمر نيفو: "لدينا محاكاة شبكات معقدة حيث يتولى الذكاء الاصطناعي دور المهاجم والمدافع على حد سواء. لذلك، عندما يظهر نموذج جديد، يمكننا أن نرى أين تصمد الدفاعات وأين تفشل."
أصبح الأمن نقطة تركيز مكثف لصناعة الذكاء الاصطناعي، حيث ظهرت المزيد من المخاطر المحتملة التي تشكلها النماذج الرائدة. قامت OpenAI بتجديد إجراءاتها الأمنية الداخلية هذا الصيف، مع التركيز على التجسس الصناعي المحتمل.
في الوقت نفسه، أصبحت نماذج الذكاء الاصطناعي بارعة بشكل متزايد في العثور على ثغرات برمجية وهي قوة لها تداعيات خطيرة على كل من المهاجمين والمدافعين.
بالنسبة لمؤسسي Irregular، هذه هي أولى المشاكل الأمنية العديدة التي تسببها القدرات المتزايدة لنماذج اللغة الكبيرة.
يقول لاهف: "إذا كان هدف المختبر الرائد هو إنشاء نماذج أكثر تطوراً وقدرة بشكل متزايد، فإن هدفنا هو تأمين هذه النماذج. لكنه هدف متحرك، لذا بطبيعة الحال هناك الكثير والكثير من العمل الذي يتعين القيام به في المستقبل."