Moonbounce تجمع 12 مليون دولار لتعزيز الإشراف على المحتوى بالذكاء الاصطناعي

عندما غادر بريت ليفنسون شركة آبل في عام 2019 لقيادة قسم نزاهة الأعمال في فيسبوك، كانت عملاقة وسائل التواصل الاجتماعي غارقة في تداعيات فضيحة كامبريدج أناليتيكا. في ذلك الوقت، اعتقد أنه يستطيع ببساطة إصلاح مشكلة الإشراف على المحتوى في فيسبوك باستخدام تكنولوجيا أفضل.

سرعان ما أدرك أن المشكلة أعمق من مجرد التكنولوجيا. فقد كان يُتوقع من المراجعين البشريين حفظ وثيقة سياسة من 40 صفحة تمت ترجمتها آليًا إلى لغتهم، على حد قوله. ثم كان لديهم حوالي 30 ثانية لكل قطعة محتوى تم الإبلاغ عنها ليقرروا ليس فقط ما إذا كان هذا المحتوى ينتهك القواعد، بل وماذا يفعلون حيال ذلك: حظره، حظر المستخدم، أو الحد من انتشاره. كانت هذه القرارات السريعة "أفضل بقليل من 50% دقة"، وفقًا لليفينسون.

"كان الأمر أشبه بقلب عملة معدنية، فيما إذا كان المراجعون البشريون يستطيعون معالجة السياسات بشكل صحيح، وهذا كان يحدث بعد أيام عديدة من وقوع الضرر على أي حال،" قال ليفنسون لـ TechCrunch.

إن هذا النوع من النهج المتأخر والتفاعلي غير مستدام في عالم يتسم بوجود جهات معادية سريعة الحركة وممولة جيدًا. وقد أدى صعود روبوتات الدردشة المدعومة بالذكاء الاصطناعي إلى تفاقم المشكلة، حيث أسفرت إخفاقات الإشراف على المحتوى عن سلسلة من الحوادث البارزة، مثل روبوتات الدردشة التي تقدم للمراهقين إرشادات حول إيذاء النفس أو صور مولدة بالذكاء الاصطناعي تتجاوز مرشحات الأمان.

قاد إحباط ليفنسون إلى فكرة "السياسة كشفرة" وهي طريقة لتحويل وثائق السياسات الثابتة إلى منطق قابل للتنفيذ والتحديث، مرتبط بشكل وثيق بالتطبيق. قادت هذه الرؤية إلى تأسيس Moonbounce، التي أعلنت يوم الجمعة أنها جمعت 12 مليون دولار في تمويل، حسبما علمت TechCrunch حصريًا. وقد شاركت في قيادة الجولة Amplify Partners و StepStone Group.

تعمل Moonbounce مع الشركات لتوفير طبقة أمان إضافية أينما يتم إنشاء المحتوى، سواء بواسطة مستخدم أو بواسطة الذكاء الاصطناعي. وقد قامت الشركة بتدريب نموذجها اللغوي الكبير الخاص بها للنظر في وثائق سياسات العميل، وتقييم المحتوى في وقت التشغيل، وتقديم استجابة في 300 مللي ثانية أو أقل، واتخاذ الإجراء. اعتمادًا على تفضيل العميل، يمكن أن يبدو هذا الإجراء كنظام Moonbounce يبطئ التوزيع بينما ينتظر المحتوى مراجعة بشرية لاحقًا، أو قد يحظر المحتوى عالي المخاطر في لحظته.

اليوم، تخدم Moonbounce ثلاثة قطاعات رئيسية: المنصات التي تتعامل مع المحتوى الذي ينشئه المستخدمون مثل تطبيقات المواعدة؛ وشركات الذكاء الاصطناعي التي تبني شخصيات أو رفقاء؛ ومولدات الصور بالذكاء الاصطناعي.

تدعم Moonbounce أكثر من 40 مليون مراجعة يومية وتخدم أكثر من 100 مليون مستخدم نشط يوميًا على المنصة، حسبما قال ليفنسون. يشمل العملاء شركة Channel AI الناشئة للرفقاء المدعومين بالذكاء الاصطناعي، وشركة Civitai لتوليد الصور والفيديو، ومنصات لعب الأدوار الشخصية Dippy AI و Moescape.

"يمكن أن يكون الأمان في الواقع ميزة للمنتج،" قال ليفنسون لـ TechCrunch. "لم يكن كذلك أبدًا لأنه دائمًا ما يكون شيئًا يحدث لاحقًا، وليس شيئًا يمكنك بناءه في منتجك بالفعل. ونرى أن عملاءنا يجدون طرقًا مثيرة للاهتمام ومبتكرة لاستخدام تقنيتنا لجعل الأمان عامل تمييز، وجزءًا من قصة منتجهم."

شرح رئيس قسم الثقة والسلامة في Tinder مؤخرًا كيف تستخدم منصة المواعدة هذه الأنواع من الخدمات المدعومة بالنماذج اللغوية الكبيرة لتحقيق تحسن بمقدار 10 أضعاف في دقة الاكتشافات.

"لطالما كان الإشراف على المحتوى مشكلة تؤرق المنصات الكبيرة عبر الإنترنت، ولكن الآن مع وجود النماذج اللغوية الكبيرة في قلب كل تطبيق، أصبح هذا التحدي أكثر صعوبة،" قال ليني بروس، الشريك العام في Amplify Partners، في بيان. "لقد استثمرنا في Moonbounce لأننا نتصور عالمًا تصبح فيه الحواجز الموضوعية في الوقت الفعلي هي العمود الفقري الممكن لكل تطبيق يعتمد على الذكاء الاصطناعي."