الاتجاه الكبير في عالم الروبوتات هو تسليم زمام الأمور لنماذج الذكاء الاصطناعي التوليدي، لكن هذا يجلب معه مشكلة: فبنية هذه النماذج ليست قابلة للتنبؤ بالطريقة التي تعمل بها الخوارزميات التقليدية. كيف يمكنك التأكد من أن روبوتك البشري الجديد سيكون آمنًا؟
الدكتور دينغ تشاو، الذي يدير مختبر الذكاء الاصطناعي الآمن في جامعة كارنيجي ميلون، يعمل على هذه المشكلة طوال مسيرته المهنية تقريبًا. والآن، بالتعاون مع المدير التنفيذي المخضرم للشركات الناشئة كايل وونغ ومهندس التعلم الآلي سيمو رشيدي، أسس شركة Safeworld بهدف حل هذه المعضلة.
يقول تشاو: "تحدي السلامة الذي نتحدث عنه هو مزيج من أمرين، أولاً، تقييمات احتمالية متقدمة جدًا للذكاء الاصطناعي التوليدي كيف يمكنك ضمان مخاطر نظام احتمالي؟" ويضيف: "الجزء الثاني الصعب حقًا هو جزء الثقة، وأنت بحاجة إلى كليهما لنشر الروبوت".
تخرج Safeworld اليوم من مرحلة التخفي بجولة تمويل تأسيسية تزيد عن 12 مليون دولار، بقيادة Shine Capital و a16z Speedrun، مع استثمارات إضافية من Box Group، ووقف جامعة كارنيجي ميلون، و Innovation Endeavors، و SV Angel.
صرح جوناثان لاي، الشريك في a16z Speedrun، لموقع TechCrunch: "حان الوقت الآن لبناء معيار سلامة صناعي بينما يتم تصميم الروبوتات ونشرها". وأضاف: "بحلول الوقت الذي تكون فيه الروبوتات في المنازل تصطدم بالأطفال وتسبب حوادث سلامة، سيكون الأوان قد فات كثيرًا".
تخصص Safeworld هو تقييم نظام التحكم الروبوتي في محاكاة تحتوي على نماذج بشرية واقعية. يشبه هذا التحدي الذي تواجهه شركات مثل تسلا أو ويف، والتي يجب أن تضمن أن مركباتها تستجيب بشكل مناسب لمجموعة متنوعة من الحوادث المفاجئة التي قد تواجهها على الطريق. لكن تشاو يرى أن هذا سيكون أكثر صعوبة بالنسبة للروبوتات، لأنها تعمل في بيئات غير منظمة، ولأن كل منشأة تتواجد فيها سيكون لها معايير سلامة مختلفة.
قال وونغ: "أحد أكثر السيناريوهات شيوعًا هو وجود زاوية عمياء في هذا المصنع بالذات". وأضاف: "ما هي السرعة أو مسافة التوقف التي تحتاجها للتأكد من أن هذا الروبوت لن يصطدم بإنسان معين؟ إذا كان الإنسان يحمل صناديق، على سبيل المثال، فهل سيكتشف الروبوت الإنسان أم لا؟"
للإجابة على هذا السؤال، ستقوم Safeworld ببناء نسخة رقمية لتلك الزاوية في نموذج مثل Genesis أو MuJoCo، وإدخال محاكاة للروبوت الذي تقوم بتقييمه، مدفوعًا ببرمجياته الحقيقية، ثم تشغيل آلاف السيناريوهات حيث تواجه النماذج البشرية الروبوت. وهذا أصعب مما يبدو، وفقًا لتشاو، لأن البشر لا يمكن التنبؤ بهم.
قال وونغ: "التعثر والسقوط هو أيضًا مثال جيد لشيء نقوم بالكثير من الاختبارات عليه باستخدام المحاكاة". وأضاف: "وإلا، سيتعين عليك الذهاب والتعثر والسقوط أمام الروبوت، وهو أمر صعب القيام به طوال الوقت".
هناك أوجه تشابه واضحة بين المنصة التي تبنيها Safeworld والأدوات المستخدمة داخليًا من قبل مصنعي الروبوتات. ومع ذلك، يعتقد المؤسسون أنه بالإضافة إلى خبرتهم المحددة، سيرغب صانعو الروبوتات في طرف ثالث للتحقق من صحة عملهم، ولو لمجرد تبادل المعلومات حول حالات السلامة بين المنافسين.
قال تشاو: "الكثير من الناس يقللون من صعوبة حل بعض هذه الحالات الهامشية". وأضاف: "لسنا قلقين بشأن الروبوت في الفراغ، في العرض التوضيحي. نحن قلقون بشأن الروبوت الذي يتم نشره على نطاق واسع، مع أشخاص ربما لم يشغلوا روبوتًا من قبل".
فيشال دوغار، المدير التقني لشركة Gritt Robotics، يطور عقل الذكاء الاصطناعي للروبوتات التي تساعد العمال حاليًا في تركيب الألواح الكهروضوئية في مزارع الطاقة الشمسية على نطاق صناعي، ويطمح إلى تولي مهام بناء أكثر تعقيدًا. وتتعاون شركته مع Safeworld بينما يطورون محاكاة السلامة الخاصة بهم.
يقول دوغار: "الصعوبة في معظم أنظمتنا هي أنه من الصعب جدًا إثباتها رسميًا عن طريق إجراء بعض العمليات الحسابية، وكتابة بعض المعادلات، والقول نعم، تم التحقق من أن النظام آمن". ويضيف: "يجب أن يتم ذلك تجريبيًا بالضرورة".
تعمل روبوتاته جنبًا إلى جنب مع العمال البشريين، وضمان عدم اصطدام ذراع روبوتية بهم هو بالطبع الأولوية القصوى. للتحقق من ذلك عمليًا يتطلب النظر في جميع أنواع السيناريوهات المحتملة.
يشير دوغار إلى أن "البشر لديهم العديد من أنواع المظاهر". ويضيف: "يمكن أن تكون أجسادهم في تكوينات مختلفة. يمكن أن يكونوا راكعين، واقفين. يمكن أن يتعثروا ويسقطوا محتملًا. يمكن أن يكونوا جاثمين. يمكن أن يركضوا. يجب عليك الاستجابة لجميع هذه السلوكيات التي يمكن أن يظهرها البشر في هذه المواقع، جنبًا إلى جنب مع مجموعة متنوعة من الاختلافات في المظهر البشري، مثل الملابس، الحجم، الشكل، الطول، لون البشرة، وكل شيء آخر".
