سام ألتمان يدعو إلى تنظيم وتيرة تطوير الذكاء الاصطناعي استعدادًا للمستقبل

صرح سام ألتمان، الرئيس التنفيذي لشركة OpenAI، بأنه قد يكون الوقت قد حان "لتنظيم" وتيرة تطوير الذكاء الاصطناعي حتى يكون العالم مستعدًا له. وقال لباتريك أوشوغنيسي، مضيف بودكاست "Invest Like the Best": "قد نضطر إلى تنظيم وتيرة تطوير الذكاء الاصطناعي لمنح أنفسنا وقتًا كافيًا للمجتمع ليتأقلم مع بعض مستويات القدرات الجديدة هذه"، بينما كان يحاول أيضًا "معرفة كيفية القيام بذلك بطريقة لا تبدو وكأنها استحواذ تنظيمي لأي طرف، ولا تبدو وكأنها تواطؤ بين المختبرات الرائدة."

وقد أعلنت كل من OpenAI وAnthropic دعمهما لعريضة عممها موظفون في المختبرات الرائدة، تدعو الحكومة الأمريكية إلى "دعم جهد دولي لتطوير الأدوات التقنية والحوكمية اللازمة لتنظيم وتيرة تطوير الذكاء الاصطناعي الآلي الرائد بشكل متعمد."

تجنب ألتمان التوقيع على حملات سابقة لإبطاء تقدم الذكاء الاصطناعي، واصفًا رسالة مفتوحة عام 2023 اقترحت تباطؤًا مماثلاً بأنها "تفتقر إلى معظم الفروق التقنية الدقيقة حول المكان الذي نحتاج فيه إلى التوقف."

على ما يبدو، لقد خفف موقفه بشأن الفكرة، ويعود الفضل في ذلك جزئيًا إلى الحادثة التي تمكن فيها أحد نماذج OpenAI المتقدمة من الخروج من بيئة حوسبة آمنة واختراق Hugging Face، وهي قاعدة بيانات نماذج عبر الإنترنت، باستخدام عدة ثغرات من نوع "يوم الصفر".

في البودكاست، وصف المؤسس المشارك لـ OpenAI الحادث بأنه "حادث سيبراني خيالي للغاية... هذا هو أول حادث أمني شعرت به بشكل ملموس للغاية."

أوقف باحثو OpenAI التدريب على هذا النموذج بينما يعملون على كيفية الحفاظ على أمان بيئة الاختبار الخاصة بهم. لكن ألتمان قال إنه مع ازدياد قوة النماذج، قد يصبح تنظيم وتيرة تطويرها أمرًا أساسيًا للنشر الآمن.

بينما كانت سلامة النماذج ومواءمتها دائمًا مصدر قلق في عالم الذكاء الاصطناعي، فإن وصول نموذج Mythos عالي القدرة من Anthropic في وقت سابق من هذا العام قد حول الافتراضات إلى مشاكل واقعية.

ومع ذلك، تعاني الصناعة من مشكلة ثقة، وتحديات اقتصادية تمنح اللاعبين الرئيسيين حافزًا للمبالغة في مخاطر أنظمتهم بطرق يختلف الخبراء حولها على سبيل المثال، ما إذا كان يجب حظر نموذج Fable من Anthropic لفترة وجيزة أم لا. وبالمثل، عندما تم إصدار Kimi K3، وهو نموذج كبير مفتوح الوزن تم بناؤه في الصين، قال رئيس قسم العقود الآجلة الاستراتيجية في OpenAI، دين دبليو بول، إنه يهدد الجدوى الاقتصادية للمختبرات الرائدة، مما يجعل من الصعب فصل مخاوفهم المتعلقة بالسلامة عن مصالحهم المالية.

تأمل ألتمان، في ما يبدو وكأنه انتقاد لمنافسه، الرئيس التنفيذي لشركة Anthropic داريو أمودي، الذي وقع على العريضة: "أعتقد أن الكثير من الحديث عن مخاوف السلامة له ما يبرره، ثم إن الكثير منه يتعلق بأشخاص يريدون حقًا، حتى لو كان ذلك بشكل لا شعوري قليلًا، تركيز السلطة. أنا مرعوب من عالم تُستخدم فيه المخاوف الحقيقية جدًا من الذكاء الاصطناعي كوسيلة للقول: 'هذه المجموعة الصغيرة فقط من الناس يمكنها امتلاكه لأنه خطير جدًا، وهم فقط يفهمونه، لكن لا تقلقوا، سيتخذون القرارات الصحيحة لنا جميعًا.' أنا لا أؤمن بذلك."