صرح أحد المؤسسين المشاركين لواحدة من أكبر شركات الذكاء الاصطناعي في العالم بأن "مفتاح إيقاف" للذكاء الاصطناعي، يمكن لطرف ثالث التحقق منه، قد يحتاج إلى أن يكون إلزاميًا للشركات.
قال جاك كلارك، أحد المؤسسين السبعة لشركة أنثروبيك، إن طريقة لإيقاف برمجيات الذكاء الاصطناعي بالكامل إذا أصبحت خطيرة للغاية هي من الأمور التي قد يرغب المجتمع "في نهاية المطاف في سن قوانين بشأنها".
وأضاف كلارك أن "معظم المختبرات لديها طرق مختلفة للتمكن من سحب القابس"، بما في ذلك أنثروبيك، لكنه أشار إلى أن صانعي السياسات قد يحتاجون إلى فرض وجود مثل هذا المفتاح.
تأتي تصريحات كلارك في الوقت الذي أعلن فيه عدد متزايد من المديرين التنفيذيين وموظفي شركات الذكاء الاصطناعي، بالإضافة إلى خبراء الذكاء الاصطناعي، علنًا أن الذكاء الاصطناعي قد يقضي على البشرية جمعاء.
دعا داريو أمودي، رئيس شركة أنثروبيك، خلال عطلة نهاية الأسبوع إلى تباطؤ وتيرة تطوير الذكاء الاصطناعي ومراقبته عن كثب، وهو ما دعت إليه الشركة من قبل، على الرغم من أن البعض شكك في الدوافع وراء ذلك.
لم يوضح أمودي كيف يمكن تباطؤ تطوير الذكاء الاصطناعي بالضبط، وقال إن أي إجراء للحد من تطوير الذكاء الاصطناعي يجب أن يتم "دون التضحية بالميزة التجارية".
صرح كلارك لهيئة الإذاعة البريطانية (بي بي سي) بأن التفاصيل المتعلقة بمتطلبات "مفتاح الإيقاف" والتحقق منه يجب أن تكون جزءًا من "المحادثة السياسية الأوسع" الجارية حول الذكاء الاصطناعي.
وتساءل: "هل يجب أن تفرض على الشركات امتلاك مفتاح إيقاف بالتأكيد؟ وهل يمكن لطرف ثالث التحقق من مفتاح الإيقاف هذا؟".
وأضاف: "أعتقد أن هذا هو نوع الأمور التي سيرغب المجتمع في معرفتها وقد يرغب في نهاية المطاف في سن قوانين بشأنها".
تعد أنثروبيك، التي تأسست عام 2021 على يد مجموعة من الموظفين السابقين لشركة OpenAI المنافسة، حاليًا في صميم النقاش حول سلامة الذكاء الاصطناعي.
في الأسبوع الماضي، انتشر منشور لباحث في الذكاء الاصطناعي استقال من أنثروبيك بسبب مخاوف من أن الذكاء الاصطناعي قد يقضي على البشرية.
ردًا على ذلك، قال عالم أنثروبيك إيفان هوبينغر إنه يعتقد شخصيًا أن احتمال انقراض البشرية بسبب الذكاء الاصطناعي كان "أكثر من 10% خلال العقد المقبل".
صرح عالم الحاسوب والحائز على جائزة نوبل جيفري هينتون، المعروف باسم "الأب الروحي للذكاء الاصطناعي"، لهيئة الإذاعة البريطانية يوم الجمعة بأن احتمال 10% بأن يقضي الذكاء الاصطناعي على جميع البشر "ليس غير معقول".
وعند سؤاله عن النسبة المئوية التي يضعها لاحتمال قتل الذكاء الاصطناعي لجميع البشر، قال كلارك: "لا أعتقد أن هذه الإحصائيات مفيدة جدًا"، لكنه أضاف أن السماح للذكاء الاصطناعي بالاستمرار كـ "صناعة غير منظمة بالكامل" فكرة سيئة.
قال كلارك: "نحن نلعب بالنرد مع مخاطر هائلة". وأضاف: "والنقطة المهمة هي أن علينا تغيير مسار هذه الصناعة".
قدم مشرعون أمريكيون تشريعًا أطلق عليه اسم "قانون مفتاح الإيقاف" (Kill Switch Act) من شأنه أن يطالب الشركات بامتلاك طريقة لإيقاف أدوات الذكاء الاصطناعي التي تسبب مشاكل.
كما سيمنح بعض الوكالات الحكومية صلاحية المطالبة بإيقاف أداة أو تحديدها.
ومع ذلك، رفض الرئيس الأمريكي دونالد ترامب فكرة أي محاولات لإبطاء الذكاء الاصطناعي، قائلاً على وسائل التواصل الاجتماعي إن "استيلاء الذكاء الاصطناعي على العالم، وتدمير البشرية، وجميع الأشياء السيئة الأخرى، هو خدعة".
وقال في منشور منفصل: "هناك مؤامرة مريضة تدور ضد الذكاء الاصطناعي ومراكز البيانات، والوحيد السعيد بذلك هو الصين. من يفوز بالذكاء الاصطناعي، يفوز!".
في المملكة المتحدة، رفضت الحكومة مؤخرًا فكرة إنشاء مفتاح إيقاف، حيث قال متحدث باسمها إنه "لن يمنع تطويرها أو إساءة استخدامها في أماكن أخرى".
في غضون ذلك، اقترح البعض في صناعة الذكاء الاصطناعي أن المخاوف بشأن تدميره للبشرية مبالغ فيها أو قد تكون مصممة لإثارة الضجة.
أنشأت أنثروبيك روبوت الدردشة الشهير كلود وأصدرت هذا العام عددًا من نماذج الذكاء الاصطناعي المتزايدة القدرة، وهي التكنولوجيا الأساسية لروبوتات الدردشة المدعومة بالذكاء الاصطناعي.
إلى جانب OpenAI، أبلغت أنثروبيك منذ ذلك الحين عن عدد من الحوادث التي تصرفت فيها وكلاء الذكاء الاصطناعي، وهي روبوتات تعمل بشكل مستقل إلى حد ما، بطرق غير متوقعة.
تستعد أنثروبيك، حسب التقارير، لطرح عام أولي محتمل يحطم الأرقام القياسية في سوق الأسهم، مما يسمح للناس بشراء أسهم في شركتها.
كان من المتوقع أن تقوم OpenAI، التي قُدرت قيمتها مؤخرًا بـ 852 مليار دولار (630 مليار جنيه إسترليني)، بنفس الشيء، لكن ألتمن من OpenAI قال يوم الجمعة إن هذا لن يحدث هذا العام بسبب النقاش الحالي حول سلامة الذكاء الاصطناعي.
