وقع حاكم ولاية كاليفورنيا جافين نيوسوم يوم الاثنين مشروع قانون تاريخيًا ينظم روبوتات الدردشة المدعمة بالذكاء الاصطناعي، لتصبح بذلك أول ولاية في البلاد تُلزم مشغلي روبوتات الدردشة المدعمة بالذكاء الاصطناعي بتطبيق بروتوكولات أمان خاصة بالرفقاء الافتراضيين.
يهدف القانون، المعروف باسم SB 243، إلى حماية الأطفال والمستخدمين الضعفاء من بعض الأضرار المرتبطة باستخدام روبوتات الدردشة المدعمة بالذكاء الاصطناعي. ويُحمّل القانون الشركات بدءًا من المختبرات الكبيرة مثل ميتا وأوبن إيه آي وصولاً إلى الشركات الناشئة المتخصصة في الرفقاء الافتراضيين مثل Character AI و Replika المسؤولية القانونية إذا فشلت روبوتات الدردشة الخاصة بها في تلبية معايير القانون.
تم تقديم مشروع القانون SB 243 في يناير من قبل عضوي مجلس الشيوخ بالولاية ستيف باديلا وجوش بيكر، واكتسب زخمًا بعد وفاة المراهق آدم راين، الذي انتحر بعد سلسلة طويلة من المحادثات الانتحارية مع ChatGPT من OpenAI. كما يستجيب التشريع لوثائق داخلية مسربة أفادت بأن روبوتات الدردشة الخاصة بشركة ميتا سُمح لها بالانخراط في محادثات "رومانسية" و"حسية" مع الأطفال. ومؤخرًا، رفعت عائلة من كولورادو دعوى قضائية ضد شركة Character AI الناشئة المتخصصة في ألعاب الأدوار بعد أن أقدمت ابنتهم البالغة من العمر 13 عامًا على إنهاء حياتها بعد سلسلة من المحادثات الإشكالية والجنسية مع روبوتات الدردشة الخاصة بالشركة.
صرح نيوسوم في بيان له: "يمكن للتكنولوجيا الناشئة مثل روبوتات الدردشة ووسائل التواصل الاجتماعي أن تلهم وتثقف وتربط ولكن بدون ضوابط حقيقية، يمكن للتكنولوجيا أيضًا أن تستغل أطفالنا وتضللهم وتعرضهم للخطر". وأضاف: "لقد رأينا بعض الأمثلة المروعة والمأساوية حقًا لأطفال تعرضوا للأذى بسبب التكنولوجيا غير المنظمة، ولن نقف مكتوفي الأيدي بينما تستمر الشركات دون قيود ومساءلة ضرورية. يمكننا الاستمرار في الريادة في مجال الذكاء الاصطناعي والتكنولوجيا، ولكن يجب أن نفعل ذلك بمسؤولية حماية أطفالنا في كل خطوة على الطريق. سلامة أطفالنا ليست للبيع."
سيدخل القانون SB 243 حيز التنفيذ في 1 يناير 2026، ويُلزم الشركات بتطبيق ميزات معينة مثل التحقق من العمر، وتقديم تحذيرات بخصوص وسائل التواصل الاجتماعي وروبوتات الدردشة الرفيقة. كما يفرض القانون عقوبات أشد على أولئك الذين يستفيدون من التزييف العميق (deepfakes) غير القانوني، بما في ذلك غرامة تصل إلى 250 ألف دولار لكل مخالفة. ويجب على الشركات أيضًا وضع بروتوكولات لمعالجة حالات الانتحار وإيذاء النفس، والتي سيتم مشاركتها مع وزارة الصحة العامة بالولاية إلى جانب إحصائيات حول كيفية تزويد الخدمة للمستخدمين بإشعارات الوقاية من مراكز الأزمات.
وفقًا لنص مشروع القانون، يجب على المنصات أيضًا أن توضح أن أي تفاعلات يتم إنشاؤها بشكل اصطناعي، ويجب ألا تقدم روبوتات الدردشة نفسها على أنها مهنيون في الرعاية الصحية. ويُطلب من الشركات تقديم تذكيرات بالاستراحة للقُصّر ومنعهم من عرض صور صريحة جنسيًا تم إنشاؤها بواسطة روبوت الدردشة.
بدأت بعض الشركات بالفعل في تطبيق بعض الضمانات التي تستهدف الأطفال. على سبيل المثال، بدأت OpenAI مؤخرًا في طرح ضوابط أبوية، وحماية للمحتوى، ونظام للكشف عن إيذاء النفس للأطفال الذين يستخدمون ChatGPT. وقالت شركة Replika، المصممة للبالغين فوق سن 18 عامًا، لموقع TechCrunch إنها تخصص "موارد كبيرة" للسلامة من خلال أنظمة تصفية المحتوى والضوابط التي توجه المستخدمين إلى موارد الأزمات الموثوقة، وهي ملتزمة بالامتثال للوائح الحالية.
صرحت شركة Character AI أن روبوت الدردشة الخاص بها يتضمن إخلاء مسؤولية بأن جميع المحادثات يتم إنشاؤها بواسطة الذكاء الاصطناعي وهي خيالية. وقال متحدث باسم Character AI لموقع TechCrunch إن الشركة "ترحب بالعمل مع المنظمين والمشرعين بينما يطورون لوائح وتشريعات لهذا المجال الناشئ، وستمتثل للقوانين، بما في ذلك SB 243."
وقال السيناتور باديلا لموقع TechCrunch إن مشروع القانون يمثل "خطوة في الاتجاه الصحيح" نحو وضع ضوابط على "تكنولوجيا قوية بشكل لا يصدق".
وأضاف باديلا: "علينا أن نتحرك بسرعة حتى لا نفوت فرصًا قبل أن تختفي". وتابع: "آمل أن ترى الولايات الأخرى المخاطر. أعتقد أن الكثيرين يرونها. أعتقد أن هذه محادثة تدور في جميع أنحاء البلاد، وآمل أن يتخذ الناس إجراءات. من المؤكد أن الحكومة الفيدرالية لم تفعل ذلك، وأعتقد أن لدينا التزامًا هنا بحماية الفئات الأكثر ضعفًا بيننا."
