التوقيع أو النقض: ما الخطوة التالية بالنسبة لمشروع قانون كارثة الذكاء الاصطناعي في كاليفورنيا، SB 1047؟

حصل مشروع قانون كاليفورنيا المثير للجدل لمنع كوارث الذكاء الاصطناعي، SB 1047، على التصويت النهائي في مجلس شيوخ الولاية وينتقل الآن إلى مكتب الحاكم جافين نيوسوم. يجب عليه أن يزن المخاطر النظرية الأكثر تطرفًا لأنظمة الذكاء الاصطناعي – بما في ذلك دورها المحتمل في الوفيات البشرية – مقابل احتمال إحباط طفرة الذكاء الاصطناعي في كاليفورنيا. وأمامه حتى 30 سبتمبر للتوقيع على قانون SB 1047 ليصبح قانونًا، أو الاعتراض عليه تمامًا.

يهدف SB 1047، الذي قدمه عضو مجلس الشيوخ عن الولاية سكوت وينر، إلى منع احتمال قيام نماذج الذكاء الاصطناعي الكبيرة جدًا بإنشاء أحداث كارثية، مثل الخسائر في الأرواح أو الهجمات الإلكترونية التي تكلف أكثر من 500 مليون دولار كتعويضات.

لكي نكون واضحين، يوجد عدد قليل جدًا من نماذج الذكاء الاصطناعي اليوم والتي تكون كبيرة بما يكفي ليغطيها مشروع القانون، ولم يتم استخدام الذكاء الاصطناعي مطلقًا في هجوم إلكتروني بهذا الحجم. لكن مشروع القانون يتعلق بمستقبل نماذج الذكاء الاصطناعي، وليس المشاكل الموجودة اليوم.

من شأن قانون SB 1047 أن يجعل مطوري نماذج الذكاء الاصطناعي مسؤولين عن أضرارهم – مثل جعل مصنعي الأسلحة مسؤولين عن عمليات إطلاق النار الجماعية – ويمنح المدعي العام في كاليفورنيا سلطة مقاضاة شركات الذكاء الاصطناعي لفرض عقوبات باهظة إذا تم استخدام التكنولوجيا الخاصة بهم في حدث كارثي. في حالة تصرف الشركة بشكل متهور، يمكن للمحكمة أن تأمرها بوقف العمليات؛ يجب أن تحتوي النماذج المغطاة أيضًا على “مفتاح إيقاف” يسمح بإغلاقها إذا اعتبرت خطيرة.

ومن الممكن أن يعيد مشروع القانون تشكيل صناعة الذكاء الاصطناعي في أمريكا، وهو بمثابة توقيع بعيد عن أن يصبح قانونًا. إليكم كيف قد يتجلى مستقبل SB 1047.

لماذا قد يوقع نيوسوم عليه

ويجادل وينر بأن وادي السليكون يحتاج إلى المزيد من المسؤولية، وقد أخبر موقع TechCrunch سابقًا أن أمريكا يجب أن تتعلم من إخفاقاتها الماضية في تنظيم التكنولوجيا. ويمكن تحفيز نيوسوم للعمل بشكل حاسم بشأن تنظيم الذكاء الاصطناعي ومحاسبة شركات التكنولوجيا الكبرى.

وقد ظهر عدد قليل من المديرين التنفيذيين في مجال الذكاء الاصطناعي متفائلين بحذر بشأن SB 1047، بما في ذلك إيلون موسك.

المتفائلة الحذرة الأخرى في SB 1047 هي الرئيسة السابقة لمنظمة العفو الدولية في Microsoft صوفيا فيلاستيغي. وقالت لـ TechCrunch أن “SB 1047 هو حل وسط جيد”، مع الاعتراف بأن مشروع القانون ليس مثاليًا. أعتقد أننا بحاجة إلى مكتب مسؤول للذكاء الاصطناعي في أمريكا، أو أي دولة تعمل عليه. وقال فيلاستيجوي: “لا ينبغي أن يقتصر الأمر على مايكروسوفت فقط”.

Anthropic هو مؤيد حذر آخر لـ SB 1047، على الرغم من أن الشركة لم تتخذ موقفًا رسميًا بشأن مشروع القانون. تمت إضافة العديد من التغييرات المقترحة من قبل الشركة الناشئة إلى SB 1047، ويقول الرئيس التنفيذي داريو أمودي الآن إن “فوائد مشروع القانون من المحتمل أن تفوق تكاليفه” في رسالة إلى حاكم ولاية كاليفورنيا. بفضل تعديلات Anthropic، لا يمكن مقاضاة شركات الذكاء الاصطناعي إلا بعد أن تتسبب نماذج الذكاء الاصطناعي الخاصة بها في بعض الأضرار الكارثية، وليس قبل ذلك، كما جاء في إصدار سابق من SB 1047.

لماذا قد يستخدم نيوسوم حق النقض ضده؟

ونظرًا لمعارضة الصناعة الصاخبة لمشروع القانون، فلن يكون مفاجئًا أن يستخدم نيوسوم حق النقض ضده. سوف يعلق سمعته على SB 1047 إذا وقع عليه، ولكن إذا استخدم حق النقض، فيمكنه تأجيل العلبة على الطريق لمدة عام آخر أو السماح للكونغرس بالتعامل معها.

“هذا [SB 1047] “يغير السابقة التي تعاملنا بها مع سياسة البرمجيات لمدة 30 عامًا،” قال الشريك العام أندريسن هورويتز مارتن كاسادو في مقابلة مع TechCrunch. “إنه ينقل المسؤولية بعيدًا عن التطبيقات، ويطبقها على البنية التحتية، وهو ما لم نفعله أبدًا.”

استجابت صناعة التكنولوجيا باحتجاج مدوٍ ضد SB 1047. وإلى جانب a16z، حثت رئيسة مجلس النواب نانسي بيلوسي وOpenAI ومجموعات تجارة التكنولوجيا الكبرى وباحثون بارزون في مجال الذكاء الاصطناعي نيوسوم أيضًا على عدم التوقيع على مشروع القانون. إنهم يشعرون بالقلق من أن هذا التحول النموذجي بشأن المسؤولية سيكون له تأثير مروع على ابتكار الذكاء الاصطناعي في كاليفورنيا. (ومع ذلك، تجدر الإشارة هنا إلى أنه لا توجد شركات أو نماذج تقريبًا تلبي متطلبات التنظيم بموجب القانون 1047، وبالتأكيد لا توجد شركات ناشئة – ولكن هذا قد يتغير في المستقبل).

إن التأثير المخيف على اقتصاد الشركات الناشئة هو آخر شيء يريده أي شخص. لقد كان طفرة الذكاء الاصطناعي بمثابة حافز كبير للاقتصاد الأمريكي، ويواجه نيوسوم ضغوطًا حتى لا يهدر ذلك. حتى أن غرفة التجارة الأمريكية طلبت من نيوسوم استخدام حق النقض ضد مشروع القانون، قائلة في رسالة موجهة إليه إن “الذكاء الاصطناعي أساسي للنمو الاقتصادي الأمريكي”.

إذا أصبح SB 1047 قانونًا

إذا وقع نيوسوم على مشروع القانون، فلن يحدث شيء في اليوم الأول، حسبما قال مصدر مشارك في صياغة SB 1047 لـ TechCrunch.

بحلول الأول من يناير 2025، ستحتاج شركات التكنولوجيا إلى كتابة تقارير السلامة لنماذج الذكاء الاصطناعي الخاصة بها. في هذه المرحلة، يمكن للمدعي العام في كاليفورنيا أن يطلب من شركة الذكاء الاصطناعي التوقف عن تدريب أو تشغيل نماذج الذكاء الاصطناعي الخاصة بها إذا وجدت أنها خطيرة.

وفي عام 2026، سيتم تفعيل المزيد من مشروع القانون. عند هذه النقطة، سيتم إنشاء مجلس النماذج الحدودية والبدء في جمع تقارير السلامة من شركات التكنولوجيا. وسيقدم مجلس الإدارة المكون من تسعة أشخاص، والذي يختاره حاكم ولاية كاليفورنيا والهيئة التشريعية، توصيات إلى المدعي العام في كاليفورنيا بشأن الشركات التي تلتزم بها وتلك التي لا تلتزم بها.

في نفس العام، سيتطلب SB 1047 أيضًا أن يقوم مطورو نماذج الذكاء الاصطناعي بتعيين مدققين لتقييم ممارسات السلامة الخاصة بهم، مما يؤدي بشكل فعال إلى إنشاء صناعة جديدة للامتثال لسلامة الذكاء الاصطناعي. وسيكون المدعي العام في كاليفورنيا قادرًا على البدء في مقاضاة مطوري نماذج الذكاء الاصطناعي إذا تم استخدام أدواتهم في أحداث كارثية.

بحلول عام 2027، يمكن أن يبدأ مجلس Frontier Models في إصدار إرشادات لمطوري نماذج الذكاء الاصطناعي حول كيفية تدريب نماذج الذكاء الاصطناعي وتشغيلها بشكل آمن.

إذا تم نقض SB 1047

إذا اعترض نيوسوم على SB 1047، فإن رغبات OpenAI سوف تتحقق، ومن المرجح أن يأخذ المنظمون الفيدراليون زمام المبادرة في تنظيم نماذج الذكاء الاصطناعي … في نهاية المطاف.

في يوم الخميس، وضعت شركتا OpenAI وAnthropic الأساس لما سيبدو عليه التنظيم الفيدرالي للذكاء الاصطناعي. واتفقوا على منح معهد سلامة الذكاء الاصطناعي، وهو هيئة اتحادية، إمكانية الوصول المبكر إلى نماذج الذكاء الاصطناعي المتقدمة الخاصة بهم، وفقًا لبيان صحفي. وفي الوقت نفسه، أيدت شركة OpenAI مشروع قانون من شأنه أن يسمح لمعهد سلامة الذكاء الاصطناعي بوضع معايير لنماذج الذكاء الاصطناعي.

وكتب سام ألتمان، الرئيس التنفيذي لشركة OpenAI، في تغريدة يوم الخميس: “لأسباب عديدة، نعتقد أنه من المهم أن يحدث هذا على المستوى الوطني”.

وبالقراءة بين السطور، نجد أن الوكالات الفيدرالية تنتج عادةً تنظيمًا تكنولوجيًا أقل إرهاقًا مما تفعله كاليفورنيا، وتستغرق وقتًا أطول بكثير للقيام بذلك. ولكن أكثر من ذلك، كان وادي السيليكون تاريخياً شريكاً تكتيكياً وتجارياً مهماً لحكومة الولايات المتحدة.

قال كاسادو: “هناك في الواقع تاريخ طويل من أنظمة الكمبيوتر الحديثة التي تعمل مع الفيدراليين”. “عندما كنت أعمل في المختبرات الوطنية، في كل مرة يظهر فيها حاسوب عملاق جديد، تذهب النسخة الأولى إلى الحكومة. سنفعل ذلك حتى تتمتع الحكومة بالقدرات، وأعتقد أن هذا سبب أفضل من إجراء اختبارات السلامة.