حاكم ولاية كاليفورنيا جافين نيوسوم يستخدم حق النقض ضد مشروع قانون سلامة الذكاء الاصطناعي الأول في البلاد

استخدم حاكم ولاية كاليفورنيا جافين نيوسوم يوم الأحد حق النقض ضد مشروع قانون تاريخي يهدف إلى وضع تدابير السلامة الأولى في البلاد للشركات الكبيرة الذكاء الاصطناعي نماذج.
ويمثل هذا القرار ضربة قوية للجهود التي تحاول كبح جماح الصناعة المحلية التي تتطور بسرعة مع القليل من الرقابة. الفاتورة كان من شأنه أن يضع بعض اللوائح الأولى وقال المؤيدون إن هذا المشروع تم تطويره على نماذج واسعة النطاق للذكاء الاصطناعي في البلاد ومهّد الطريق لقوانين سلامة الذكاء الاصطناعي في جميع أنحاء البلاد.

في وقت سابق من هذا الشهر، أخبر الحاكم الديمقراطي جمهورًا في Dreamforce، وهو مؤتمر سنوي تستضيفه شركة البرمجيات العملاقة Salesforce، أن كاليفورنيا يجب أن تكون رائدة في تنظيم الذكاء الاصطناعي في مواجهة التقاعس الفيدرالي، لكن الاقتراح “يمكن أن يكون له تأثير مروع على الصناعة”.

وقال نيوسوم إن الاقتراح، الذي أثار معارضة شديدة من الشركات الناشئة وعمالقة التكنولوجيا والعديد من أعضاء مجلس النواب الديمقراطيين، كان من الممكن أن يضر الصناعة المحلية من خلال وضع متطلبات صارمة.

وقال نيوسوم في بيان: “على الرغم من حسن النية، إلا أن SB 1047 لا يأخذ في الاعتبار ما إذا كان نظام الذكاء الاصطناعي قد تم نشره في بيئات عالية المخاطر، أو ينطوي على اتخاذ قرارات حاسمة أو استخدام بيانات حساسة”. “بدلاً من ذلك، يطبق مشروع القانون معايير صارمة حتى على الوظائف الأساسية – طالما أن نظامًا كبيرًا ينشرها. لا أعتقد أن هذا هو أفضل نهج لحماية الجمهور من التهديدات الحقيقية التي تشكلها التكنولوجيا.”

وبدلاً من ذلك، أعلنت نيوسوم يوم الأحد أن الولاية ستتعاون مع العديد من خبراء الصناعة، بما في ذلك رائد الذكاء الاصطناعي Fei-Fei Li، لتطوير حواجز حماية حول نماذج الذكاء الاصطناعي القوية. عارض لي اقتراح سلامة الذكاء الاصطناعي.

كان هذا الإجراء، الذي يهدف إلى الحد من المخاطر المحتملة التي يخلقها الذكاء الاصطناعي، سيطلب من الشركات اختبار نماذجها والكشف علنًا عن بروتوكولات السلامة الخاصة بها لمنع التلاعب بالنماذج، على سبيل المثال، للقضاء على الشبكة الكهربائية في الولاية أو المساعدة في صنع أسلحة كيميائية. ويقول الخبراء إن هذه السيناريوهات قد تكون ممكنة في المستقبل مع استمرار الصناعة في التقدم السريع. كما كان من شأنه أن يوفر الحماية للمبلغين عن المخالفات للعمال.

ويأتي هذا التشريع ضمن مجموعة من مشاريع القوانين التي أقرتها الهيئة التشريعية هذا العام لتنظيم الذكاء الاصطناعي، يعارك التزييف العميق وحماية العمال. وقال مشرعون بالولاية إن كاليفورنيا يجب أن تتخذ إجراءات هذا العام، مستشهدين بالدروس الصعبة التي تعلموها من الفشل في كبح جماح شركات التواصل الاجتماعي عندما كان من الممكن أن تتاح لهم الفرصة.

قال مؤيدو هذا الإجراء، بما في ذلك Elon Musk وAnthropic، إن الاقتراح كان من الممكن أن يضخ بعض مستويات الشفافية والمساءلة حول نماذج الذكاء الاصطناعي واسعة النطاق، حيث يقول المطورون والخبراء إنهم لا يزالون ليس لديهم فهم كامل لكيفية تصرف نماذج الذكاء الاصطناعي لماذا.

ويستهدف مشروع القانون الأنظمة التي يتطلب بناؤها أكثر من 100 مليون دولار. ولم تصل أي نماذج حالية للذكاء الاصطناعي إلى هذه العتبة، لكن بعض الخبراء قالوا إن ذلك قد يتغير خلال العام المقبل.

قال دانييل كوكوتاجلو، الباحث السابق في OpenAI الذي استقال في أبريل بسبب ما اعتبره تجاهل الشركة لمخاطر الذكاء الاصطناعي: “يرجع هذا إلى زيادة الاستثمار الهائل داخل الصناعة”. “إنه قدر هائل من السلطة للسيطرة على أي شركة خاصة دون مساءلة، كما أنه أمر محفوف بالمخاطر بشكل لا يصدق.”

والولايات المتحدة تتخلف بالفعل عن أوروبا في تنظيم الذكاء الاصطناعي للحد من المخاطر. وقال المؤيدون إن اقتراح كاليفورنيا لم يكن شاملا مثل اللوائح التنظيمية في أوروبا، لكنه كان من الممكن أن يكون خطوة أولى جيدة لوضع حواجز حول التكنولوجيا سريعة النمو والتي تثير المخاوف بشأن فقدان الوظائف، والمعلومات المضللة، وغزو الخصوصية، والتحيز للأتمتة.

وقد وافق عدد من شركات الذكاء الاصطناعي الرائدة في العام الماضي طوعاً على اتباع الضمانات التي وضعها البيت الأبيض، مثل الاختبار وتبادل المعلومات حول نماذجها. وقال مؤيدو الإجراء إن مشروع قانون كاليفورنيا كان سيلزم مطوري الذكاء الاصطناعي باتباع متطلبات مماثلة لتلك الالتزامات.

لكن المنتقدين، بمن فيهم رئيسة مجلس النواب الأمريكي السابقة نانسي بيلوسي، جادلوا بأن مشروع القانون من شأنه أن “يقتل تكنولوجيا كاليفورنيا” ويخنق الابتكار. وقالوا إن ذلك كان سيثني مطوري الذكاء الاصطناعي عن الاستثمار في النماذج الكبيرة أو مشاركة البرامج مفتوحة المصدر.

يمثل قرار نيوسوم باستخدام حق النقض ضد مشروع القانون فوزًا آخر في كاليفورنيا لشركات التكنولوجيا الكبرى ومطوري الذكاء الاصطناعي، الذين قضى الكثير منهم العام الماضي في الضغط إلى جانب غرفة التجارة في كاليفورنيا للتأثير على الحاكم والمشرعين من تطوير لوائح الذكاء الاصطناعي.

وقد توفي مقترحان آخران شاملان للذكاء الاصطناعي، واللذان واجها أيضًا معارضة متزايدة من صناعة التكنولوجيا وغيرها، قبل الموعد النهائي التشريعي الشهر الماضي. كانت مشاريع القوانين ستتطلب من مطوري الذكاء الاصطناعي تصنيف المحتوى الناتج عن الذكاء الاصطناعي وحظر التمييز من خلال أدوات الذكاء الاصطناعي المستخدمة لاتخاذ قرارات التوظيف.