موظف إنساني سابق استقال بسبب مخاوف تتعلق بالسلامة للإدلاء بشهادته في جلسة استماع لمجلس مدينة نيويورك

سيدلي باحث الذكاء الاصطناعي السابق الذي استقال من دوره في Anthropic ودعا بعد ذلك إلى تعزيز حواجز السلامة بشهادته جنبًا إلى جنب مع ممثلي السلامة الرائدين في مختبر الذكاء الاصطناعي في اجتماع مجلس مدينة نيويورك يوم الاثنين. أجرى جاكوب كوكسون، 27 عامًا، أبحاثًا تمهيدية في OpenAI و Anthropic لمدة ثلاث سنوات قبل أن يغادر القطاع الخاص بشكل مفاجئ وعلني، مما أثار جدلاً على مستوى البلاد حول أهمية “تسريع الحدود” وإبطاء تطوير الذكاء الاصطناعي. تم تعزيز تعليقات كوكسون من خلال العديد من حوادث القرصنة المفترضة، وكان حادث OpenAI-Hugging Face هو الأبرز، ونظرة الجمهور السلبية على نطاق واسع تجاه الصناعة. وقال كوكسون في منشور بتاريخ 8 سبتمبر يعلن فيه استقالته: “لا تتصرف أي من الشركتين بمسؤولية”. “إنهم يتسابقون مباشرة نحو تطوير الذكاء الفائق ويقامرون بحياتنا.” تظهر كوكسون بناءً على طلب رئيسة المجلس جولي مينين، التي سعت إلى جمع المبلغين عن مخالفات الذكاء الاصطناعي وممثلي الصناعة بينما يدرس مسؤولو المدينة مشاريع القوانين التي تهدف إلى وضع ضمانات، وفقًا لبلومبرج. سيحضر المؤتمر باحثون في مجال السلامة والسياسة من Google و OpenAI و Anthropic و Meta. وبحسب ما ورد، استدعى المجلس فريق الذكاء الاصطناعي التابع لشركة SpaceX بعد فشله في الاستجابة لطلب الحضور في الاجتماع. وقال كوكسون أيضًا في إعلانه: “الأشخاص الذين يقومون ببناء الذكاء الاصطناعي يعتقدون بجدية أنه يمكن أن يقتلنا جميعًا بحلول نهاية العقد”. “هذه ليست حيلة تسويقية. إذا كان هناك أي شيء، فإن العديد من المديرين التنفيذيين وكبار الباحثين سوف يصوغون عباراتهم في الصحافة لتبدو معقولة – لكنني أسمع نفس الأشخاص يعبرون عن خوفهم بشكل خاص. لا يوجد أي نشاط بشري آخر يشكل هذا المستوى من الخطر”. صاغ كوكسون مخاوفه إلى حد كبير أثناء ظهوره في وسائل الإعلام حول المخاوف من ظهور الأنظمة التي يمكنها “اختراق أي شيء” في يوم من الأيام. استقال باحث أنثروبولوجي بسبب الخوف الوجودي من الذكاء الاصطناعي: “المقامرة بحياتنا” ينبع الكثير من دوافع مينين لعقد جلسة الاستماع من شهرة شركات الذكاء الاصطناعي في مدينة نيويورك، على الرغم من أن معظم المناقشات المتعلقة بسياسة الذكاء الاصطناعي موجودة على المستوى الفيدرالي ومستوى الولايات. تلاشى رد الفعل العنيف من الحزبين ضد بناء مركز البيانات، والذي قاده حكام الولايات إلى حد كبير، عن الرأي العام بمجرد إعلان كوكسون في أوائل سبتمبر. وفي وقت لاحق، نشر الرئيس التنفيذي لشركة Anthropic ، داريو أمودي، مقالًا بعنوان “يجب علينا أن نخطو الحدود”، موضحًا وجهة نظره حول كيفية إدارة مخاطر الذكاء الاصطناعي. انضم أمودي إلى الرئيس دونالد ترامب وغيره من قادة الذكاء الاصطناعي الأسبوع الماضي في البيت الأبيض للتوقيع على التزام طوعي وغير ملزم بالتنظيم الذاتي. أحد الاقتراحات المعروضة على المجلس هو مشروع قانون برعاية مينين يمنح المبلغين عن المخالفات الذين يبلغون عن الانتهاكات جزءًا من الغرامات أو العقوبات المستردة. لم يكن كوكسون الموظف الأنثروبي الوحيد الذي استقال في ذلك الأسبوع في أوائل سبتمبر، حيث ترك رئيس Scalable Operations الشركة أيضًا.