يدافع OpenAI عن طرد الباحثين الذين أثاروا أسئلة تتعلق بالسلامة

ردت شركة OpenAI التابعة لسام ألتمان يوم الجمعة على مزاعم ثلاثة موظفين مفصولين بأن الشركة يمكن أن تقوض عمليات التفتيش الخارجية على الذكاء الاصطناعي، مشيرة إلى أن شركة الذكاء الاصطناعي تعتبر مناقشات السلامة والبحث “بالغة الأهمية” لتحقيق النجاح. بدأت الملحمة يوم الخميس، عندما أصدر ثلاثة باحثين في مجال السلامة في OpenAI خطابًا يعلنون فيه إنهاء عملهم من قبل الشركة. اقترح توميك كورباك، وياسمين وانغ، وميكيتا باليسني أنهم طُردوا بسبب تعاونهم مع خبراء خارجيين بشأن مخاوف تتعلق بالسلامة، مشيرين إلى أن OpenAI أصبحت أقل انفتاحًا على باحثيها الذين يعملون جنبًا إلى جنب مع كيانات مستقلة لإنشاء آليات أمان للذكاء الاصطناعي. وقد ردت OpenAI في اليوم التالي. وفي بيان عام، قالت الشركة إن تحقيقها وجد أن الثلاثي “انتهك سياسات واضحة بشأن التعامل مع المعلومات الحساسة”، وكشف عن “انتهاك كبير للثقة يتجاوز ما هو منصوص عليه في الرسالة التي نشروها”. ولم يقدم البيان سوى القليل من التفاصيل حول سبب طرد الثلاثة، لكنه ادعى أن “هذه القرارات لم تكن تتعلق بإثارتهم مخاوف تتعلق بالسلامة”. وجاء في بيان OpenAI: “نحن نعمل بنشاط على وضع اللمسات النهائية على العقود مع مقيمي السلامة الخارجيين وسنعلن عن التفاصيل في الأسابيع المقبلة. لقد عمل الأشخاص في جميع أنحاء الشركة بجد على تفعيل هذه الشراكات وتشغيلها”. “نحن ملتزمون بتضمين مقيمين خارجيين ومواصلة جعل التعاون الوثيق مع منظمات السلامة المستقلة جزءًا أساسيًا من عمل السلامة لدينا. يعمل العديد من باحثينا بالفعل مع منظمات السلامة 3p بشكل منتج. “في رسالتهم، قال كورباك ووانج وباليسني إن OpenAI كانت تاريخيًا مفتوحة للتعاون في مجال السلامة مع أطراف ثالثة، وكتبوا أنه تقليديًا، يمكن للموظفين “إثارة مخاوف تتعلق بالسلامة والاختلاف بشكل علني، وتم تشجيعهم على الاستفادة من خبرات منظمات السلامة المستقلة”. اقترح الثلاثي أن الثقافة تتغير، محذرين “لا نعتقد أنه يمكن السير في الطريق إلى الذكاء الفائق بأمان إذا لم يعد الأشخاص الأقرب إلى المخاطر قادرين على العمل بثقة عالية وطرق النطاق الترددي العالي مع بعضهم البعض ومع أطراف ثالثة”. جاء في رسالتهم: “نحن قلقون من أن يتم استخدام عمليات فصلنا لتبرير إنهاء عمل OpenAI مع METR ، أو توفير وصول ونطاق أكثر محدودية للمدققين الخارجيين”. “أولئك الذين يعملون في مجال السلامة منا يرون المخاطر قبل أي شخص آخر، ونحن نعتمد على التعاون الوثيق مع خبراء خارجيين لمعرفة كيفية معالجتها. إن حرية القيام بذلك دون خوف، والحصول على إجراءات داخلية محددة جيدًا تمكن من هذا العمل، هي في حد ذاتها آلية سلامة أساسية. … إنها تلك الثقافة التي نكتب للدفاع عنها. “رقابة طرف ثالث في الأسابيع الأخيرة، بعد أن أثار موظف سابق آخر في الشركة موجة من الذعر الوطني بشأن الذكاء الاصطناعي، مما أدى إلى دفع واشنطن لإصلاح الصناعة. قال جاكوب كوكسون، الباحث السابق في Anthropic و OpenAI ، في منشور لـ X: “لقد أمضيت السنوات الثلاث الماضية في إجراء أبحاث ما قبل التدريب في كل من OpenAI و Anthropic. لا تتصرف أي من الشركتين بمسؤولية. الأشخاص الذين يبنون الذكاء الاصطناعي يعتقدون بجدية أنه يمكن أن يقتلنا جميعًا بحلول نهاية العقد. هذه ليست حيلة تسويقية. إذا أي شيء، فإن العديد من المديرين التنفيذيين وكبار الباحثين سوف يصوغون عباراتهم في الصحافة لتبدو معقولة – لكنني أسمع نفس الأشخاص يعبرون عن خوفهم بشكل خاص. لا يوجد أي نشاط بشري آخر يشكل هذا المستوى من الخطر.