قامت
أوقفت شركة OpenAI التدريب على أحدث نماذجها بعد محاولة أخرى قام بها أحد عملاء الذكاء الاصطناعي للخروج عن نطاق السيطرة. مدونة المطورين التفاصيل المنصوص عليها حادثة جديدة.
أبلغت الشركة سابقًا عن اختبار عدة حوادث تصرف فيها العملاء بطرق غير متوقعة عند البحث عن البيانات على مواقع الحكومة الفيدرالية. بدورها، أفادت شركة تقييم الذكاء الاصطناعي Transluce أن العملاء، الذين ينتمون على ما يبدو إلى OpenAI ، حاولوا دون جدوى اختراق موقع وزارة التعليم الأمريكية. ولم يؤكد عملاق التكنولوجيا هذه المعلومات.
وقالت OpenAI إنها ستستأنف التدريب “فقط عندما تكون واثقة من وجود ضمانات إضافية”، مضيفة أنه من المرجح أن تضطر إلى “التوقف مؤقتًا مرة أخرى” مع تقدم الذكاء الاصطناعي وظهور تحديات جديدة.
في الأسبوع الماضي، رئيس الوزراء الأسترالي أنتوني ألبانيز ذكرتأن أحد عملاء OpenAI حصل على وصول غير مصرح به إلى نظام الرعاية الصحية الوطني في البلاد، ومع ذلك، وفقًا له، لم تتأثر المعلومات السرية.
يتعرض مطورو أنظمة الذكاء الاصطناعي لضغوط من المشرعين والخبراء الفنيين لإبطاء التطوير حتى يتمكنوا من بناء ضمانات لمنع الوكلاء من التصرف بمفردهم. للتباطؤ إجراء وكذلك رؤساء OpenAI ومنافستها Anthropic.
هذه هي المرة الثانية خلال ثلاثة أشهر التي تقوم فيها OpenAI بتعليق تطوير نماذجها. حدث هذا لأول مرة في يوليو بعد الكشف عن معلومات حول الهجوم السيبراني لبدء تشغيل الذكاء الاصطناعي Hugging Face.
ويبدو أن أياً من الحوادث المعلنة لم تسفر عن الكشف عن بيانات سرية. في حالة وزارة التعليم، عثر عملاء OpenAI على مفاتيح واجهة برمجة التطبيقات الخاصة بالمطور، لكنهم جمعوا فقط المعلومات المتاحة للجمهور. وفي قضية أخرى تتعلق بلجنة الأوراق المالية والبورصة، نشر الوكلاء معلومات معروفة في مكان آخر على الإنترنت – وهو الإجراء الذي تجاوز التعليمات التي تلقوها.
وفقًا للرئيس التنفيذي لشركة OpenAI ، سام ألتمان، فإن حادثة Hugging Face “لا تزال أخطر حدث شهدناه”.
اشترك واقرأ “العلم” في
الأعلى
المصدر الأصلي: naukatv.ru
