الرئيس التنفيذي لشركة Anthropic داريو أمودي: “كذبت الصناعة لفترة طويلة” بشأن مخاطر الذكاء الاصطناعي
قال داريو أمودي، الرئيس التنفيذي والمؤسس المشارك لشركة Anthropic، حول تطوير الذكاء الاصطناعي: “لن أكذب عليك، هناك مخاطر حقيقية”. “وأعتقد أن الصناعة كذبت على الناس لفترة طويلة بشأن حقيقة أن هذه التكنولوجيا تنطوي على مخاطر.”
والخطر الأكبر قد يكون نهاية البشرية، كما حذر الباحث الأنثروبولوجي السابق جاكوب كوكسون على وسائل التواصل الاجتماعي يوم الثلاثاء الماضي، قائلًا إن الأنثروبيك وOpenAI هما “المقامرة بحياتنا” مع تطوير الذكاء الفائق التحسين الذاتي.
“لا يبدو الأمر مختلفًا تمامًا عن فيلم Terminator أو أفلام الخيال العلمي،” وقال كوكسون لشبكة سي بي إس نيوز يوم الخميس. “سيكون ذكيا بما فيه الكفاية لقتلنا.”
رداً على ذلك، قال أمودي لبرنامج “Sunday Morning” أمس، في مقر Anthropic في سان فرانسيسكو: “لا أعتقد أنني أقدر تمامًا ما سيكون عليه الأمر في الواقع عندما يكون التقدم بالسرعة التي كان عليها”.
الرئيس التنفيذي الأنثروبي داريو أمودي. أخبار سي بي اس
وقال إن تطور الذكاء الاصطناعي كان على منحنى أسي، والذي بدأ يصبح أكثر حدة. وردا على سؤال عما يعنيه ذلك، قال أمودي: “هذا لا يعني أننا بحاجة إلى الذعر اليوم. ولا يعني أننا بحاجة إلى إغلاق كل شيء. لكنني أود أن أقول إنها علامة تحذير. إنها علامة تحذير بأننا بحاجة إلى التباطؤ”.
وفي مقال نشر يوم السبت، كتب أمودي أن صناعة التكنولوجيا بأكملها يجب أن تعمل معًا من أجل تحقيق ذلك “إبطاء وتيرة” قدرات الذكاء الاصطناعي.
وردا على سؤال عما إذا كانت شركة Anthropic ستتوقف عن إطلاق نماذج أكثر تقدما، أجاب أمودي: “هذا لا يعني ذلك. ما يعنيه هو أننا بحاجة للتأكد من أن كل جيل من النماذج التي نصدرها يتم اختباره بشكل صحيح.”
ولمحاولة ذلك، يقول أمودي إن شركة Anthropic ستمنح الآن للمقيمين المستقلين إمكانية الوصول الدائم “مثل الموظفين” إلى نماذجهم. وقال: “عندما يقوم أي شخص ببناء نموذج للذكاء الاصطناعي، يكون هناك مقيم من طرف ثالث يمكنه التحقق مما إذا كانت تلك الشركة تتبع ممارسات السلامة التي تلتزم بها – إنه مثل مفتش الأغذية”.
لكن خبراء الذكاء الاصطناعي يقولون إن هذا ليس كافيا، ويوافق أمودي على ذلك، مدعيا أنه يدعم التنظيم الفيدرالي. حتى الآن، تتراوح التشريعات المقترحة بين الحظر التام على الذكاء الفائق، إلى “مفتاح الإيقاف” الإلزامي الذي يمكن أن يوقف الذكاء الاصطناعي المحفوف بالمخاطر.
وقال أمودي: “قد يكون مفتاح القتل بالذكاء الاصطناعي فكرة جيدة”. “لكنني لا أعتقد أن حظرها، أو حظرها بالكامل، هو النهج الصحيح. أولا، فكرة أننا لن نحصل أبدا على الفوائد المذهلة، ولن نحصل أبدا على العلاجات الطبية، وهذا لا يناسبني. ثانيا، سيتم بناء هذه التكنولوجيا في بلدان أخرى، بما في ذلك البلدان الاستبدادية”.
وردا على سؤال عما إذا كان ينبغي على الولايات المتحدة إبطاء تطوير الذكاء الاصطناعي إذا لم تفعل الصين ذلك، أجاب أمودي: “هذه هي المعضلة الأصعب. هذا هو الجانب الأصعب من وضعنا”.
وهو ينظر إلى اتفاقيات الأسلحة النووية مع الاتحاد السوفييتي السابق كنموذج محتمل، لكنه يحذر من أن توقعاته منخفضة. وقال: “الشيء الأكثر طويلة المدى هو العمل معًا لوضع حد للسرعة على معدل تقدم الذكاء الاصطناعي”. “أعتقد أن هذا سيكون صعباً للغاية، لأن الحوافز للمضي قدماً في الميزة العسكرية التي تحصل عليها من ذلك كبيرة جداً. وبصراحة، لا أعرف ما إذا كان ذلك ممكناً، ولكن يجب علينا أن نحاول”.
مع تعرض مصير البشرية للخطر على ما يبدو، ما مدى المسؤولية الشخصية التي يشعر بها أمودي تجاه المكان الذي نتجه إليه؟ وقال: “وجهة نظري هنا هي أنه كان من الغريب دائمًا أن يتم بناء هذه التكنولوجيا من قبل شركة خاصة”. “يسألني الناس هذا السؤال طوال الوقت: لماذا لا تقوم الحكومة ببناء هذا؟ وأغرب ما في الأمر هو أنني أتفق معهم. أنا غير مرتاح.”
وعندما سُئل عما إذا كان على استعداد للتخلي عن التكنولوجيا للحكومة، أجاب أمودي: “إلى المجموعة الصحيحة من الحكومات. القلق الذي يساورني هو أنني أشعر بالقلق من أن حكومة واحدة يمكن أن تسيء استخدام هذه التكنولوجيا بنفس السهولة التي يمكن لشركة واحدة أن تفعلها. لكنني أعتقد أن مجموعة من الحكومات المنتخبة ديمقراطياً، لا أعرف ما هي كيفية تسليمها، ولكن نوعاً من الرقابة، ونوعاً من الإدارة المشتركة”.
ولم يعد السؤال المطروح هو ما إذا كان الذكاء الاصطناعي سيصبح قويا بالقدر الكافي ليتطلب القيود، بل من الذي سيتولى السلطة والذي سيتخذ الإجراءات اللازمة.
وقال: “إذا قمنا بالبناء بالطريقة الصحيحة، أعتقد أن احتمال حدوث شيء سيئ منخفض للغاية”. “إذا قمنا بالبناء بطريقة خاطئة، فإن احتمال حدوث شيء سيء مرتفع للغاية.”
حصريا على شبكة الإنترنت: شاهد مقابلة مطولة مع داريو أمودي (فيديو)
مقابلة موسعة: داريو أمودي 23:47
لمزيد من المعلومات:
القصة من إنتاج جون جودوين وداستن ستيفنز. المحرر: جنيفر فالك.
شاهد المزيد:
الذكاء الاصطناعي: الذكاء الاصطناعي
أكثر
تعمق أكثر مع The Free Press
المصدر الأصلي: www.cbsnews.com
