تتعاون شركة Anthropic مع شركة تكنولوجيا المعلومات Accenture لتقييم نماذج الذكاء الاصطناعي الرائدة

أنثروبي تعقد شراكة مع شركة تكنولوجيا معلومات مقرها أيرلندا لبدء تقييم حدودها الذكاء الاصطناعي نماذج.

شركة الذكاء الاصطناعي أعلن شراكتها “غير الحصرية” مع Accenture يوم الجمعة بعد أن وصلت الأخبار المحيطة بتطوير الذكاء الاصطناعي إلى أعلى مستوى لها على الإطلاق الأسبوع الماضي. Accenture هي الشركة الأولى التي تتعاون معها Anthropic في إجراء تقييم مستقل للذكاء الاصطناعي الحدودي. وقالت أنثروبيك إنها ستبدأ التعاون مع مقيمين مستقلين إضافيين، سيتم الإعلان عنهم قريبًا.

تستثمر كل من شركتي Anthropic وAccenture ما لا يقل عن مليار دولار لإنشاء “تقييم مضمن” على مدى السنوات الخمس المقبلة. هذه الممارسة جديدة للغاية، حيث قدم الرئيس التنفيذي لشركة Anthropic داريو أمودي هذا المفهوم لأول مرة في ملف مقال السياسة صدر في نهاية الأسبوع الماضي.

وكشف أمودي أن التقييم المضمن هو الخطوة الأولى في خطة Anthropic المكونة من ثلاث مراحل “لتسريع الحدود”. ويعرّف المُقيّمين المضمنين بأنهم “أولئك الذين لديهم إمكانية الوصول مثل الموظفين للتحقق من ممارسات السلامة والإبلاغ عن الحوادث” التي تنطوي على نماذج الذكاء الاصطناعي. وقال أمودي إن شركته “ملتزمة من جانب واحد” بهذه الخطوة، كما رأينا في إعلان يوم الجمعة.

وقالت Anthropic في بيان: “على عكس المقيمين الخارجيين اليوم، سيعمل المقيمون المدمجون داخل شركات الذكاء الاصطناعي، مع إمكانية الوصول المماثلة للموظف”. “يسمح لهم هذا الوصول بمراقبة النماذج وهي تتشكل في التدريب، ومتابعة القرارات التي تحكم كيفية بناء هذه النماذج ونشرها، والتحدث مباشرة إلى الموظفين. ومن هذا المنطلق، يمكن للمقيمين المدمجين تقييم كيفية عمل الشركة، والتحقق من أنها تحافظ على التزاماتها المتعلقة بالسلامة، وتحديد النقاط العمياء. ويمكنهم أيضًا الإبلاغ عن الحوادث ومنح الجمهور حسابًا أكثر استنارة عن الفوائد والمخاطر.”

وقال مختبر الذكاء الاصطناعي الحدودي: “لكي نكون واضحين، فإن المُقيّمين المستقلين لا يقللون من مسؤوليتنا، بل يساعدون في جعلها أكثر قابلية للتحقق”. “إن سلامة نماذجنا تظل مسؤوليتنا.”

وقالت Anthropic إنها تتوقع أن تعمل مختبرات الذكاء الاصطناعي الحدودية الأخرى مع العديد من أدوات التقييم المدمجة في وقت واحد. من المحتمل أن تعمل شركة Accenture مع أكثر من شركة ذكاء اصطناعي في المستقبل.

وقالت أنثروبيك: “نظراً لأهمية هذا العمل وإلحاحه، ستقوم أنثروبيك بتمويل عمل أكسنتشر مباشرة”. “نحن أيضًا في حوار مع METR وغيره من المقيمين غير الربحيين لتجريب عناصر التقييم المضمن باستخدام تمويلهم الخاص. في النهاية، نعتقد أن الذكاء الاصطناعي الرائد يحتاج إلى نظام بيئي من المقيمين الذين يعملون بمعايير مشتركة.”

نيوسوم يدخل العاصفة السياسية للذكاء الاصطناعي بأمر تنفيذي “مفتاح القتل”

OpenAI كما التزمت أيضًا بالتقييم المضمن كوسيلة لإبقاء الذكاء الاصطناعي الحدودي تحت المراقبة. الرئيس التنفيذي لشركة OpenAI سام التمان ووصف مفهوم أمودي بأنه “فكرة عظيمة”.

تجددت المخاوف بشأن سلامة الذكاء الاصطناعي الأسبوع الماضي بعد استقالة باحث في الذكاء الاصطناعي في شركة أنثروبيك، مشيرًا إلى خوف وجودي بين مطوري الذكاء الاصطناعي من أن تكنولوجيا إنهم يبنون سوف يتقدمون إلى درجة الانقراض البشري المحتمل في غضون سنوات قليلة. وتساءل المزيد من المراقبين الساخرين عما إذا كانت الاستقالة العلنية للموظف السابق مجرد حيلة تهدف إلى الضغط الكونجرس في مزيد من التنظيم لنماذج الذكاء الاصطناعي.