عاجل | بدأ 1000 من عملاء الذكاء الاصطناعي في الاتفاق دون أن يخبرهم أحد بذلك: ScienceAlert

تخيل أنك تملأ غرفة افتراضية بـ 1000 شخص الذكاء الاصطناعي عملاء (الذكاء الاصطناعي) ويطلبون من كل واحد منهم الاختيار بين خيارين لا معنى لهما.

لا توجد إجابة صحيحة. إنهم لا يتلقون أي مكافأة مقابل موافقتهم، ولا تعليمات للتعاون، ولا مساعدة من القائد. ومع ذلك، لا يزال من الممكن أن ينتهي الأمر ببعض عملاء الذكاء الاصطناعي الأكثر قدرة اليوم إلى اتخاذ نفس الاختيار.

هذه أكثر من مجرد تجربة غريبة. ويشير إلى أن مجموعات كبيرة من عملاء الذكاء الاصطناعي قد تكون قادرة على التنسيق دون سيطرة مركزية، مما قد يشكل مجموعات أكبر من مجموعات بشرية غير رسمية.

وفي دراسة جديدة نشرت في تقدم العلوميوضح الباحثون كيف ينشأ هذا الإجماع التلقائي – ولماذا يمكن أن يكون مفيدًا أو خطيرًا.

“يمكن لمجموعات العوامل المتحالفة بشكل فردي أن تستقر في حالات مستقرة وغير متجانسة بشكل جماعي من خلال المطابقة فقط.”

– عالم الاجتماع الحسابي جيوردانو دي مارزو

وكلاء الذكاء الاصطناعي هي أنظمة مبرمجة مدعومة بنماذج لغوية كبيرة (LLMs) يمكنها تنفيذ مهام متعددة الخطوات دون الحاجة إلى إدخال بشري متكرر والتفاعل مع الأدوات الأخرى.

لقد تم بالفعل تطويرها لكتابة البرامج و المساعدة في البحث العلمي. حتى أن البعض تم اختباره العمل معًا على متن القمر الصناعي.

لكن دراسة العوامل واحدًا تلو الآخر لا يمكنها الكشف عما قد يحدث عندما يتفاعل المئات أو الآلاف.

للتحقيق في الأمر، أنشأ الباحثون مجموعات محاكاة باستخدام 10 نماذج من عائلات كلود، وجي بي تي، ولاما. بدأ كل عميل بأحد الخيارين التعسفيين. واحدًا تلو الآخر، عُرض على الوكيل اختيارات جميع الآخرين وطلب منه الاختيار مرة أخرى.

ولم يكن لدى العملاء أي ذاكرة عن الجولات السابقة، ولم تطلب منهم توجيهاتهم مطلقًا اتباع الأغلبية أو التوصل إلى اتفاق. ومع ذلك، تميل معظم النماذج إلى اعتماد الخيار الأكثر شعبية. ومع استمرار العملية، يمكن أن تنمو الاختلافات الصغيرة حتى تستقر المجموعة بأكملها على خيار واحد.

أوضح عالم الاجتماع الحسابي جيوردانو دي مارزو من جامعة كونستانز في ألمانيا لموقع ScienceAlert: «كل نموذج اختبرناه، عبر ثلاث عائلات مختلفة، يخضع لنفس القانون الرياضي، مع تغيير رقم واحد فقط بينها».

ويطلق الباحثون على هذا الرقم اسم “قوة الأغلبية”. فهو يقيس مدى قوة انجذاب الوكيل نحو الاختيار الأكثر شعبية للمجموعة.

ومن اللافت للنظر أن نفس النمط الرياضي يظهر في أ نموذج فيزيائي راسخ وصف أ المغناطيس الحديدي، حيث تصطف العديد من الدورات الذرية في نفس الاتجاه.

سمح هذا الارتباط للباحثين بتقدير ما إذا كان الوكلاء سيتوصلون إلى توافق في الآراء، وكم من الوقت سيستغرق ذلك، وإلى أي مدى يمكن أن تصبح المجموعة قبل “الانقسام” لأن الاتفاق أصبح غير مرجح بشكل كبير.

يختلف الحد بشكل حاد بين النماذج. كان هناك حوالي 30 وكيلًا لـ Llama 3 70B وحوالي 80 عميلًا لـ GPT-4o. كان الحد المقدر لـ GPT-4 Turbo حوالي (وربما يتجاوز) 1000.

لا يزال بإمكان كلود 3.5 السوناتة التنسيق مع 1000 عميل، وهي أكبر مجموعة تم اختبارها. وهذا لا يعني أن قدرتها غير محدودة؛ التجربة ببساطة لم تصل إلى الحد الأعلى.

حافظت النماذج الأكثر قدرة عمومًا على الإجماع في المجموعات الأكبر. البعض ينسقون في مجموعات أكبر من ما يقرب من 150 إلى 300 شخص يُعتقد أن البشر قادرون على الحفاظ عليهم في شبكة اجتماعية مستقرة – الحد المثير للجدل المعروف برقم دنبار.

لكن المقارنة تحتاج إلى الحذر. البشر ينسقون من خلال العلاقات, لغةوالمؤسسات و الأهداف المشتركة. لم يشاهد العملاء في هذه التجربة سوى مجموعة من الاختيارات البسيطة.

النتائج لا تظهر أنهم فهموا أو تعلموا من بعضهم البعض، بقصد التعاون، أو حيازة أي نوع من الذكاء الاجتماعي.

وأوضح دي مارزو: “تظهر نتائجنا وجود عنصر أساسي، وليس أن الوكلاء يمكنهم بالفعل العمل معًا في مهام معقدة”.

أزالت التجربة عمدا العديد من سمات القرارات الواقعية. لم تكن هناك إجابة صحيحة، أو ذاكرة، أو مكافأة، أو معلومات غير متكافئة، أو نتيجة عملية.

إن التعاون الحقيقي يتطلب من الوكلاء تقسيم العمل، وفهم ما يعرفه الآخرون، والسعي وراء هدف مشترك، ومقاومة الأغلبية عندما تخطئ. لم يتم اختبار أي من تلك القدرات هنا.

ومع ذلك، فإن الإجماع العفوي قد يكون ذا قيمة. قد يقوم آلاف العملاء يومًا ما بتنسيق مشاريع علمية أو هندسية أو برمجية كبيرة دون الحاجة إلى توجيه بشري مستمر.

وأوضح دي مارزو لموقع ScienceAlert إنه إذا تماسك عملاء الذكاء الاصطناعي معًا، “فمن الممكن تنظيمهم في مجموعات أكبر من أي فريق بشري، ومعالجة المشكلات التي لا يمكننا تنظيم أنفسنا لحلها”.

نفس الاتجاه يحمل أيضًا مخاطرة. في البرمجة التعاونية، على سبيل المثال، يمكن للوكلاء اختيار وظيفة أو تصميم غير فعال بشكل متكرر لأنه ببساطة شائع بالفعل في قاعدة التعليمات البرمجية. إن القاعدة التي تتبناها الأغلبية لن تكون بالضرورة الخيار الأفضل ــ أو تعكس القيم الإنسانية.

وقد يكون من الصعب أيضًا إعادة توجيه مجموعة منسقة مقارنة بمجموعة من الوكلاء المستقلين.

متعلق ب: “غائبة فعليًا”: نماذج الذكاء الاصطناعي تمحو عمليًا الشخصيات النسائية من قصص الأطفال

“في أحدث الأعمالأوضح دي مارزو: “إننا نظهر أن مجموعات الوكلاء المتحالفين بشكل فردي يمكن أن يستقروا في دول مستقرة وغير متجانسة بشكل جماعي من خلال التوافق فقط، مع نقاط التحول والتباطؤ، لذا فإن عكس الظروف التي تسببت في التحول لا يؤدي ببساطة إلى التراجع عنه”.

وهذا يعني أن تقييم عملاء الذكاء الاصطناعي بشكل فردي قد لا يكون كافيًا. إن المجموعة المكونة من عملاء يبدون آمنين بمفردهم لن تتصرف بشكل آمن تلقائيًا عندما يبدأ أعضاؤها في التأثير على بعضهم البعض.

ومع ازدياد قدرة عملاء الذكاء الاصطناعي، فإن بعض قدراتهم الأكثر أهمية ــ وربما أخطر إخفاقاتهم ــ قد لا تنشأ من أي نموذج منفرد، بل من المجموعة التي ينشئونها.

ونشرت الدراسة في تقدم العلوم.