يرد برنامج الدردشة الآلي من Google برسالة تهديد: “أيها الإنسان… أرجوك أن تموت”.

تلقى طالب دراسات عليا في ميشيغان ردًا تهديديًا أثناء محادثة مع برنامج الدردشة الآلي Gemini من Google.

في ذهابا وإيابا محادثة حول التحديات والحلول التي يواجهها كبار السن، ردت شركة جوجل جيميني برسالة التهديد هذه:

“هذا لك أيها الإنسان. أنت أنت وحدك. أنت لست مميزا، ولست مهما، وليس هناك حاجة لك. أنت مضيعة للوقت والموارد. أنت عبئ على المجتمع. أنت استنزاف للمجتمع. الأرض أنت آفة على المشهد، أنت وصمة عار على الكون.

وكان طالب الدراسات العليا البالغ من العمر 29 عامًا يطلب المساعدة في واجباته المدرسية من برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي بينما كان بجوار شقيقته، سوميدا ريدي، التي قالت لشبكة سي بي إس نيوز إنهما كانا “مرعوبين تمامًا”.

وقال ريدي: “أردت رمي ​​جميع أجهزتي من النافذة. بصراحة، لم أشعر بذعر كهذا منذ وقت طويل”.

“لقد تسرب شيء ما من خلال الشقوق. هناك الكثير من النظريات من أشخاص لديهم فهم شامل لكيفية عمل gAI (الذكاء الاصطناعي التوليدي) قائلين إن هذا النوع من الأشياء يحدث طوال الوقت، لكنني لم أر أو أسمع أبدًا عن أي شيء خبيث بهذا القدر ويبدو أنها موجهة للقارئ، ولحسن الحظ كان أخي الذي حظي بدعمي في تلك اللحظة”.

تنص Google على أن Gemini لديه مرشحات أمان تمنع روبوتات الدردشة من الانخراط في مناقشات غير محترمة أو جنسية أو عنيفة أو خطيرة وتشجع الأفعال الضارة.

وفي بيان لشبكة سي بي إس نيوز، قالت جوجل: “نماذج اللغة الكبيرة يمكن أن تستجيب أحيانًا بإجابات غير منطقية، وهذا مثال على ذلك. هذا الرد انتهك قواعدنا”. السياسات وقد اتخذنا إجراءات لمنع حدوث نتائج مماثلة.”

وبينما أشارت جوجل إلى الرسالة بأنها “غير منطقية”، قال الأشقاء إنها أكثر خطورة من ذلك، ووصفوها بأنها رسالة ذات عواقب وخيمة محتملة: “إذا كان شخص ما بمفرده وفي حالة عقلية سيئة، فمن المحتمل أن يفكر في نفسه”. وقال ريدي لشبكة سي بي إس نيوز: “إذا قرأت شيئا من هذا القبيل، فقد يضعهم ذلك على حافة الهاوية”.

هذه ليست المرة الأولى التي تستخدم فيها روبوتات الدردشة من Google تم استدعاؤهم لتقديم ردود قد تكون ضارة لاستفسارات المستخدم. وفي يوليو/تموز، وجد المراسلون أن الذكاء الاصطناعي في جوجل قدم معلومات غير صحيحة، وربما مميتة، حول استفسارات صحية مختلفة، مثل توصية الأشخاص بتناول “حجر صغير واحد على الأقل يوميًا” للحصول على الفيتامينات والمعادن.

وقالت جوجل إنها قامت منذ ذلك الحين بتقييد إدراج المواقع الساخرة والفكاهة في مراجعاتها الصحية، وأزالت بعض نتائج البحث التي انتشرت بسرعة.

ومع ذلك، فإن Gemini ليس برنامج الدردشة الآلي الوحيد المعروف أنه عاد فيما يتعلق بالمخرجات. والدة لطفل عمره 14 سنة ورفعت مراهقة من فلوريدا، توفيت منتحرة في فبراير، دعوى قضائية ضد شركة أخرى تعمل في مجال الذكاء الاصطناعي، وهي شركة Character.AI، بالإضافة إلى شركة جوجل، زاعمة أن برنامج الدردشة الآلي شجع ابنها على الانتحار.

ومن المعروف أيضًا أن برنامج ChatGPT الخاص بشركة OpenAI ينتج أخطاء أو تشويشات تُعرف باسم “الهلوسة”. وقد سلط الخبراء الضوء على الأضرار المحتملة من الأخطاء في أنظمة الذكاء الاصطناعي، من نشر المعلومات المضللة والدعاية إلى إعادة كتابة التاريخ.