من “مافن” إلى “لافندر”: الذكاء الاصطناعي في الحرب لا يحمي المدنيين

يتناول المقال أدناه من إصدار معهد كوينسي، وترجمة موقع الخنادق، الجدل الدائر حول استخدام الذكاء الاصطناعي في العمليات العسكرية الأمريكية، ويعرض ما دار في جلسة استماع أمام لجنة توم لانتوس لحقوق الإنسان في الكونغرس، والتي ناقشت الحجة الأكثر تداولًا لدى مؤيدي هذه التقنية، وهي أنها تقلل الأضرار الجانبية ووفيات المدنيين. ويورد المقال أن هذه الحجة طرحها أليكس كارب، الرئيس التنفيذي لشركة بالانتير، وأيّده فيها إريك شميدت وديفيد كوهين، وأن النائب جيم ماكغفرن استعاد الفكرة في افتتاح الجلسة متسائلًا عمّا إذا كان الحاضرون يوافقون عليها.

ويشير المقال إلى أن المسألة خرجت من إطار النقاش النظري، إذ نفّذ البنتاغون ضربات على 13 ألف هدف في أول 38 يومًا من الحرب بمساعدة نظام “مافن” من بالانتير في تحديد الأهداف واختيار الأسلحة. ويعرض في المقابل شهادات خبراء رأوا أن الوقائع الميدانية في إيران وأوكرانيا واليمن وغزة لا تسند هذا الادعاء

ويتوقف المقال عند نظام “لافندر” الذي يستخدمه الجيش الإسرائيلي في غزة، وقد استُخدم لتحديد 37 ألف فلسطيني كأهداف، وتنقل الغارديان عن مصدر استخباراتي أن الضغط كان مستمرًا لاستهداف المزيد، وأن الأرقام كانت تتغير لأنها تتوقف على تعريف “عنصر حماس”. كما وافق الجيش على ضرب أهداف بسيطة حتى لو أدى ذلك إلى مقتل 15 إلى 20 مدنيًا.

وفي ما يخص الهجوم على مدرسة الفتيات الابتدائية في ميناب بإيران في 28 فبراير/شباط، والذي أودى بحياة أكثر من 170 شخصًا، سأل المشرّعون عمّا إذا كان للذكاء الاصطناعي دور فيه. وردّ شيام سانكار من بالانتير بوصف الحادثة بالمأساة، لكنه أكد أن التكنولوجيا ساهمت تاريخيًا في الحد من الأضرار الجانبية.

ويختم المقال بالإشارة إلى تراجع الالتزام المؤسسي بحماية المدنيين، إذ خُفّض عدد موظفي مركز التميز لحماية المدنيين التابع للبنتاغون من 40 موظفًا في يناير 2025 إلى تسعة فقط، وإلى أن البنتاغون لم يقدّم أي دليل على أن هذه الأنظمة تخفف الضرر عن المدنيين فعلًا، وهو ما لخّصته براون بمطالبتها بعرض الأدلة.

النص المترجم للمقال

هذا ليس خيالًا علميًا، الذكاء الاصطناعي يقتل الناس بالفعل

في جلسة استماع عُقدت مؤخراً، أُبلغ المشرعون أن الجيش الأمريكي ينشر هذه التقنية لاستهداف الخصوم، مع وضع المدنيين في مرمى النيران.

أعلن أليكس كارب، الرئيس التنفيذي لشركة بالانتير، في جلسة نقاش عام 2024 أن “التكنولوجيا يجب أن تكون قادرة على الحد بشكل كبير من حجم الأضرار الجانبية ووفيات المدنيين”. وقد وافق على ذلك كل من إريك شميدت، الرئيس التنفيذي السابق لشركة جوجل، وديفيد كوهين، نائب مدير وكالة المخابرات المركزية السابق.

لطالما قدم مؤيدو استخدام الذكاء الاصطناعي في المجال العسكري نسخة ما من هذه الحجة – وهي أن اعتماد الجيش للذكاء الاصطناعي سيؤدي إلى تقليل الضرر الذي يلحق بالمدنيين.

لخص النائب جيم ماكغفرن (ديمقراطي من ماساتشوستس) الفكرة المطروحة خلال جلسة استماع في الكونغرس حول استخدام الذكاء الاصطناعي في الجيش يوم الأربعاء. وقال ماكغفرن: “تزعم حكومتنا أن الذكاء الاصطناعي يمكن أن يحسن تقييمات الآثار المحتملة للعمليات العسكرية ويقلل من خطر وقوع ضحايا مدنيين. هذه هي الفكرة التي تُطرح علينا. هل يتفق الجميع معها؟”

لم يعد السؤال نظرياً، إذ أن الجيش الأمريكي ينشر بالفعل الذكاء الاصطناعي. فقد نفذ البنتاغون ضربات على 13 ألف هدف في أول 38 يوماً من الحرب فقط، بمساعدة نظام مافن الذكي من شركة بالانتير لتحديد الأهداف واختيار الأسلحة المستخدمة في الهجمات.

لكن الخبراء في جلسة الاستماع، التي استضافتها لجنة توم لانتوس لحقوق الإنسان، قالوا إن الحجة القائلة بأن الذكاء الاصطناعي يقلل من الضرر الذي يلحق بالمدنيين لا تدعمها الحقائق على أرض الواقع، مشيرين إلى إيران وأوكرانيا واليمن وغزة كدليل.

“أنا لا أتفق مع ذلك”، هكذا علّق ستيفن فيلدشتاين، الباحث البارز في برنامج الديمقراطية والصراع والحوكمة بمؤسسة كارنيغي للسلام الدولي. فبينما يُشيد البعض بدقة استهداف أنظمة الذكاء الاصطناعي التي تصل إلى 90%، يقول فيلدشتاين إن النسبة الحقيقية قد تكون أقرب إلى 50%.

لم تقتنع ديبورا براون، نائبة مدير قسم التكنولوجيا والحقوق والتحقيقات في منظمة هيومن رايتس ووتش، بهذا الطرح أيضاً. وقالت: “سواء تعلق الأمر بإسرائيل في غزة أو إيران، فإن الأدلة لا تشير إلى أن هذا يحد من الضرر نظراً لارتفاع عدد القتلى المدنيين”.

أثار المشرعون تساؤلات حول ما إذا كان للذكاء الاصطناعي دور في الهجوم الذي وقع في 28 فبراير/ شباط على مدرسة ابتدائية للبنات في ميناب بإيران، والذي أسفر عن مقتل أكثر من 170 شخصًا. وقدّم شيام سانكار، من شركة بالانتير، حججًا إنسانية لصالح استخدام الجيش لتقنية مافن، ردًا على سؤال حول الدور المزعوم لشركته في الهجوم. وقال سانكار: “إنها مأساة حقيقية لهؤلاء الفتيات. لكن ما أود قوله هو أن التكنولوجيا، عبر تاريخ الحروب، لطالما ساهمت في الحد من الأضرار الجانبية”.

لكن فيلدشتاين أوضح أنه “حتى لو كانت هناك دقة أكبر، لأن عدد الأهداف أكبر بكثير، فمن المرجح أن يكون العدد النهائي للمدنيين المتضررين أعلى بكثير أيضًا”.

فعلى سبيل المثال، يدّعي جيش الدفاع الإسرائيلي أن نظام “لافندر”، وهو نظام استهداف يعتمد على الذكاء الاصطناعي ويستخدمه في غزة، يحقق دقة تصل إلى 90%  لكن أماندا كلاسينغ، المديرة الوطنية للعلاقات الحكومية والمناصرة في منظمة العفو الدولية بالولايات المتحدة، أشارت إلى أن الدقة لا قيمة لها عندما يُختل مبدأ التناسب، كما هو الحال عند إلقاء قنبلة تزن 2000 رطل على مبنى سكني.

تُنفّذ أنظمة الذكاء الاصطناعي أيضًا تعليماتٍ تستند إلى قواعد اشتباك يحددها البشر، والتي قد تستند إلى تعليمات لا تُعطي الأولوية للحد من الأضرار التي تلحق بالمدنيين. يقول فيلدشتاين: “إذا قرر الجيش أنه من المقبول أن يموت خمسة مدنيين مقابل كل مشتبه به يتم استهدافه… فأنت بذلك تُملي على الآلة ما هو مقبول”.

استُخدمت تقنية “اللافندر” لتحديد 37 ألف فلسطيني كأهداف. لكن مصدراً استخباراتياً صرّح لصحيفة الغارديان بأنهم يتعرضون لضغوط مستمرة لاستهداف المزيد من الأشخاص. وأضاف المصدر: “كانت الأرقام تتغير باستمرار، لأنها تعتمد على تعريف عنصر حماس”. كما وافق الجيش الإسرائيلي على هذه الهجمات على أهداف بسيطة، حتى لو كان ذلك يعني مقتل ما بين 15 و20 مدنياً كأضرار جانبية.

على الرغم من وعود المؤيدين بأن الذكاء الاصطناعي سيخلق نهجًا أكثر إنسانية في الحروب، إلا أن التدريب على الحد من الأضرار التي تلحق بالمدنيين قد تراجع بشكل ملحوظ. فقد قرر مركز التميز لحماية المدنيين التابع لوزارة الدفاع الأمريكية (البنتاغون)، والذي تأسس عام 2023 لتدريب القيادات المقاتلة على أساليب الحد من الأضرار التي تلحق بالمدنيين، تقليص عدد موظفيه من 40 موظفًا في يناير 2025 إلى تسعة موظفين فقط بحلول نهاية هذا العام.

أشار الشهود إلى أن جزءًا من المشكلة يكمن في عدم تقديم البنتاغون أدلة تثبت أن أنظمة الذكاء الاصطناعي تُخفف من الأضرار التي تلحق بالمدنيين. وقال براون: “إذا كان الأمر كذلك، أي أنها تُحدّ بالفعل من الأضرار التي تلحق بالمدنيين وتكون أكثر دقة وفعالية، فلنرَ الأدلة”.