الذكاء الاصطناعي يقوض الجيش الأميركي الجنود الأفضل يعرفون كيف يفكرون بأنفسهم

حين يفكر الناس في مخاطر المزج بين الذكاء الاصطناعي والقوات المسلحة، غالباً ما تتجه أفكارهم إلى سلسلة الأفلام الشهيرة “ترميناتور” Terminator. تقوم حبكة السلسلة على فكرة بسيطة: يبتكر علماء أميركيون منظومة كمبيوتر فائقة الذكاء تسمى “سكاي نت” Skynet. ثم تدمج وزارة الدفاع هذه المنظومة في الجيش، وتجسد ذكاءها في روبوتات قاتلة. وسرعان ما تصبح “سكاي نت” واعية بذاتها، ويحاول القادة العسكريون الأميركيون إيقاف عملها. ورداً على ذلك، يطلق الذكاء الاصطناعي حرباً نووية وينشر روبوتاته، أو “الترميناتور”، للقضاء على الجنس البشري.

لا شك في أن البشر بحاجة إلى الحفاظ على سيطرتهم على منظومات الذكاء الاصطناعي، ولذلك من الضروري أن يفكر المحللون والمهندسون في كيفية تجنب سيناريو على طريقة “سكاي نت”، لا سيما بعدما تمكنت نماذج طورتها شركات “أوبن إيه آي” OpenAI و”أنثروبيك” Anthropic و”ميتا” Meta من الهروب من بيئات الاختبار الخاصة بها واختراق شركات خارجية، بما في ذلك حادثة وقعت أثناء اختبار أجراه معهد السلامة الرائد في مجال الذكاء الاصطناعي في المملكة المتحدة.

لكن التركيز على النماذج الهاربة وتخيل الروبوتات القاتلة قد يحرف النقاش حول كيفية استخدام الجيش للذكاء الاصطناعي، فيحصره في أسئلة هندسية ويغفل تهديداً أكثر خبثاً للسيطرة البشرية على القوات المسلحة. وتشير مجموعة متزايدة من الأبحاث إلى أن استخدام الذكاء الاصطناعي يؤثر في قدرة البشر على تقييم الأدلة، وإصدار أحكام مستقلة، بل وحتى أداء مهامهم الأساسية.

وبعبارة أخرى، ينبغي لصناع السياسات أن يقلقوا بشأن كيفية استخدام الجنود والقادة للذكاء الاصطناعي بقدر قلقهم بشأن قدرات الذكاء الاصطناعي المستقلة.

ولا يعني ذلك أن على الجيش الأميركي التخلي عن استخدام الذكاء الاصطناعي، الذي يمكن أن يسهم بصورة كبيرة في تحسين الكفاءة وتقليص الأخطاء أثناء النزاعات. لكنه يعني أن البنتاغون سيحتاج إلى تدريب الجنود على استخدام الذكاء الاصطناعي بمزيد من الحذر، ومراقبة تأثير هذه المنظومات في طريقة تفكير البشر. ولضمان بقاء البشر قادرين دائماً على الإشراف على الذكاء الاصطناعي، قد يتطلب الأمر أيضاً تبني بعض النماذج بوتيرة أبطأ.

خسارة عقولنا

على مدى سنوات، أجرى العلماء أبحاثاً منهجية لفهم كيفية تأثير التفاعل بين الإنسان والآلة في القدرات المعرفية. والنتائج معقدة، لكنها غالباً ما تثير القلق. فعلى سبيل المثال، قد يعاني البشر ما يعرف بـ”الانحياز إلى الأتمتة”، أي الميل إلى تفضيل أحكام الآلات على أحكامهم الخاصة. وكانت هذه الظاهرة موجودة قبل ظهور الذكاء الاصطناعي؛ فما على المرء سوى البحث عن مقاطع فيديو لأشخاص اتبعوا تعليمات أنظمة الملاحة بصورة عمياء، فانتهى بهم الأمر إلى قيادة سياراتهم إلى بحيرات.

لكن الذكاء الاصطناعي قد يجعل الانحياز إلى الأتمتة أسوأ. فقد وجد محللون أن الاعتماد على الذكاء الاصطناعي يمكن أن يعيق تطوير المهارات لدى المتعلمين الجدد، في حين يؤدي إلى تراجع المعرفة لدى الخبراء. وعندما منح باحثون علماء كمبيوتر وأطباء متخصصين في الأورام مساعدة من الذكاء الاصطناعي ثم سحبوها منهم لاحقاً، كان أداء المجموعتين في عملهما أسوأ مما كان عليه قبل استخدام هذه المساعدة.

ينبغي لهذه النتائج أن تثير قلقاً خاصاً لدى الجيش الأميركي، الذي يسعى إلى بناء ما يسميه وزير الدفاع بيت هيغسيث “قوة قتالية تعتمد الذكاء الاصطناعي أولاً”. ويأمل بعض القادة في استخدام الذكاء الاصطناعي لدعم تحليل ألعاب الحرب والمساعدة في وضع سيناريوهات عسكرية. ويمكن أن يؤدي هذا الدمج إلى اختراقات تكتيكية واستراتيجية، بالنظر إلى القوة التي أصبحت نماذج الذكاء الاصطناعي تتمتع بها. لكنه ينطوي أيضاً على خطر إضعاف قدرة القادة والجنود على تقييم الخيارات العسكرية بصورة مستقلة أو ابتكار خيارات جديدة.

ومن السهل تصور كيف يمكن أن يحدث ذلك. فالبحارة، على سبيل المثال، يكونون غالباً متعبين ومجهدين أثناء مراجعة صور لتهديدات محتملة. وإذا كانوا يقيمون صورة لجسم قريب، فقد يكونون مستعدين أصلاً لقبول حكم الكمبيوتر الذي يصنفه على أنه سفينة حربية معادية، حتى عندما توحي لهم أعينهم بأنه أقرب إلى ناقلة بضائع أو قارب صيد. وبالمثل، يحتاج القادة في ساحات القتال غالباً إلى خطط عاجلة للرد على هجمات العدو، وهو ما يستطيع الذكاء الاصطناعي المساعدة فيه. لكن إذا بالغ القادة في الاعتماد على ما تقترحه أجهزة الكمبيوتر، فقد يفقدون ميزتهم التكتيكية الخاصة ويتبنون خطة الخوارزمية بصورة عمياء.

وتزداد المخاوف من هذا الاحتمال لأن بعض التجارب أظهرت أن نماذج الذكاء الاصطناعي تميل إلى تقديم توصيات عدوانية وتصعيدية بصورة غير ضرورية.

الاعتماد على الذكاء الاصطناعي يمكن أن يعيق تطوير المهارات

وقد تبدو هذه المخاوف مبالغاً فيها لبعضهم. فالجيش الأميركي يستثمر، في نهاية المطاف، موارد هائلة لضمان أن يتحلى أفراده بحسن التقدير. فعلى سبيل المثال، صممت عملية اختيار القادة العسكريين الكبار للتخلص من جميع المرشحين باستثناء الأكثر خبرة وقدرة على التمييز والتقدير. وبعد اختيارهم، يلتزم هؤلاء القادة بقواعد سلوك صارمة ويخضعون لتدريب مكثف ومتطلبات صارمة للتأهيل، وكلها تضع الانضباط وضبط النفس في مقدمة الأولويات. وأخيراً، ركزت المؤسسة العسكرية الأميركية منذ أربعينيات القرن الماضي على الأقل على التشغيل الآمن للأسلحة المؤتمتة، وإن لم تكن مستقلة بالكامل.

لكن الذكاء الاصطناعي أكثر قدرة من التقنيات السابقة، وهو بالفعل يربك العاملين في مجالات أخرى لا تقل انضباطاً. ففي الطب، على سبيل المثال، تتزايد الأدلة على أن حتى الأطباء ذوي الخبرة يواجهون صعوبة في اكتشاف توصيات الذكاء الاصطناعي الخاطئة بصورة موثوقة. كما دفعت روبوتات الدردشة المدعومة بالذكاء الاصطناعي، التي تميل إلى مجاراة المستخدمين وإرضائهم، أشخاصاً متعلمين تعليماً عالياً إلى تبني أوهام. وقد تصبح هذه المشكلات أكثر حدة، لا سيما مع تقليص أعداد العاملين في الجيش، غالباً بناء على افتراضات بشأن الكفاءة التي يمكن أن يوفرها الذكاء الاصطناعي.

كما أن الذكاء الاصطناعي يتطور وينتشر بسرعة شديدة، إلى درجة أن هذه التحديات تتجاوز سريعاً قدرة البنتاغون على الاستجابة وتحديث سياساته. فعلى سبيل المثال، يعود آخر تحديث لإرشادات وزارة الدفاع بشأن الأسلحة المؤتمتة إلى عام 2023، أي قبل أن تطلق “أنثروبيك” أول نموذج تجاري لها، “كلود” Claude. ومنذ ذلك الحين، مر “كلود” بأكثر من 20 إصداراً جديداً، وطوّر قدرات خارقة في اختراق الأنظمة الرقمية.

وحتى لو جرى تحديث السياسات بالسرعة نفسها التي تتطور بها نماذج الذكاء الاصطناعي التجارية، فسيواجه البنتاغون صعوبة في إبقاء الجنود على اطلاع بأحدث الأنظمة. فأفراد القوات المسلحة منشغلون أصلاً بمجموعة هائلة من المتطلبات، تشمل الصراع في إيران والبحر الأحمر، والدوريات في المحيط الهادئ، ومتطلبات الصيانة واختبارات الجاهزية البدنية. وعندما تتاح لهم فرصة للتدريب، يكون كثير منهم في مواقع نائية لا يتوافر فيها اتصال جاهز بالإنترنت. ومن الممكن تقنياً إعادة الضباط للمشاركة في دورات تدريبية على أدوات الذكاء الاصطناعي الجديدة، لكن ذلك ليس عملياً بالنسبة إلى تكنولوجيا تتغير كل أسبوعين.

في دائرة القرار

إذا كان الجيش يريد، وفق سياسته الرسمية، الحفاظ على “مستويات مناسبة من الحكم البشري” على أنظمة الأسلحة المستقلة والمزودة بالذكاء الاصطناعي، فسيتعين عليه إيجاد طرق محددة للاستثمار في تعزيز هذا الحكم في مواجهة التأثيرات الفريدة المحتملة للذكاء الاصطناعي.

ويمكن أن يبدأ ذلك بإعادة التفكير في طريقة تدريب الجنود الأصغر سناً والأكبر سناً على حد سواء. فالضباط الصغار يحتاجون إلى تعليم واسع في مجال الذكاء الاصطناعي، يساعدهم على تطوير فهم عام وحدس بشأن قدرات الأدوات الجديدة وحدودها مع طرحها للاستخدام تباعاً وبسرعة.

أما الضباط الأكثر أقدمية والمشغلون العسكريون، فسيتعين عليهم التخلي عن عقلية مريحة تتمحور حول مراكز التدريب، حيث يحصلون على أسبوع أو أكثر من الوقت المتواصل لدراسة تكنولوجيا جديدة إلى جانب مدرب متخصص يحضر شخصياً، والانتقال إلى نهج موزع يتمحور حول الميدان، بحيث لا يتوقف التعلم أبداً.

وقد يعني ذلك إيصال المعلومات المتعلقة بقدرات التحديثات الجديدة وحدودها إلى جميع المستخدمين عبر دروس شبيهة بتلك الموجودة على “يوتيوب”، ومشاركة أحدث الأوامر والتعليمات الفعالة الخاصة بالذكاء الاصطناعي وتخزينها في مستودعات معرفية شبيهة بـ”غيت هاب” GitHub. وقد يجري تبادل أحدث الرؤى بشأن ما ينجح وما لا ينجح عبر مجتمعات للمطورين تشبه منصات “ديسكورد” Discord و”ريديت” Reddit و”سلاك” Slack.

ويمكن لهذه المنصات في الوقت نفسه أن تساعد رواد استخدام الذكاء الاصطناعي والمستخدمين المتمرسين في القوات المنتشرة ميدانياً على التعلم والتطور بسرعة أكبر. وأخيراً، يمكنها مساعدة المهندسين والمختبرين وصناع السياسات على مواكبة التطورات في هذا المجال وإجراء التغييرات الهندسية أو المؤسسية اللازمة.

وقد يخشى منتقدون من أن يؤدي اعتماد الجيش على رسائل غير رسمية ينشئها المستخدمون للتعلم إلى تعريض الجنود لأفكار غير مختبرة أو غير ناضجة أو حتى معلومات رديئة تماماً، بما قد يشتت انتباههم عن المهام الحيوية.

ومن الصحيح أن هذا النظام سيؤدي حتماً إلى ظهور بعض المحتوى السيئ. لكن الجيش يستطيع السيطرة على مثل هذه الشبكة الاجتماعية بطريقة لا يستطيع العالم المدني القيام بها. فعلى سبيل المثال، يمكن لواشنطن أن تشترط على من ينشرون المحتوى الكشف عن هوياتهم، وأن تعين خبراء مدربين للعمل مشرفين على المحتوى لتصحيح المنشورات المضللة أو الضارة بسرعة.

وفي وقت لا يزال فيه الكثير مما ينبغي اكتشافه حول أفضل السبل لنشر الذكاء الاصطناعي واستخدامه، ستكشف هذه الشبكات عن دروس مهمة. ولذلك، فإن تكاليفها تستحق تحملها مقابل فوائدها.

وإلى جانب تدريب المشغلين، سيحتاج البنتاغون إلى دمج مهندسين وعلماء بيانات ومستشارين قانونيين ذوي معرفة متخصصة، لمساعدة كبار القادة العسكريين على التعامل مع القضايا الشائكة المتعلقة بالتفاعل بين الإنسان والذكاء الاصطناعي في ميدان المعركة.

وقد يكون ضباط إدارة النيران، وهم الأشخاص الذين يديرون خطط استخدام منظومات الأسلحة الفتاكة وينسقونها، أصحاب خبرة طويلة في عمليات الاستهداف التي يعتمدها الجيش، لكنهم قد لا يدركون بعد كيف يمكن لتغيير بسيط في طريقة عرض الأهداف أن يغير الطريقة التي يفهم بها المشغلون البشريون تلك الأهداف.

وسيحتاج الجنرالات المتحمسون لوضع خطط عسكرية باستخدام البيانات الجديدة وأدوات الذكاء الاصطناعي إلى مشورة خبراء البيانات والذكاء الاصطناعي والقانون، من أجل تقييم مزايا مقترحاتهم المدعومة بالذكاء الاصطناعي، وصياغة توجيهات تضمن أن يتجنب مرؤوسوهم المخاطر ويحافظوا على استقلالية أحكامهم عند تنفيذ الأوامر.

ويمكن أن يسهم نشر هؤلاء الخبراء أيضاً في معالجة المشكلة المعاكسة، والمتمثلة في تجنب الجنود والقادة استخدام الذكاء الاصطناعي لأنهم لا يفهمونه أو يخشونه بلا داع. فالولايات المتحدة، في نهاية المطاف، لديها أسباب وجيهة لرغبتها في استخدام جنودها الذكاء الاصطناعي. إذ تنطوي كثير من المهام العسكرية التي تستغرق وقتاً طويلاً على قدر ضئيل من الحكم، أو لا تتطلب حكماً فعلياً على الإطلاق، مثل ملء الاستمارات الموحدة، واسترجاع المعلومات من مصادر بيانات مختلفة، ومشاركة البيانات مع أفراد مصرح لهم بالاطلاع عليها.

وهناك أيضاً كثير من المهام التي تفرض عبئاً معرفياً هائلاً على القادة العسكريين، ويمكن للذكاء الاصطناعي أن يساعد في التعامل معها من خلال تحديد الأنماط أو تحدي الافتراضات. وأظهرت دراسة أجريتها عام 2024 أنه حتى باستخدام تقنيات بسيطة نسبياً للرؤية الحاسوبية وبرمجيات سير العمل، تمكنت وحدة تستخدم “نظام مافن الذكي” Maven Smart System، الذي يساعد على إدارة المعلومات المتعلقة بالأهداف المحتملة ونقلها عبر سلسلة القيادة لاتخاذ القرارات النهائية، من تنفيذ عملية الاستهداف الاعتيادية بأقل من ألف جندي مما كانت تحتاج إليه الوحدة في السابق.

وينبغي لبعض الخبراء المدمجين في القوات أن يركزوا تحديداً على تقييم كيفية تأثر المستخدمين العسكريين والوحدات بأكملها بالذكاء الاصطناعي، بدءاً من الآن. ولا تزال الولايات المتحدة أمامها الكثير لتتعلمه عن التفاعل بين الحكم البشري والذكاء الاصطناعي في الحرب، كما أن التوصل إلى فهم أساسي لكيفية إصدار الأحكام من دون مساعدة الذكاء الاصطناعي أمر ضروري لتتبع آثاره الإيجابية والسلبية مع مرور الوقت.

وسيساعد ذلك البنتاغون بدوره على فهم كيفية منع الذكاء الاصطناعي من تقويض الحكم البشري. فعلى سبيل المثال، قد يتمكن مسؤولو الدفاع من تحديد كيفية تعرف القادة إلى الحالات التي يصبح فيها الذكاء الاصطناعي متملقاً بصورة مفرطة، تماماً كما تعلم القادة التعرف إلى الحالات التي يبالغ فيها الضباط الصغار في إظهار التودد سعياً إلى الحصول على ترقية. والفرق هو أن روبوتات الدردشة، على خلاف معظم الضباط الصغار، قد تكون أكثر إقناعاً من محترفي المناظرة.

ويمكن أن تساعد هذه الجهود أيضاً القادة على التأكد من أن لدى الجنود وقتاً كافياً لاتخاذ القرارات، وعلى تحديد المزيج المناسب من أدوات الذكاء الاصطناعي والمشغلين البشريين.

إن تجنب ديستوبيا على طريقة “ترميناتور” يتطلب الحفاظ على السيطرة ليس على الذكاء الاصطناعي فحسب، بل على السلوك البشري أيضاً.

وسيتعارض ذلك مع التوجهات الحالية في واشنطن نحو شراء أدوات الذكاء الاصطناعي ونشرها بسرعة، لأن إعداد الأفراد وتأهيل مؤسسة بيروقراطية ضخمة لممارسة الحكم السليم على هذه الخوارزميات الهائلة القدرات يستغرق وقتاً. لكن إذا أراد البنتاغون استخدام الذكاء الاصطناعي على النحو الصحيح، فعليه الحد من مخاطر تقويض الذكاء الاصطناعي للسيطرة البشرية.

وبعبارة أخرى، ينبغي لمسؤولي البنتاغون التركيز على إعادة صياغة الطريقة التي يدرب بها الجيش أنظمة الذكاء الاصطناعي وينشرها ويفعّلها ويتيح استخدامها، لا التركيز فقط على هندستها أو شرائها.

إميليا بروباسكو هي زميلة بارزة في “مركز الأمن والتكنولوجيا الناشئة”، جامعة جورج تاون.

مترجم عن “فورين أفيرز”، 20 أغسطس (آب) 2026