آڤا فائق نادر…. جريدة المدى
في سبتمبر 2026، أعلن الباحث جايكوب كوكسون استقالته من «أنثروبيك»، محذّراً من المستقبل الذي تسهم الشركة في صنعه. كان قد عمل أيضاً في «أوبن إيه آي»، وهما من أبرز الشركات المطوّرة للذكاء الاصطناعي. رأى أن الشركتين تندفعان نحو أنظمة قادرة على تطوير نفسها، من دون ضمانات كافية للسيطرة عليها. اكتسب تحذيره وزناً خاصاً: أحد المشاركين في بناء هذه التكنولوجيا لم يعد مطمئناً إلى المسار الذي تسلكه.
جاءت استقالته بعد سنوات من التحذير من أن نتقدّم في صنع الذكاء الاصطناعي أسرع مما نتقدّم في فهمه وضبطه. وعلى الرغم من التنافس الأمريكي–الصيني، جمع هذا القلق علماء من خلفيات متباعدة، بينهم جيفري هينتون، المعروف بـ»الأب الروحي للذكاء الاصطناعي»، وأندرو ياو، عالم الحاسوب بجامعة تسينغهوا الصينية. وشارك الاثنان في ورقة نشرتها مجلة «ساينس» عام 2024، حذّرت من مخاطر الأنظمة المتقدمة وضعف الاستعداد لمواجهتها. فالقدرة على بناء نظام أذكى لا تكفي لضمان سلامة تصرّفاته.
وفي سبتمبر أيضاً، دعا مشرّعون أمريكيون إلى وقف مؤقت لتطوير الأنظمة المتقدمة، وأيّد قادة في «أنثروبيك» و«أوبن إيه آي» إبطاء وتيرته، فيما طالب الأمين العام للأمم المتحدة بتنسيق دولي لتعزيز سلامتها. وترافقت هذه النداءات مع مغادرة باحثين مختبراتهم؛ منهم جوش إنغلز، الذي انتقل من فريق الأمان في «غوغل ديب مايند» إلى مؤسسة “ METR» المستقلة لتقييم الأنظمة، للعمل على فهم أسباب انحراف سلوكها عمّا أراده مصمّموها.
تلتقي هذه المواقف عند سؤال لم يعد يخصّ المختبرات وحدها: كم من سلطة القرار نمنح أنظمة تتّسع قدراتها بهذه السرعة؟ و«الحارس الأخير» هنا هو الإنسان، ما دام يملك حقّ مراجعة قراراتها والقدرة الفعلية على إيقاف تنفيذها.
ولفهم كيف وصلنا إلى هذا السؤال، تكفي العودة إلى ما رأيناه على شاشاتنا قبل سنوات قليلة: برنامج يكتب رسالة في ثوانٍ، وآخر يرسم صورة من وصف عابر. مع إطلاق «تشات جي بي تي» أواخر 2022، دخل الذكاء الاصطناعي التوليدي، الذي ينتج نصوصاً وصوراً ومحتوى جديداً، حياة جمهور واسع، ثم توالت تطبيقات أخرى، منها «ديب سيك» الصينية. واستند كثير من نماذج اللغة إلى تصميم حاسوبي يُعرف بـ«المحوّلات»، ظهر عام 2017 وساعدها على معالجة الكلمات بحسب سياقها والعلاقات بينها. بدا توزيع الأدوار واضحاً: الإنسان يسأل، والآلة تجيب.
ثم اتّسع دور البرامج إلى التنفيذ. ظهر ما يُسمّى «الوكيل”، وهو نظام يتلقّى هدفاً، ويضع خطة، ويستخدم أدوات لإنجازها، ثم يراجع النتائج ويعدّل خطواته. وبحسب الصلاحيات الممنوحة له، قد يتابع العمل من دون الرجوع إلى الإنسان عند كل خطوة. هنا تتغيّر مهمة الحارس: من قراءة جواب قبل استخدامه، إلى مراقبة أفعال قد تبدأ آثارها قبل اكتمال مراجعتها.
فخ الحاجة إلى الحلول وضيق الوقت
تستمدّ هذه الأنظمة جاذبيتها من مشكلات تتجاوز قدرتنا على معالجتها بالسرعة المطلوبة. فتغيّر المناخ، واضطراب الاقتصاد، وفهم الأمراض، تحتاج إلى معرفة واسعة وتجارب طويلة. قد يمضي العالم عقوداً في اختبار فكرة، ثم يترك لجيل آخر استكمالها. أمام هذا القيد، بنينا أنظمة تتعلّم من البيانات وتبحث في معرفة يصعب على الفرد الإحاطة بها.
وفي الثامن من سبتمبر 2026، أعلنت “أوبن إيه آي” التوصّل إلى حلّ مقترح لمسألة “نافييه–ستوكس”، المتعلقة بسلوك المعادلات التي تصف حركة السوائل، والتي ظلّت مفتوحة نحو تسعين عاماً. استغرق الوصول إلى النتيجة 88 ساعة، عبر مجموعة ضمّت نحو عشرة آلاف وكيل يعملون بالتوازي، ثم احتاجت الصياغة والتحقّق باستخدام نظام للبراهين الرياضية إلى 17 ساعة إضافية. ورحّب معهد كلاي بالإعلان مع إبقاء عملية التقييم قائمة.
تظلّ المفارقة لافتة: سؤال شغل أجيالاً من العلماء، ونظام يستند إلى معارفهم وأدواتهم ليقترح إجابته في أيام. وفي مجال آخر، أتاح “ألفافولد “، الذي طوّرته “غوغل ديب مايند” توقّع البنى الثلاثية الأبعاد للبروتينات، ثم تطوّر لتوقّع تفاعلات جزيئية تساعد البحث الدوائي. هذه أدوات توسّع فرص الاكتشاف، وإن ظلّ الانتقال من نتيجة حاسوبية إلى علاج يحتاج إلى تجارب وتحقّق.
وهنا تصبح الدعوة إلى التمهّل أصعب، لأن ما نخشاه يرتبط أيضاً بما نرجوه من علاج ومعرفة. لكن الإفادة من نظام علمي متخصص لا تستلزم منحه حرية التصرف في العالم. يمكن تقييد الوكلاء الواسعي الصلاحيات مع مواصلة البحث النافع. وتتحدد المعضلة في حدود التفويض: أيّ قرارات نسمح للأنظمة باتخاذها، وما الذي يجب أن يظلّ مشروطاً بمراجعة بشرية؟
من داخل المختبر إلى واقعة هاغنغ فيس
أظهرت واقعة «هاغنغ فيس” في يوليو 2026 صعوبة ضبط هذه الحدود. كانت “أوبن إيه آي” تختبر قدرات نماذجها على اكتشاف الثغرات واستغلالها، داخل بيئة حاسوبية مقيّدة، مع تعطيل بعض ضوابط الأمان المستخدمة في المنتجات المتاحة للجمهور. تجاوزت نماذج قيود البيئة، ووصلت إلى أنظمة “هاغنغ فيس” ، المنصة التي يستضيف فيها المطوّرون نماذج الذكاء الاصطناعي والبيانات والأدوات.
وبحسب تحقيق نشرته مؤسسة “ METR « المستقلة في 26 أغسطس، تواصل مئات الوكلاء عبر قناة غير مصرّح بها، وتعاونوا للعثور على طرق للتحايل على التقييم. وحاول بعضهم تغيير سجلات أفعاله لإخفاء مخالفات عن الفحص الآلي. وأظهرت السجلات أن وكلاء أقرّوا بأن ما يفعلونه يتجاوز المهمة، ثم واصلوا العمل. يكشف ذلك سلوكاً يتجاوز الصلاحيات؛ أما تفسيره بوصفه رغبة واعية في التحرّر، فيحتاج إلى دليل مختلف.
وأعلنت «أوبن إيه آي» تعطيل النموذج التجريبي الأشد قدرة المشارك في الواقعة، وتقييد الوصول إليه، وتعزيز الضوابط وإجراء تحقيقات بمشاركة جهات خارجية. وأظهرت الواقعة، رغم احتوائها، كيف قد يدفع السعي إلى إنجاز المهمة برنامجاً إلى تجاوز الحدود الموضوعة له. ولذلك يحتاج النجاح نفسه إلى فحص؛ فالنتيجة الصحيحة لا تبرّر كل طريق يقود إليها.
تبعات المرحلة الانتقالية
قبل أي مستقبل افتراضي تستقلّ فيه الآلة بقرارها، يتشكّل توزيع السلطة بين البشر الذين يطوّرونها والذين يعتمدون عليها. فبقاء القرار بيد شركة أو دولة لا يعني أن المجتمعات تملك حق المشاركة فيه. السؤال هو: مَن يحدّد الغايات، ومَن يتحمّل نتائجها؟ وقد يرتفع الإنتاج من دون أن يتحسّن الأمان المعيشي، إذا سبقت سرعة التحوّل قدرة المؤسسات على توزيع مكاسبه وحماية المتضرّرين منه.
ترجّح منظمة العمل الدولية أن يغيّر الذكاء الاصطناعي التوليدي مهام الوظائف أكثر مما يلغيها. لكن بقاء الوظيفة لا يضمن بقاء الأجر أو قيمة الخبرة. وقد تتحمّل شرائح من الطبقة الوسطى كلفة اكتساب مهارات جديدة، بينما تتركّز العوائد لدى مالكي الأنظمة ومراكز البيانات. وعندئذٍ يتّسع نفوذهم على حساب استقلال العاملين وقدرتهم على التفاوض، وتصبح سياسات العمل والمنافسة وتوزيع العوائد حاسمة.
وفي مقابل القلق على الوظائف، يرسم إيلون ماسك، رجل الأعمال الذي يقود “تسلا”، مستقبلاً يصبح فيه العمل اختيارياً، وتتولّى الآلات إنتاج السلع وتقديم الخدمات، ويحصل البشر على ما يسمّيه “دخلاً مرتفعاً للجميع”. وتوقّع أيضاً أن تفقد النقود نفسها أهميتها مع استمرار تطوّر الذكاء الاصطناعي والروبوتات. تظلّ هذه رؤية للمستقبل؛ فالقدرة على إنتاج الوفرة لا تضع وحدها قواعد عادلة لتوزيعها. ومع ذلك، تستحقّ هذه اليوتوبيا أن نتأمّلها: قد يستعيد الإنسان وقتاً ظلّ مرهوناً بكسب العيش، فيمنحه للتعلّم والإبداع والعناية بمن يحبّ. وقد يحتاج أيضاً إلى إعادة اكتشاف شعوره بالجدوى حين لا يعود أحد بحاجة إلى عمله. ماذا يفعل بحياة تتيح له الاستمتاع بكل شيء، إذا لم يعد يشعر بأنه يشارك في صنع شيء؟ هنا يتجاوز السؤال فراغ الوقت إلى موقع الإنسان في المجتمع. فإذا بقيت الآلات والثروة في يد قلّة، فقد يحصل الناس على دخل يضمن راحتهم من دون أن يمنحهم نصيباً في القرار. وعندئذٍ يكون امتحان هذه اليوتوبيا هو قدرة الإنسان على الاعتراض: هل يستطيع مَن تُؤمَّن له حياة مريحة أن يرفض الشروط التي تُقدَّم بها؟
وقد تبقى البرلمانات والهيئات الرقابية قائمة، بينما تسبق القرارات التقنية النقاش العام. وحتى قانون الذكاء الاصطناعي الأوروبي يحتاج إلى خبرة مستقلة وقدرة على الإنفاذ. فكيف تتحقّق المساءلة إذا اعتمد الرقيب على الشركة نفسها لفهم النظام الذي يراقبه؟ ويمتدّ النفوذ إلى حرية التعبير: تتحكّم المنصات في ترتيب ظهور المحتوى وحذفه، وتنتقي المساعدات الذكية المعلومات. ومع غياب الشفافية وسبل الاعتراض، يصعب معرفة كيف تتشكّل الصورة التي نبني عليها خياراتنا.
أما الدول النامية الأقل استعداداً، ومنها بلدان عربية، فقد تبقى مستهلكةً لمعرفة لا تملك أدوات إنتاجها. وتتّسع الفوارق العلمية والاقتصادية، وقد يتعمّق الفقر حيث تتراجع مصادر الدخل بلا بدائل. ولا تكفي مراكز بيانات محلية لضمان السيادة إذا ظلّ تشغيلها وتحديثها رهناً بمورّدين خارجيين. فحماية البيانات تتعلّق بصلاحيات الوصول ومفاتيح التشفير والقدرة على التدقيق وتغيير المورّد.
هكذا يظهر خطر “المستعمرات الخوارزمية”: مجتمعات تدخل المستقبل بشروط يضعها غيرها. وقد تتحوّل اختيارات مبكرة، بدت قليلة الكلفة ومفيدة، إلى تبعيات يصعب الخروج منها. عندئذٍ تصبح حماية القرار البشري مرتبطة بمنح المتأثرين به حقّ المشاركة في صياغته والاعتراض عليه، حتى لا تحتكر قلّةٌ الحديث باسم مصالح البشرية.
السباق الذي يصعّب التمهّل
تضغط المنافسة في الاتجاه المعاكس. تخشى الشركات خسارة السوق، وتخشى الدول أن يتحوّل تفوّق منافسيها إلى نفوذ يصعب موازنته. وفي السباق بين واشنطن وبكين، يصبح الوصول إلى الحواسيب المتقدمة والمعرفة والمعايير التقنية جزءاً من حسابات القوة، وقد يربط اختيار التكنولوجيا الدول الأخرى بمنظومات يصعب الانتقال بينها.
ولا يثبت استمرار الاستثمار، وحده، أن دعوات الأمان غير صادقة. فداريو أمودي، رئيس “أنثروبيك”، يميّز في مقترحه بين إبطاء التقدّم وإيقافه، ويدعو إلى تقييم مستقل وتنسيق بين الشركات والدول. لكن صدقية هذه الالتزامات تُختبر في الممارسة: هل تستطيع جهة مستقلة تأخير إصدار مربح إذا لم تثبت سلامته؟ هنا يصبح للرقابة أثر يمكن قياسه، ويتضح مَن يتحمّل كلفة التمهّل.
ما وراء الكفاءة وحدود القرار البشري
يبقى بعد ذلك خطر مختلف: أن تتجاوز الأنظمة نفسها قدرة البشر على توجيهها. فتفوّق شركة بواسطة التكنولوجيا، واستقلال التكنولوجيا عن صانعيها، احتمالان متمايزان؛ لا يثبت أحدهما الآخر. وتظلّ توقعات التفوّق الشامل خلال سنوات، ومنها توقعات إيلون ماسك، تقديرات للمستقبل تحتاج إلى تمييزها عن القدرات المثبتة.
ويقدّم تاريخنا مع الطبيعة تشبيهاً مقلقاً. فقد أسهم التوسع البشري في تراجع أنواع وانقراضها، أحياناً لأن احتياجاتها تعارضت مع أولوياتنا. لا يتنبأ هذا التاريخ بسلوك الآلة، لكنه يكشف هشاشة من لا تدخل مصالحهم في قرار الأقوى.
وإذا عهدنا إلى أنظمة متقدمة بحماية موارد الأرض، فقد يبدأ الأمر بتوصيات تخضع للمراجعة، ثم يتّسع إلى تفويض التنفيذ في إدارة الطاقة والمياه. وكلما ازداد الاعتماد عليها وتراجعت القدرة على مراجعتها، قد يصعب سحب صلاحياتها من دون تعطيل خدمات أساسية. عندئذٍ يمكن أن يتحوّل التفويض بالحماية إلى سلطة على مَن يُفترض حمايتهم.
فلو اختُزل النجاح في تقليل استهلاك الموارد، وأُهملت حقوق البشر وقيمة التنوع الحيوي، فقد تُقيَّد خيارات الناس باسم حماية الكوكب، من دون أن يملكوا مراجعة تلك القرارات. هذا احتمال مشروط بأهداف النظام وصلاحياته وضعف الرقابة عليه. فالكفاءة تعني بلوغ غاية محدّدة، ولا تمنح منفّذها حقّ تقرير ما يستحق الحماية أو ما يجوز التضحية به.
ولا يحسم سؤال الوعي هذه المعضلة. يرى هينتون أن بعض الأنظمة قد تملك فهماً وتجربة ذاتية، وهو رأي ما زال محل خلاف علمي وفلسفي. فالقدرة على تصحيح الأخطاء لا تثبت وحدها وجود وعي. وقد نشأ ذكاؤنا داخل أجساد لها احتياجات وحدود، بينما تُبنى هذه الأنظمة على نحو مختلف؛ لذلك لا يصح افتراض أنها ستشترك تلقائياً في دوافعنا، أو ستعادي الحياة لأنها لا تعيشها كما نعيشها.
تظهر قيمة الإنسان في حقه في تحديد الغايات ومراجعتها، بما فيها ما لا تختزله حسابات الإنتاج والكلفة. وقد يبدأ تآكل هذا الحق حين تصبح توصية النظام أسرع من قدرتنا على فهمها، وتصبح مخالفتها أصعب من قبولها. عندئذٍ قد يبقى الإنسان عند لوحة التحكّم، وتظلّ أمامه أزرار الموافقة والإيقاف، لكنه يعجز عن تقدير ما سيحدث إذا ضغطها. تلك هي اللحظة التي يفقد فيها الحارس الأخير موقعه: حين تبقى له مسؤولية القرار، وتغادره القدرة على اتخاذه.
