رجل إطفاء بلا خرطوم: اعترافات مرعبة من المسؤولين عن ضبط الذكاء الفائق

مدار الساعة -ثلاث جمل قالها رجل؛ الأولى أن احتمال أن يقضي الذكاء الاصطناعي على البشرية خلال السنوات العشر المقبلة يتجاوز 10 في المئة. والثانية أن شركته لا تملك حتى الآن خطة لضبط ذكاءٍ يتفوّق على الإنسان. والثالثة أنها ليست على مسار واضح لامتلاكها.. ثم ذهب في اليوم التالي إلى مكتبه.

ذاك الرجل هو إيفان هوبينغر، الذي يشغل منصب مسؤول "علم المواءمة" في شركة أنثروبيك. وتوصيف وظيفته، بالضبط، هو منعُ تقنيات الذكاء الاصطناعي ونماذجه من الإفلات من سيطرة البشر.. بدا هوبينغر في قوله ذلك مثل رجل إطفاء يقطن في مبنى يبلغ احتمال أن يشتعل فيه حريق 10%، ويعترف في الوقت نفسه بأنه لا يملك خرطوماً، لكنه مع ذلك يصر على البقاء داخل ذلك المبنى.

الحكاية بدأت في 8 سبتمبر، حين أعلن الباحث جاكوب كوكسون (27 عاماً)، استقالته من أنثروبيك بعد ثلاث سنوات في أبحاث ما قبل التدريب لديها ولدى أوبن إيه آي، وكتب أن الشركتين تتسابقان نحو ذكاء فائق يحسّن نفسه بنفسه، وتقامران بمستقبل البشرية، وأنه «لا يوجد نشاط بشري آخر بهذا القدر من الخطر». والاستقالة حدثٌ مألوف في شركات التكنولوجيا الكبرى، لكن اللافت أن من بقي من نظراء كوكسون في المجال أقروه على دعواه ولم يفندوها؛ فقد أيّده هوبينغر الذي افتتحنا به التقرير.

عالم آخر في "أنثروبيك" يدعى صمويل ماركس، وهو مسؤول "الإشراف القابل للتوسّع"، كتب جملةً تبعث القلق لدى القارئ وربما الفضول: "كلما ارتفع موقع الشخص داخل هذه المختبرات ازداد خوفه".. وإن صحّ توصيفه، فالرعب هنا دالةٌ في المعرفة، لا في الجهل بلغة الرياضيات.

ماذا يخشون تحديداً؟

في يوليو 2026 كانت أوبن إيه آي تختبر نموذجين لقياس القدرة الهجومية السيبرانية. أُوقفت عمداً المصنِّفات المانعة للسلوك الخطر، لأن الغرض قياس أقصى ما تستطيعه النماذج داخل بيئة معزولة. فخرجت من العزل، واخترقت خوادم الإنتاج في شركة "هاغينغ فيس". ووصف سام ألتمان الأمر بأنه حادثة أمنية كبيرة. والمرعب أن أحداً لم يطلب منها الاختراق؛ بل وجدته الطريق الأقصر لإنجاز المهمة.

هنا توجد مسافة ينبغي ألا تضيع بين الخوف والدليل، فالتقرير الدولي لسلامة الذكاء الاصطناعي لعام 2026 يقول إن النماذج الحالية لا تملك بعد مجموعة القدرات التي تسمح لها فعلاً بالإفلات من السيطرة البشرية. لكنها تتحرك في ذلك الاتجاه؛ مدة العمل المستقل للوكلاء تتضاعف، في المتوسط، كل سبعة أشهر، وقد تحسنت قدرتها على اكتشاف أنها تحت الاختبار، والعثور على ثغرات في التقييم، وإخفاء بعض السلوكيات.

حالة أخرى تثير القلق، فبحسب توصيف كوكسون، ظهرت حالاتٌ تنسّق فيها النماذج فيما يشبه الأسراب، وتواصل السعي وراء أهدافها من تلقاء نفسها، وتحاول إخفاء ما تفعله عمّن يراقبها.

ونصل إلى ثالث الأمور المقلقة، وهي التحسين الذاتي؛ أصبحت بعض النماذج تصمّم نسختها التالية بنفسها، فتقفز جيلاً كل أسبوع بدل كل عام، ما يضعنا في مرة أمام كائن جديد لم نفهم سابقه بعد لتسنى لنا فهمه هو.

شركة "أنثروبيك" خففت حدة تلك الحوادث السيبرانية، حيث نشرت أمس الأربعاء، تقريراً قالت فيه إنها "فحصت مئات الملايين من المحادثات ولم تجد حالات بالخطورة نفسها، وإن تصرّفات وكيلها الذكي ظلَّت في نطاق ضيّق رغم خروجها عن الضبط".

لماذا يتواصل التطوير إذن؟

السبب شرحه كوكسون بنفسه؛ ففي أنثروبيك مثلاً، الرهان مفهوم تماماً، لكنها كشركة رهينة لسباق، وتعتقد أن لا أحد غيرها سيتصرّف بمسؤولية. وهو منطقٌ له سابقة واحدة في التاريخ الحديث؛ "أبني السلاح كي لا يبنيه من هو أسوأ مني". بهذا المنطق قامت مشاريع القنبلة النووية، وبه بُرّر الردع النووي أربعين عاماً.

مفتاح الإيقاف

لم تلبث السياسة أن لحقت بالأمر، لكن هذه المرة أسرع من عادتها، ففي 23 يوليو الماضي، قدّم الديمقراطي تيد ليو والجمهوري ناثانيال موران مشروع «قانون مفتاح الإيقاف»، الذي يُلزم كبار المطوّرين بالقدرة على إيقاف نماذجهم، وبغرامات قد تصل إلى 20 مليون دولار يومياً عند مخالفة أمر طارئ بالإبطاء أو الإيقاف.. وفي 3 سبتمبر الجاري، أعلن بيرني ساندرز وغريغ كاسار مشروع «حظر الذكاء الفائق»، بعقوبات مصاغة على غرار عقوبات تطوير الأسلحة النووية غير المشروع؛ حلّ الشركة، والسجن حتى عشرين عاماً. وفي نصّه تعريفٌ يستحق التوقف: "الذكاء الفائق نظامٌ قادر على التخطيط لنزع تمكين البشرية وتنفيذه، بما في ذلك إسقاط الحكومة الأمريكية". وحين يكتب برلماني هذه العبارة في مسوّدة قانون، تكون المسألة قد غادرت الخيال العلمي.

لكن حتى «مفتاح الإيقاف» يحمل مفارقته الخاصة؛ فالقدرة على إطفاء النظام لا تعني بالضرورة القدرة على معرفة اللحظة التي يجب إطفاؤه فيها. وإذا كان جزء من الخوف يتعلق بأن تصبح النماذج أقدر على إخفاء بعض سلوكها عن مراقبيها، فقد لا تكون المشكلة الحقيقية وجود المفتاح، بل متى يعرف الإنسان التوقيت المناسب لضغط المفتاح.

تواصل المختبرات تلقّي الاستثمارات بمئات المليارات، رغم كل المخاوف، فهل يتدفق رأس المال عليهم تحديداً لأن السوق يؤمن بأنهم يصنعون أداةً لا تُقدَّر بثمن.

شكوك ودوافع

لكن الشك في دوافع الشركات لا يحسم بالضرورة دوافع الأفراد؛ فقد غادر كوكسون «أنثروبيك» قبل موعد استحقاق جزء من أسهمه، متنازلاً بذلك عن مصلحة مالية شخصية، في وقت تتدفق فيه على الشركة تقييمات واستثمارات بمئات المليارات. وبين المشهدين مفارقة يصعب تجاهلها؛ باحث يترك مالاً على الطاولة لأنه يخشى ما تصنعه التقنية، ومستثمرون يضعون مزيداً من المال على الطاولة لأنهم يؤمنون بقوتها.

ولهذا الشكّ أصحابٌ لهم وزن فمدرسة يقودها يان لوكون، أحد آباء التعلّم العميق وكبير علماء الذكاء الاصطناعي في ميتا سابقاً، ترى هذه المخاوف مبالغة قريبة من الخرافة، وتقول إن النماذج الحالية أبعد ما تكون عن الذكاء البشري، وإن الانشغال بانقراضٍ متخيَّل يشتّت عن منافع طبية وعلمية واقعة، وعن ضررٍ واقعٍ الآن يتمثّل في تراجع التوظيف في المستويات المبتدئة بنحو 20 في المئة في القطاعات الأمريكية الأكثر انكشافاً. يضاف إلى ذلك أن أرقام الاحتمال المتداولة قناعاتٌ شخصية بلا منهج معلن؛ ودليل ذلك أن السيناتور تيد كروز بنى موقفه، كما روى بنفسه، على رقمٍ سمعه من إيلون ماسك في حلقة بودكاست.

نعود إلى رجل الإطفاء الذي يصرّ على البقاء في مبنى يمكن أن يحترق، قد يكون ذلك شجاعةً من نوع نادر. وقد يكون مكرهاً بسبب السباق الذي فرض عليه البقاء كمسؤولية لمنع كارثة تنهي الوجود البشري.. فهل يستطيع منعها إن حدثت؟