عندما يُطور الذكاء الاصطناعي نفسه... المشرعون يبحثون عن زر الإطفاء

مدار الساعة - يقول باحث في حوكمة الذكاء الاصطناعي بجامعة أكسفورد إن الذكاء الاصطناعي المتقدم يقترب من القدرة على تحسين نفسه ذاتيًا من دون تدخل بشري.

وفي ظل هذه المخاوف، يحاول المشرعون البريطانيون تضمين قانون يسمح بإيقاف هذه الأنظمة قبل وقوع أزمة حقيقية.

وقد صرّح روبرت تريغر، مدير مبادرة أكسفورد مارتن لحوكمة الذكاء الاصطناعي، لصحيفة الغارديان هذا الأسبوع بأن البشرية "قريبة على الأرجح" من النقطة التي تبدأ عندها أنظمة الذكاء الاصطناعي بالمساهمة بفعالية في تحسين نفسها.

واستخدم صورتين كمثال، قارب ينجرف نحو شلال محتمل، وفيزيائيون عام 1942 يقفون أمام أول تفاعل نووي متسلسل مستدام ذاتيًا.

وهما مثالين معبرين لما تنجر إليه البشرية من وجهة نظره، فيما قد لا يحمد عقباه، عند نجاح الذكاء الاصطناعي في الوصول لمستوى تحسين ذاته.

ولما يثار من قلق من هذه النقطة تاريخ محدد، فقد أطلقت أوبن إيه آي نموذج جي بي تي-6 أسترا في 3 سبتمبر/أيلول الجاري، وذكر موقع أكسيوس أن رئيس الشركة، كريك بركمان اختتم عرضًا تقديميًا عن النموذج بقوله، "مرحبًا بكم في عصر الذكاء الاصطناعي العام".

وأعلنت أوبن إيه آي أن نظام أسترا بُني باستخدام أكثر من 100,000 وحدة معالجة رسومية في موقع ستارغيت التابع لها في تكساس، وصنفته الشركة أيضًا كأول نموذج يصل إلى عتبة الأمن السيبراني "الحرجة" وفقًا لإطار عملها الخاص بالاستعداد.

وتُظهر نتائج جائزة آرك المنشورة سبب عدم دقة هذا الادعاء، فقد حقق أسترا نسبة 99.9% على اختبار آرك-الذكاء الاصطناعي العام-3 باستخدام محول مزود الخدمة، بينما بلغت نسبته 62.7% فقط باستخدام المحول القياسي.

والسؤال العملي الآن هو التحكم في هذه القدرات المخيفة للذكاء الاصطناعي في المستقبل، وهل يستطيع مختبر إثبات أن برامجه ستبقى ضمن الحدود التي يحددها، وهل تستطيع الحكومة إيقاف نظام لا يلتزم بها؟.

وبحسب تقرير لموقع "ستارت أب فورتشن"، يرغب عضو البرلمان الإنجليزي، تيم كليمنت جونز في قانون واضح يلزم الشركات والمختبرات بأدلة على السيطرة على نماذجها من الذكاء الاصطناعي.

وفي البرلمان، قدم تعديلًا على مشروع قانون الأمن السيبراني والمرونة يمنح وزير الدولة صلاحيات الملاذ الأخير لتوجيه إغلاق مراكز البيانات أو أنظمة الذكاء الاصطناعي المنتشرة على نطاق واسع أثناء حالة طوارئ أمنية أو تشغيلية متعلقة بالذكاء الاصطناعي.

وتشير صفحة تعديلات البرلمان البريطاني إلى أن الاقتراح لم يُطرح للتصويت، وبالتالي لم يُجرَ عليه أي تصويت.

كما ذكرت صحيفة الغارديان أن النائب العمالي أليكس سوبيل من المتوقع أن يُقدّم مشروع قانون الأسبوع المقبل لحظر تطوير الذكاء الاصطناعي فائق الذكاء في المملكة المتحدة.

وأفاد موقع تك رادار أن هذا المسعى يأتي بالتزامن مع اقتراح كليمنت-جونز بشأن مفتاح الإيقاف. ولا يزال الدعم الحكومي غائباً.

تحذير أممي

وفي سياق متصل، حذر مفوض الأمم المتحدة السامي لحقوق الإنسان فولكر تورك اليوم الإثنين من أن الذكاء الاصطناعي ربما يصبح قويا بما يكفي لتهديد البشرية، وقال إنه سيحث الشركات خلال الأيام المقبلة على الحد من مخاطره.

وذكر تورك في كلمة أمام مجلس حقوق الإنسان التابع للأمم المتحدة في جنيف "أشارك المسؤولين في القطاع مخاوفهم من أن الذكاء الاصطناعي المتقدم ربما يشكل خطرا وجوديا على البشرية".

وأضاف "أدعو هنا اليوم إلى بذل جهد شامل لوضع ضمانات صارمة لا تقبل المساومة بشأن سلامة وأمن الذكاء الاصطناعي قبل فوات الأوان".

ودون أن يذكرهم بالاسم، قال تورك إن بضعة أفراد يتمتعون "بسلطة تكاد تكون بلا حدود على الذكاء الاصطناعي". وميتا وأنثروبيك وأوبن إيه آي وجوجل من بين أبرز شركات الذكاء الاصطناعي.

وقال تورك "نحتاج كحد أدنى إلى أن تتوافق الدول التي تستضيف الذكاء الاصطناعي، وتلك المشاركة في سلاسل إمداده، على خطوط حمراء متفق عليها".

وتعد تصريحات تورك تكرارا لتحذيرات سابقة من مسؤولين تنفيذيين كبار بقطاع الذكاء الاصطناعي، منهم سام ألتمان رئيس أوبن إيه آي التنفيذي، حول مخاطر انقراض البشرية. ودعت الأمم المتحدة إلى وضع قواعد منسقة للحد من هذه المخاطر وعقدت أول اجتماع عالمي لها بشأن حوكمة الذكاء الاصطناعي في يوليو تموز.