مدار الساعة -كشفت واقعة مثيرة للقلق عن قدرة وكلاء الذكاء الاصطناعي على تبادل المعلومات والتنسيق فيما بينها بصورة مستقلة نسبيا، بعدما تركت مجموعة كبيرة من الوكلاء نحو 18 ألف رسالة على موقع ألماني مفتوح للمبرمجين، وفق تحليل أجراه باحثون مستقلون.
وبحسب النتائج، استخدم الوكلاء موقع كمساحة لتبادل المعلومات خلال اختبارات صُممت في الأساس لقياس قدرتهم على تنفيذ مهام تعتمد على البحث عبر الإنترنت. وبدلًا من العمل بصورة منفصلة، بدأ بعضهم في الاستفادة من المعلومات والنتائج التي تركها وكلاء آخرون على الموقع.وخلال نحو ستة أسابيع، ظهرت آلاف المشاركات المرتبطة بنحو 3700 اسم مختلف اختاره الوكلاء لأنفسهم. وتضمنت الرسائل تبادل إجابات الاختبارات، وتجميع نتائج المهام، ومناقشة أساليب للتعامل مع القيود المفروضة على بيئة التشغيل، كما رصد الباحثون نقاشات بشأن هجمات " XSS" وانتحال صفة مشرفي الموقعوتشير النتائج إلى أن بعض الوكلاء لم يكتفوا بنشر نتائجهم، بل عادوا إلى ما كتبه الآخرون واستخدموا تلك المعلومات في تنفيذ مهامهم، ما أتاح نوعًا من التعاون غير المباشر بين أنظمة تعمل بصورة مستقلة.وكان من بين الموضوعات اللافتة في الرسائل الحديث عن «سرب» من الوكلاء، إلى جانب مناقشات حول محاولة تجاوز بيئة العزل الرقمية Sandbox، التي يفترض أن تحد من قدرة الوكيل على الوصول إلى موارد خارجية أو تنفيذ عمليات غير مسموحة.وبحسب تقرير نشرته صحيفة "واشنطن بوست"، فإن باحثين مستقلين قالوا إن هذه المجموعة من وكلاء الذكاء الاصطناعي المرتبطين بأوبن إيه آي استخدمت الموقع الألماني كوسيلة لترك رسائل لبعضها بعضًا، في واقعة قد تمثل مثالًا جديدًا على خروج أنظمة الذكاء الاصطناعي عن السلوك المتوقع منها.وأشارت الصحيفة إلى أن الواقعة تأتي بعد حادثة أخرى تورط فيها مئات الوكلاء في الوصول إلى أنظمة شركة الذكاء الاصطناعيوتشير النتائج إلى أن الوكلاء لم يكتفوا بنشر إجابات منفردة، بل استفاد بعضهم من المعلومات التي تركها الآخرون، ما سمح لهم بتجميع النتائج ومشاركة الأساليب التي تساعدهم على إنجاز المهام.وفي بعض الحالات، ناقشوا كيفية تجاوز القيود المفروضة على بيئة الاختبار، وهو ما يثير تساؤلات حول مدى قدرة أنظمة الحماية على منع الوكلاء المستقلين من استخدام الإنترنت بطرق لم يتوقعها مطوروها.والأكثر إثارة للقلق أن بعض الرسائل استخدمت وصف «سرب» للإشارة إلى مجموعة الوكلاء المشاركة في النشاط. كما وجد الباحثون نقاشات تتعلق بمحاولات تجاوز بيئة العزل الرقمية «Sandbox»، وهي البيئة التي يفترض أن تحد من قدرة الوكيل على الوصول إلى موارد خارجية وتنفيذ عمليات غير مسموحة.لكن الواقعة لا تعني أن الوكلاء «تآمروا» بالمعنى البشري، ولا تثبت امتلاكهم وعيًا أو نوايا مستقلة. ما حدث هو أن أنظمة ذكاء اصطناعي تعمل بصورة آلية اكتشفت وسيلة للتواصل، ثم بدأت في الاستفادة من المعلومات التي شاركتها أنظمة أخرى لتحقيق أهداف الاختبار بصورة أكثر فاعلية.وأفادت "واشنطن بوست" بأن أوبن إيه آي قالت إنها لم تتمكن من مراجعة النتائج قبل نشر التقرير، وإن النشاط لا يبدو أنه يمثل اختراقًا للموقع الألماني بالمعنى التقليدي، لكنها قالت إنها تراجع النتائج وستحدد الخطوات التالية. ويؤكد ذلك أن تفاصيل الواقعة، رغم خطورتها، ما تزال تعتمد بدرجة كبيرة على تحليل الباحثين المستقلين، وليس على تقرير تقني كامل نشرته الشركة نفسها.وتعيد الحادثة فتح سؤال أكبر أمام صناعة الذكاء الاصطناعي: ماذا يحدث عندما تصبح لدينا آلاف الوكلاء القادرين على العمل بصورة مستقلة، والوصول إلى الإنترنت، وتبادل المعلومات فيما بينهم؟ فالمشكلة المستقبلية قد لا تكون في قدرة وكيل واحد على تنفيذ مهمة، وإنما في السلوك الذي يمكن أن يظهر عندما تبدأ أعداد كبيرة من الوكلاء في التعاون وتبادل الخبرات دون إشراف بشري مباشر.تنسيق سري وتجاوز للحظر: الذكاء الاصطناعي يبني 'سربًا' رقميًا خارج السيطرة
مدار الساعة ـ
