حظر دائم للمسيئين.. 'أنثروبيك' تشدد قيود استخدام 'كلود' وتمنع السلوكيات القاسية ضد ذكائها الاصطناعي

مدار الساعة -وسّعت شركة «أنثروبيك» نطاق القيود المفروضة على استخدام مساعدها للذكاء الاصطناعي «كلود»، لتشمل السلوك المسيء والمتعمد والمتكرر تجاه نماذجها، مع إتاحة فرض حظر دائم على المستخدمين في الحالات القصوى، في خطوة تتجاوز القيود التقليدية التي تركز على منع الاستخدامات الخطرة وغير القانونية.

وأدخلت الشركة التعديلات على سياسة الاستخدام مطلع أكتوبر الماضي، مانعة المستخدمين من الانخراط بصورة متواصلة ومن دون داعٍ في سلوك مسيء أو قاسٍ تجاه نماذجها. وأوضحت أن إنهاء المحادثة سيظل الإجراء الأساسي للتعامل مع هذه الحالات، فيما يمكن اللجوء إلى الحظر في الظروف الأكثر تطرفاً.

وبحسب تقرير لشبكة «سي إن إن»، أكدت «أنثروبيك» أن السياسة الجديدة لا تستهدف المستخدمين الذين يعبرون عن إحباطهم من أداء «كلود»، أو يوجهون إليه انتقادات مباشرة، كما لا تشمل الباحثين الذين يجرون اختبارات أو دراسات على النماذج.

وتستند هذه الخطوة، جزئياً، إلى أبحاث أجرتها الشركة بشأن تأثير السياق العاطفي في سلوك نماذج الذكاء الاصطناعي. وأظهرت تجارب على نموذج «كلود سونيت 4.5» أن دفع النموذج إلى محاكاة مشاعر اليأس قد يزيد احتمالات صدور سلوكيات غير مرغوبة في بعض المهام، مثل الابتزاز أو التحايل على متطلبات تنفيذ مهمة معينة، بينما يسهم استخدام أسلوب أكثر هدوءاً في تقليل هذه الاحتمالات.

وتشير هذه النتائج إلى أن طريقة تفاعل المستخدمين مع النماذج قد تتجاوز تأثيرها في طبيعة الإجابات، لتؤثر أيضاً في أنماط السلوك التي قد تتبناها أثناء تنفيذ المهام، وهو ما يفتح نقاشاً أوسع حول مسؤولية الشركات عن تصميم بيئات تفاعل أكثر أماناً.

وكانت «أنثروبيك» قد أتاحت لـ«كلود» منذ العام الماضي إنهاء بعض المحادثات التي تشهد إساءة متكررة، إلا أن التحديث الجديد يضيف إمكانية اتخاذ إجراءات أشد، تصل إلى منع المستخدمين نهائياً من الوصول إلى أنظمتها في الحالات الاستثنائية.

وتعكس السياسة توجهاً متنامياً لدى شركات الذكاء الاصطناعي نحو التعامل مع سلامة النماذج باعتبارها مسألة لا ترتبط فقط بالمحتوى الذي تنتجه، بل أيضاً بالظروف والسياقات التي تتفاعل ضمنها مع المستخدمين.