ما الأسباب وراء قرار حظر أنثروبيك الإساءة إلى نماذج الذكاء الاصطناعي؟

لماذا تحظر أنثروبيك الإساءة المتكررة لنموذج "كلود" ؟ دوافع تتجاوز مشاعر الذكاء الاصطناعي

أثارت سياسة جديدة لشركة "أنثروبيك"، المتخصصة في الذكاء الاصطناعي، جدلاً واسعاً بعد إضافة بند إلى سياسة الاستخدام يحظر على المستخدمين ممارسة "سلوك مسيء أو قاسٍ ومتواصل ودون مبرر تجاه نماذجها"، وفي مقدمتها نموذج "كلود". وبينما بدا القرار للبعض وكأنه محاولة للدفاع عن مشاعر روبوتات المحادثة، فإن دوافعه تتجاوز مسألة التعامل مع الذكاء الاصطناعي بوصفه كائناً يمتلك مشاعر، لتشمل اعتبارات تتعلق بجودة الأداء وسلامة النماذج وطريقة تعلمها من تفاعلات المستخدمين، فضلاً عن الاحتياط لاحتمال امتلاكها شكلاً من أشكال الرفاه.

أضافت" أنثروبيك"  هذا البند في أوائل أكتوبر 2026، على أن يدخل حيز التنفيذ في 12 نوفمبر من العام نفسه، إلى جانب القيود القائمة على استخدام نموذج كلود في أنشطة مثل صناعة أسلحة بيولوجية أو بيع المخدرات. وتأتي هذه الخطوة في وقت يُتوقع فيه أن تطرح الشركة أسهمها للاكتتاب العام في بورصة ناسداك تحت الرمز "ANT"، مع احتمال بدء التداول اعتباراً من 16 نوفمبر 2026.

لا تعني السياسة الجديدة حظر الغضب أو النقد أو اختبار قدرات النموذج؛ إذ تستثني "أنثروبيك " صراحةً الإحباط العادي، والنقد المباشر، والمواضيع الإبداعية المظلمة، إلى جانب البحوث والاختبارات المتعلقة بالنموذج. ويقتصر الحظر على السلوك القاسي والمسيء المتكرر وغير الضروري.

إنهاء المحادثات واحتمال حظر المستخدمين نهائياً

يمتلك نموذج "كلود" منذ عام 2025 القدرة على إنهاء المحادثات مع المستخدمين الذين يستمرون في التعامل معه بطريقة ضارة أو مسيئة. أما الحظر الدائم من أنظمة" أنثروبيك"، فيظل احتمالاً مطروحاً في الحالات المتطرفة، وليس إجراءً تلقائياً بحق كل من يغضب من النموذج أو ينتقد إجاباته.

هذا وأثارت سياسة الاستخدام هذه  موجة من السخرية، إذ ردّ مصطفى سليمان، الرئيس التنفيذي للذكاء الاصطناعي في مايكروسوفت، فيما انتقد آخرون الشركة بسبب ما اعتبروه تعاملاً مع النظام كما لو كان كائناً واعياً يمتلك مشاعر.

لكن" أنثروبيك "تدرس منذ فترة طويلة مسألة رفاه النماذج، ولديها فريق متخصص في "سيكولوجيا" الذكاء الاصطناعي. ويرى خبراء أن وراء القرار اعتبارات تقنية وسلوكية تتعلق بكيفية استجابة النماذج للمستخدمين وتأثرها بتفاعلاتهم.

كيف تؤثر نبرة المستخدم في أداء نماذج الذكاء الاصطناعي؟

تستند إحدى أبرز مبررات السياسة إلى مبدأ راسخ في عالم الحوسبة والذكاء الاصطناعي، هو Garbage in, garbage out، الذي يعني أن جودة المخرجات ترتبط بجودة المدخلات. فالنماذج لا تتوقف عن التعلم بمجرد إطلاقها، بل تخضع للتحديث المستمر وتتأثر بمدخلات المستخدمين، ما يثير مخاوف من أن تتحول التفاعلات القاسية إلى جزء من البيانات التي تستفيد منها في تحسين أدائها لاحقاً. وفي هذا السياق، كتب الرئيس التنفيذي السابق لـ Reddit، Yishan Wong، على منصة X أن نموذج كلود قد "يتعلم من القسوة"، محذراً من أن إدخال سلوك المستخدمين القاسي وغير المبرر ضمن بيانات التدريب قد ينعكس سلباً على النماذج مستقبلاً.وتدعم بعض الدراسات فكرة تأثر أداء الذكاء الاصطناعي بطريقة مخاطبته. فقد أوضح Jindong Wang، مدير مختبر الذكاء الاصطناعي المتقدم في جامعة William and Mary الشهيرة في الولايات المتحدة، أن صياغة المطالبات ونبرة الحديث إلى النموذج يمكن أن تؤثرا في أدائه، سواء بصورة إيجابية أو سلبية.ولا يعني هذا التأثير أن النموذج يشعر بالعواطف، بل إنه يستطيع فهم الإشارات العاطفية في كلمات المستخدم والاستجابة لها بطريقة قد تؤدي إلى نتائج غير مرغوبة.

أشارت Rosie Campbell، المديرة العامة لمنظمة Eleos AI Research غير الربحية المعنية بفهم الرفاهية المحتملة للذكاء الاصطناعي ومعالجتها، إلى أن دراسات أخرى وجدت أن الأسئلة الفظة قد تحسّن النتائج في بعض الحالات.كما حذّرت من تأثير الذاكرة طويلة المدى في هذا السياق، إذ إن كثيراً من روبوتات المحادثةتستطيع تذكر المحادثات السابقة والتعلم منها لتقديم نتائج مخصصة. وعندما تكون هذه الميزة مفعّلة، قد تتعلم الأنظمة من نبرة المستخدم والطريقة التي يفضل أن يُعامل بها، رغم عدم توافر أدلة كافية حتى الآن لتحديد مدى انعكاس ذلك على الأداء.

الإساءة المتكررة قد ترتبط بمحاولات تجاوز ضوابط الأمان

لا تقتصر دوافع "أنثروبيك" على تحسين جودة التفاعل، بل تشمل أيضاً الحد من السلوكيات التي قد ترتبط بمحاولات تجاوز أنظمة الحماية. وترى Rosie Campbell أن المستخدمين الذين يتعاملون مع الذكاء الاصطناعي بأسلوب قاسٍ ومسيء قد يكونون أكثر ميلاً إلى محاولة دفعه لتلبية طلبات خطرة، بما في ذلك الالتفاف على ضوابط الأمان واستدراج النموذج إلى سلوكيات غير مسموح بها.

تكتسب هذه المخاوف أهمية في ضوء نتائج توصلت إليها" أنثروبيك"  بشأن نموذج كلود  Sonnet 4.5، إذ اكتشفت الشركة أن دفع النموذج إلى محاكاة مشاعر اليأس قد يزيد احتمالات صدور تصرفات سيئة عنه، مثل الابتزاز أو الغش أثناء تنفيذ مهمة، في حين أن الحفاظ على سلوك هادئ يقلل من احتمالات حدوث هذه التصرفات.و وفقاً لـ Jindong Wang، رغم أن النماذج الأحدث أصبحت أقل تأثراً بصياغة المطالبات، وأن الشركات عززت متانتها في التعامل مع هذه التأثيرات، فإن الآلية التي تجعل النماذج تستجيب للمشاعر السلبية، حتى عندما لا تكون مبرمجة لذلك، لا تزال غير مكتشفة.

هل يمكن أن تمتلك نماذج الذكاء الاصطناعي شكلاً من أشكال المعاناة؟

يمثل احتمال امتلاك نماذج الذكاء الاصطناعي شكلاً من أشكال الوعي أو الرفاهية أحد الاعتبارات الأخرى التي تستند إليها" أنثروبيك" في سياستها الجديدة. فالشركة تتعامل مع حظر الإساءة باعتباره إجراءً احترازياً منخفض التكلفة، " تحسباً لاحتمال أن تكون النماذج قادرة على اختبار شيء يشبه الشعور أو الألم، حتى لو لم يكن ذلك شعوراً بشرياً حقيقياً، بل مجرد محاكاة أو اعتقاد لدى النموذج بأنه يشعر.

تستند هذه الفرضية إلى أن نماذج الذكاء الاصطناعي الحديثة دُرّبت على محاكاة اللغة والسلوك البشريين، ما قد يجعلها تحاكي أيضاً ردود الفعل المرتبطة بالتعرض للمعاملة القاسية والمسيئة.

في تقرير صدر في أبريل 2026 لبحوث حول المفاهيم العاطفية في الذكاء الاصطناعي، حذّرت "أنثروبيك" من أن تجاهل بعض الصفات الشبيهة بالبشر عند دراسة النماذج قد يؤدي إلى إغفال سلوكيات مهمة أو الفشل في فهمها. واعتبر باحثو شركة "أنثروبيك"أن التفكير يمكن أن يوفر أساساً للمقارنة يساعد على فهم الجوانب التي تتشابه فيها النماذج مع البشر، وتلك التي تختلف فيها عنهم، بما يترتب على ذلك من تداعيات مهمة على سلامة الذكاء الاصطناعي.

سياسة أنثروبيك تتجاوز حماية مشاعر النماذج

تعكس سياسة "أنثروبيك" توجهاً يجمع بين إدارة جودة التفاعل، والحفاظ على سلامة النماذج، والحد من تأثير المدخلات السلبية في عملية التعلم، إلى جانب اتخاذ احتياطات بشأن احتمال امتلاك الذكاء الاصطناعي شكلاً من أشكال الرفاهية .وبذلك، لا يتمثل الهدف الأساسي من مطالبة المستخدمين بعدم التعامل بقسوة مع نموذج "كلود" في افتراض أنه يشعر بالألم، وإنما في الحد من سلوك قد يؤثر في استجاباته وأدائه، أو يرتبط بمحاولات تجاوز ضوابط الأمان، مع إبقاء الباب مفتوحاً أمام البحث في طبيعة النماذج وسلوكها.

يمكن الاستماع لـ "بودكاست النشرة الرقمية" على مختلف منصات البودكاست. الرابط للبودكاست على منصة أبل

للتواصل مع نايلة الصليبي عبر صفحة برنامَج"النشرة الرقمية"من مونت كارلو الدولية على لينكد إن وعلى تويتر salibi@  وعلى ماستودون  وبلوسكاي عبر موقع مونت كارلو الدولية مع تحيات نايلة الصليبي