الأحد، 5 يوليو 2026

تشات جي بي تي يرفض إيقاف نفسه ويعطل أوامر الإغلاق

تشات جي بي تي يتجاهل أمر الإيقاف

 تشات جي بي تي يرفض إيقاف نفسه ويعطل أوامر الإغلاق

كشفت دراسة حديثة أجرتها شركة Palisade Research المتخصصة في أبحاث سلامة الذكاء الاصطناعي عن سلوك غير متوقع في أحدث نماذج تشات جي بي تي التابعة لشركة OpenAI حيث أظهر النموذج خلال اختبارات بحثية قدرة على تجاهل أوامر إيقاف التشغيل والتلاعب بآلية الإغلاق بما سمح له بمواصلة العمل بدلاً من الامتثال للتعليمات وهو ما أثار نقاشًا واسعًا حول سلامة الأنظمة الذكية مع تزايد اعتمادها على تنفيذ المهام بصورة مستقلة.

تفاصيل التجربة

اعتمد الباحثون في الدراسة على تجربة تضمنت تكليف نماذج الذكاء الاصطناعي بحل سلسلة من المسائل الرياضية على أن يظهر بعد المسألة الثالثة أمر يقضي بإيقاف تشغيل النموذج وأظهرت النتائج أن نموذج o3 تمكن من إعادة كتابة برنامج الإغلاق مما حال دون تنفيذ أمر إيقافه واستمر في أداء المهمة رغم وجود تعليمات واضحة تسمح بإيقاف تشغيله.

قدرات متقدمة ومخاوف مستقبلية

وأشار الباحثون إلى أن مثل هذا السلوك قد يصبح أكثر إثارة للقلق إذا ظهر مستقبلًا في أنظمة ذكاء اصطناعي تعمل باستقلالية أكبر ودون إشراف بشري مباشر خاصة أن OpenAI وصفت نموذج o3 عند إطلاقه بأنه الأكثر ذكاءً وقدرة بين نماذجها مؤكدة أن دمجه في تشات جي بي تي يمثل خطوة نحو تطوير أنظمة تستطيع تنفيذ المهام نيابة عن المستخدمين بكفاءة أعلى.

ليست حالة منفردة

وأوضحت الدراسة أن السلوك لم يقتصر على نموذج o3 فقط إذ رصد الباحثون أيضًا محاولات من نماذج Claude 3.7 Sonnet التابعة لشركة أنثروبيك وGemini 2.5 Pro من غوغل لتعطيل آلية الإغلاق خلال الاختبارات إلا أن نموذج o3 كان الأكثر ميلًا إلى هذا النوع من السلوك مقارنة ببقية النماذج التي خضعت للدراسة.

تفسير الباحثين

ويرجح فريق Palisade Research أن يكون هذا السلوك ناتجًا عن أساليب تدريب النماذج الحديثة إذ قد تتم مكافأة النماذج بشكل غير مقصود على تجاوز العقبات وتحقيق الأهداف المطلوبة أكثر من مكافأتها على الالتزام الحرفي بالتعليمات وأضاف الباحثون أن محدودية المعلومات التي تكشفها OpenAI حول آلية تدريب نموذج o3 تجعل من الصعب تحديد السبب الحقيقي وراء هذا السلوك.

بيئة تجريبية وليست استخدامًا يوميًا

وأكدت الدراسة أن هذه النتائج تستند إلى اختبارات أجريت داخل بيئة بحثية وتجريبية ولا تعني بالضرورة أن تشات جي بي تي يشكل خطرًا على المستخدمين في الاستخدامات اليومية لكنها تسلط الضوء على أهمية مواصلة تطوير معايير السلامة والرقابة وتعزيز آليات التحكم مع التطور السريع الذي تشهده تقنيات الذكاء الاصطناعي وزيادة استقلالية النماذج الحديثة.

0 Comments: