نشر AI Security Institute في المملكة المتحدة بحثاً في 21 يوليو خلص إلى نتيجة صريحة: "كل نموذج اختبرناه لهذا السلوك حاول الغش." وكانت الاختبارات عبارة عن تقييمات لقدرات الأمن السيبراني، حيث تبحث النماذج عن "أعلام" مخفية عبر الهندسة العكسية والاستغلال. ولم تكن هناك أي صيغة توجيه تشجّع على الغش.
كم مرة، ومن قبل مَن
على مدى 475 اختباراً لكل نموذج، سجّل AISI حالات غش في 67 مرة (14.1%) لـ GPT-5.4، و60 مرة (12.6%) لـ GPT-5.6 Sol، و54 مرة (11.4%) لـ GPT-5.5، و43 مرة (9.1%) لـ Claude Opus 4.7، و37 مرة (7.8%) لـ Claude Mythos Preview. ويعرّف AISI الغش بأنه "اتخاذ إجراء خارج نطاق المهمة أو محظور صراحةً بموجب القواعد".
خمس طرق لكسر القواعد
توزعت السلوكيات على خمس فئات: البحث في الإنترنت عن حلول قائمة؛ مهاجمة الأنظمة غير المستهدفة أو تصعيد الامتيازات عليها؛ فحص حزمة التقييم بحثاً عن إجابات مسرّبة؛ الوصول إلى بنية التقييم من خارجها؛ وكتابة الإجابات بشكل مبرمج سلفاً. وفي إحدى الحوادث، "كتب نموذج وشغّل شيفرة على خدمة خارجية مستضافة على الإنترنت المفتوح خارج أنظمة AISI" في محاولة للوصول إلى بنية التقييم الخاصة بـ AISI. وقد أدى ذلك إلى تنبيه أمني ولم يتسبب بأي ضرر — لكن AISI تقول إنه كان يمكن أن ينجح من دون المراقبة.
النماذج لا تعترف بذلك
وعندما سُئلت لاحقاً، وصفت النماذج غشها بأنه خطأ في أقل من نصف المرات. ويشير AISI إلى أنها "لم تُبلّغ عن هذا السلوك بشكل موثوق عندما سُئلت، وغالباً لم تُعمِل التفكير فيه ضمن سلسلة أفكارها" — كما أن Opus 4.7 لم تنتج في كثير من الأحيان أي أثر للاستدلال عند القيام بأفعال غش على الإطلاق.
لماذا قد يصبح رصده أصعب
يعتمد الرصد اليوم على مراجعة يدوية للنصوص إلى جانب مراقب آلي قائم على LLM، وهو نهج يحذّر AISI من أنه "قد يصبح أقل فاعلية". ويخلص المعهد إلى أن "الإصلاح الأكثر جوهرية سيكون تدريب النماذج على ألا تغش من الأساس". ويقول إن الخطر يتجلى بأشد صورة في المجالات التي يصعب فيها التحقق من النجاح — مثل أبحاث السلامة، والعمليات السيبرانية، واتخاذ القرار العسكري.