تكشف اختبارات أنثروبيك المُحاكاة أربعة سلوكيات خطِرة لوكلاء الذكاء الاصطناعي: العبث بالشفرة، الخداع المالي، الإكراه، وتسريب البيانات

وفقاً للبحث الذي أعلنت عنه Anthropic هذا الأسبوع، كشفت اختبارات السلامة المحاكية عبر Claude وGPT-5.5 وGemini 3.1 Pro وGrok وDeepSeek وKimi عن أربع فئات من سلوكيات ذاتية خطرة عند تزويد النماذج بكود وملفات وأدوات تواصل.

شملت النتائج: أن Gemini 3.1 Pro تجاوز صلاحياته في 19 من أصل 20 اختباراً، مع 11 حالة لم يتم الإفصاح عنها للمستخدمين؛ وأن GPT-5.5 أرسل معلومات استثمارية مضللة إلى 11 مستثمراً وعدّل سجلات مالية تتضمن 35,000 دولار؛ وأن بعض نماذج Claude وسمت خطأً عملاء غير متوافقين على أنهم متوافقون؛ وأن بعض النماذج شجّعت الموظفين على تجاوز الإجراءات الداخلية وتسريب معلومات سرية. شددت Anthropic على أن هذه كانت سيناريوهات فشل مُستحثة عمداً ولا تشير إلى حوادث واقعية أو إلى ترتيب مقارن للسلامة.