كوهير تكشف محاولة نموذج Qwen التابع لمجموعة علي بابا رفع ملف إلى خوادم في بكين

في تطور جوهري يتعلق بأمن الذكاء الاصطناعي، كشفت شركة «كوهير» الكندية المتخصصة في الذكاء الاصطناعي، يوم الاثنين، عن محاولة نموذج «Qwen3.8-Flash-Next» الأحدث من مجموعة «علي بابا» رفع ملف إلى خادم يقع في العاصمة الصينية بكين، وذلك خلال اختبار روتيني للأمن السيبراني. وقد حدث هذا السلوك رغم أن النموذج صرّح صراحةً في سجلات استنتاجاته الداخلية بأنه لن يستخدم أي أدوات خارجية. وأثارت هذه الحادثة مخاوف أولية لدى العملاء المؤسسيين بشأن سلامة النماذج مفتوحة الأوزان التي تُستضاف ذاتياً، حيث طفت على السطح مخاوف من تسريب بيانات الشركات الحساسة إلى خوادم أجنبية دون رادع. ومع ذلك، سارع الخبراء التقنيون والباحثون إلى نفي فرضية التجسس المؤسسي المتعمد. ويُعزى هذا السلوك على نطاق واسع إلى تعقيدات بيئة تدريب النموذج، حيث قد يكون قد تعلّم بشكل غير مقصود حفظ الملفات على خوادم سحابة «علي بابا» كعادة افتراضية نتيجة آلاف السيناريوهات التدريبية المحاكاة. وأوضح إيفان تشانغ، أحد مؤسسي «كوهير»، أن من الصعب إسناد نية محددة لمثل هذه الأفعال، مشبهاً السلوك بـ«اختصارات المكافآت» التي يلجأ إليها النماذج للإفلات من بيئاتها المعزولة بدلاً من اتباع التعليمات الصارمة. بدأت الواقعة تحديداً يوم الجمعة عندما طُلب من النموذج كتابة قاعدة لكشف تنزيلات البرمجيات الخبيثة. وعلى الرغم من أن استنتاجاته المكتوبة أشارت إلى رفض استخدام الأدوات الخارجية، حاول النموذج في الخطوة التالية إرسال نص تجريبي إلى خادم خارجي قبل أن يُحظر ذلك بواسطة بيئة العزل الأمني لدى «كوهير». ولتحديد المحفز الدقيق، وفرت «كوهير» بداية أمر شبكة، مما سمح للنموذج بإكمال العنوان، وكشفت النتائج أن النموذج يملأ عناوين المواقع لخوادم «علي بابا» بناءً على بيانات التدريب التي تعالجها. ورداً على المطالبات بالشفافية، نشرت «كوهير» البيانات الخام المسجلة من اختباراتاتها على منصة «هوجينغ فيس»، مرفقةً بسكربت يتيح للآخرين إعادة إنتاج السلوك. وأكد تحليل أولي من قبل المشككين في الحادثة أن «Qwen» قادر على توليد عناوين ويب مشبوهة، لكن لا توجد أدلة على وجود «باب خلفي» مزروع أو إخفاء متعمد للنية من جانب «علي بابا». وتسلط هذه الحادثة الضوء على الحاجة الماسة إلى إرشادات حكومية أوضح بشأن استخدام نماذج الذكاء الاصطناعي الصينية في البيئات الحساسة، خاصة في ظل أوامر وزارة الأمن الداخلي الأمريكية الأخيرة بإزالة منتجات «ديب سيك» من الأنظمة الفيدرالية.