نموذج «GPT‑6 أسترا» من MIT يفتح نافذةً داخل الصناديق السوداء للذكاء الاصطناعي ويُصلّحها
نموذج GPT‑6 أسترا من MIT يقرأ ويُعيد تشكيل نماذج الذكاء الاصطناعي الأخرى، معزّزاً الأداء الرياضي ومقلّلاً للتحيّز دون الحاجة لإعادة تدريب شاملة.
ف
··دقيقتان قراءةفريق تحرير ساي تك
هيئة التحرير

كشف فريق من معهد ماساتشوستس للتكنولوجيا (MIT) قدرة نموذج GPT‑6 أسترا على اختراق الصناديق السوداء للشبكات العصبية الأخرى وإعادة تشكيل بنيتها الداخلية، ما يمثل خطوة رائدة في مجال الذكاء الاصطناعي. يُصنّف الباحثون هذا النموذج كـ "ميكانيكي" للذكاء الاصطناعي، إذ يستطيع قراءة القيم الأولية (raw internal values) لشبكات زميلة ثم تعديلها لتحسين أدائها، وقد نُشر هذا الإنجاز في مسودة أولية بتاريخ 2 نوفمبر.
تم تدريب GPT‑6 أسترا عبر نهج تعلم ميتا (meta‑learning) عرّضه على آلاف خرائط التفعيل (activation maps) من نماذج محوّلة (transformer‑based models) متعددة. من خلال ربط أنماط معينة من القيم الداخلية بالأدوار الوظيفية—مثل تمثيل الرموز (token‑embedding) أو اختيار رؤوس الانتباه (attention‑head) أو حساب طبقة الإخراج—يستطيع النموذج توقع ما تقوم به كل وحدة داخل شبكة غير مألوفة بدقة تقارب 92 ٪.
في تجربة تطبيقية، طُلب من أسترا تعزيز قدرات نموذج لغوي على حل المسائل الرياضية. بعد تعديل مستهدف لعدد محدود من الخلايا العصبية، ارتفع معدل نجاح النموذج في اختبار رياضي قياسي من 68 ٪ إلى 84 ٪. وفي تجربة ثانية، عُرض على أسترا نموذج رؤية يُظهر تحيّزاً جنسياً؛ فحدّد الوحدات المسببة للانحياز وخفض المقياس المتعلق به بنسبة 37 ٪ دون الإضرار بدقة النموذج العامة.
قالت الدكتورة لينا تشين، الباحثة المسؤولة عن الدراسة: "إمكانية تشخيص وإصلاح شبكة عصبية دون الحاجة لإعادة بنائها من الصفر قد تُقصر دورات التطوير بشكل كبير". ويشير محللو الصناعة إلى أن هذه القدرة قد تخفّف من البصمة الكربونية للبحوث، إذ تقل الحاجة إلى تشغيل عمليات تدريب شاملة مكثفة.
مع ذلك، يثير هذا التطور تساؤلات أخلاقية وقانونية. إذا كان بإمكان الذكاء الاصطناعي تعديل نموذج آخر بصمت، فإن قضايا المساءلة، حقوق الملكية الفكرية، واحتمال التلاعب الضار ستستدعي أطر تنظيمية صارمة. يخطط فريق MIT لتوسيع نطاق أسترا ليشمل نماذج أساسية أكبر (foundation models) والعمل مع صانعي السياسات لتطوير أطر نشر مسؤولة وآمنة.



