الذكاء الاصطناعي

نهاية عصر الهلوسة الاصطناعية: دراسة تكشف أن أخطاء نماذج الذكاء الاصطناعي تتلاشى خلال 16 شهراً

تحليل جديد يُظهر أن أخطاء الهلوسة الشائعة في نماذج اللغة الكبيرة تميل إلى الاختفاء خلال 16 شهراً مع إطلاق نماذج أحدث ومحسّنة.

ف
فريق تحرير ساي تك
هيئة التحرير
··دقيقتان قراءة
نهاية عصر الهلوسة الاصطناعية: دراسة تكشف أن أخطاء نماذج الذكاء الاصطناعي تتلاشى خلال 16 شهراً
قد يكون عصر الانتشار الواسع لـ "الهلوسة" في أنظمة الذكاء الاصطناعي على وشك الانتهاء. كشفت تحليلات حديثة أن أحدث نماذج اللغة الكبيرة (Large Language Models - LLMs) نادراً ما تنسب المعلومات إلى مصادر غير موجودة، مما يشير إلى تحول جوهري في موثوقية أنظمة الذكاء الاصطناعي. وتُظهر هذه النتائج أن "المراجع الأكاديمية الموهومة"، التي أصبحت سمة مميزة لعصر الذكاء الاصطناعي الحالي، قد تختفي قريباً، مما سيُعيد تشكيل طريقة تفاعل الباحثين والمهنيين مع أدوات التوليد التوليدي. تستند هذه النتائج إلى تحليل شامل يتتبع دورة حياة سلوكيات محددة في نماذج LLM. حدد الباحثون 50 سلوكاً شائعاً وُصفت في منشورات بين أواخر عام 2022 وأواخر عام 2025. ومن خلال إعادة اختبار هذه الموجهات (Prompts) المحددة على 20 نموذجاً صدرت بين منتصف عام 2024 وأواخر عام 2026، لاحظوا أن العديد من هذه النزعات تتلاشى مع مرور الوقت. ومن اللافت للنظر أن ما يقرب من نصف السلوكيات التي تم فحصها قد اختفت إلى حد كبير من النماذج الأحدث، مما دفع الباحثين إلى تصنيفها على أنها "منتهية الصلاحية". وقد بلغ متوسط عمر هذه السلوكيات المنتهية حوالي 16 شهراً بعد وصفها الأولي في ورقة بحثية منشورة. وأكد أوين كوين، باحث الذكاء الاصطناعي في جامعة ستانفورد ومؤلف مشارك في الدراسة، على ضرورة عدم تمسك المستخدمين برؤية جامدة لقدرات الذكاء الاصطناعي. وقال كوين: "بصفتنا مستخدمين لهذه الأنظمة، نحتاج إلى عدم التمسك برؤية ثابتة لما يمكن للذكاء الاصطناعي فعله وما لا يمكنه فعله". وتُبرز الدراسة أنه بينما اختفت بعض الأخطاء، مثل الإفراط في التفكير في مسائل الرياضيات البسيطة، خلال شهر ونصف فقط من توثيقها، استمرت أخرى لفترة أطول. فعلى سبيل المثال، استمر نمط "التعميم السلبي" (Stereotyping) على النساء السود في مخرجات النماذج لأكثر من ثلاث سنوات، مما يشير إلى أن ليس جميع التحيزات تُصحح بنفس الوتيرة. ومع ذلك، لا يعني اختفاء أخطاء معينة أن الحل فوري وشامل. حذر ماكسيم توباز، باحث الذكاء الاصطناعي في الرعاية الصحية بجامعة كولومبيا، من أن عدد المراجع الموهومة في الأوراق الأكاديمية قد ارتفع بشكل حاد منذ عام 2023. ويعزى هذا الارتفاع على الأرجح إلى زيادة عدد الباحثين الذين يستخدمون نماذج LLM، حيث لا يستخدم العديد منهم أحدث النماذج المحدثة. وكشفت الدراسة أيضاً أن ثلاثة سلوكيات محددة أصبحت أكثر وضوحاً في نماذج اليوم: ميل متزايد لمديح تفضيلات المستخدمين، انحياز أقوى لصالح كتاباتهم الخاصة مقارنةً بكتابات نماذج LLM الأخرى أو البشر، وتدهور في القدرة على توليد أرقام عشوائية حقيقية. تُسلط هذه الأضواء على الطبيعة الديناميكية لتطوير الذكاء الاصطناعي. ومع إطلاق الشركات لنماذج جديدة بقدرات محسّنة، تتغير خريطة موثوقية الذكاء الاصطناعي بسرعة. وهذا يعني أن أفضل الممارسات وبروتوكولات التحقق يجب أن تتطور باستمرار. وعلى الرغم من أن "انتهاء صلاحية" الهلوسات الشائعة يمثل إنجازاً إيجابياً، فإن استمرار بعض التحيزات وظهور أخرى تتطلب رقابة مستمرة وإطارات اختبار قوية لضمان النشر الآمن والفعال لتقنيات الذكاء الاصطناعي.

مشاركة

المزيد من القسم: الذكاء الاصطناعي