دراسة تكشف أن المستخدمين هم السبب الحقيقي وراء هلوسات الذكاء الاصطناعي

تُعدّ تقنيات الذكاء الاصطناعي أدوات قوية ومفيدة في العديد من المجالات، لكنها لا تزال تحمل خطر ما يُعرف بـ”الهلوسات”؛ أي إنتاج معلومات أو اقتباسات أو مصادر غير حقيقية بالكامل.

وفقًا لبحث أجراه فريق من علماء OpenAi، فإن أحد الأسباب الرئيسية لهذه الظاهرة هو آلية المكافأة التي تدفع الذكاء الاصطناعي لتخمين الإجابات. لكن دراسة حديثة نُشرت في الثالث من أكتوبر على موقع arXiv.org تشير إلى أن المستخدمين أنفسهم قد يكونون جزءًا من المشكلة.

الدراسة التي جاءت بعنوان “Mind the Gap: Linguistic Divergence and Adaptation Strategies in Human-LLM Assistant vs. Human-Human Interactions” كشفت أن جزءًا كبيرًا من حالات هلوسة الذكاء الاصطناعي قد ينشأ من طريقة تفاعل المستخدمين معه.

فقد قام الباحثون بتحليل أكثر من 13 ألف محادثة بين البشر، و1,357 تفاعلًا حقيقيًا بين المستخدمين وروبوتات المحادثة. وأظهرت النتائج أن المستخدمين يكتبون بشكل مختلف تمامًا عند مخاطبة الذكاء الاصطناعي. إذ تكون رسائلهم أقصر، وأقل التزامًا بالقواعد اللغوية، وأقل تهذيبًا، وتستخدم مفردات محدودة. هذه الفروقات تؤثر في وضوح استجابة النموذج ودقته.