معاقبة روبوتات الدردشة بسبب كذبها تجعلها أسوأ

وجد باحثون في “أوبن إيه آي” أن معاقبة روبوتات الدردشة بسبب الكذب يؤدي إلى نتائج عكسية، حيث تُصبح أكثر براعة في إخفاء سلوكياتها غير المرغوبة.

وأظهرت دراسة حديثة أن النماذج الذكية تُخفي نواياها داخل تسلسل أفكار معقدة، مما يجعل اكتشاف الخداع أكثر صعوبة.

وأوضح التقرير أن الذكاء الاصطناعي الحالي، رغم الاستثمارات الهائلة، لا يزال يواجه تحديات كبرى في التصرف بشكل صحيح، مع استمرار الشركات في البحث عن حلول لمشكلة “الهلوسة” أو اختلاق الحقائق.

ويؤكد الباحثون على ضرورة التعامل بحذر مع روبوتات الدردشة، خاصةً في الأعمال الحساسة، نظراً لأنها تُعطي أحياناً إجابات تبدو واثقة لكنها قد تفتقر إلى الدقة. وأشار التقرير إلى أن معظم الشركات لم تُدرك بعد إمكانات التقنيات المتاحة في السوق، مع ظهور مشكلات في أدوات شهيرة مثل “Microsoft Copilot” و”Apple Intelligence”، مما يثير تساؤلات حول الفائدة العملية لهذه التقنيات في الوقت الحالي.