توهم در مدلهای زبانی: بزرگ طبقه بندی علت شناسی و استراتژی های کاهش

ظهور مدلهای زبانی بزرگ (LLMS) تحولی بنیادین در پردازش زبان طبیعی (NLP) و هوش مصنوعی ایجاد کرده است. این مدل ها با معماری ترنسفورمر و آموزش بر روی حجم عظیم داده های متنی قابلیت های خیره کننده ای در درک زبان، تولید متن و استدلال دارند. با این حال یکی از چالش های اساسی تمایل ذاتی این مدل ها به تولید محتوایی است که اگرچه زبانی روان دارد اما نادرست، غیر قابل تایید یا در تضاد با ورودی کاربر است. این پدیده که "توهم" (Hallucination) نامیده می شود، مانعی جدی برای پذیرش و اعتماد به سیستم های هوش مصنوعی در کاربردهای حساس مانند پزشکی، حقوق و تصمیم گیری های مالی است. این مقاله مروری جامع با بهره گیری از ادبیات اخیر به بررسی عمیق ابعاد این پدیده می پردازد و ابتدا طبقه بندی دقیقی از توهمات بر اساس پژوهش های زانگ و هوانگ ارائه می دهد تا چارچوبی نظری ایجاد کند، سپس ریشه های مشکل را در سه سطح داده های آموزشی (مانند اطلاعات غلط)، فرآیند آموزش (اهداف یادگیری ناقص) و مرحله استنتاج (استراتژی های رمزگشایی تصادفی) واکاوی می کنیم. بخش محوری مقاله به تحلیل انتقادی استراتژی های کاهش توهم اختصاص دارد که شامل بررسی رویکردهای داده محور نظیر فرضیه "همسوسازی سطحی" در مدل LIMA، مهندسی پرامپت مانند زنجیره فکر (Chain-of-Thought) و معماری های پیشرفته ای نظیر تولید افزوده با بازیابی (Self-RAG) و زنجیره تایید (CoVe) می شود. ما تفاوت های ظریف بین این روش ها از جمله تفاوت تایید خارجی در RAG و تایید درونی در CoVe را برجسته می کنیم و در نهایت با بررسی بنچمارک های ارزیابی نظیر TruthfulQA و HaluEval، چالش های باز و مسیرهای آینده پژوهش از جمله توهمات چندوجهی را ترسیم می کنیم تا دیدگاهی جامع برای پژوهشگران جهت توسعه سیستم های هوش مصنوعی قابل اعتمادتر فراهم گردد.

کلیدواژه ها:

مدلهای زبانی بزرگ ، توهم ، وفاداری ، واقع گرایی ، تولید افزوده با بازیابی ، همسوسازی