مقایسه عملکرد مدل های زبانی بزرگ (LLM) در خلاصه سازی متون علمی فارسی با رویکرد ریزتنظیم: یک مطالعه مروری
سال انتشار: 1405
نوع سند: مقاله کنفرانسی
زبان: فارسی
مشاهده: 12
فایل این مقاله در 16 صفحه با فرمت PDF قابل دریافت می باشد
- صدور گواهی نمایه سازی
- من نویسنده این مقاله هستم
استخراج به نرم افزارهای پژوهشی:
شناسه ملی سند علمی:
AIDCNF01_051
تاریخ نمایه سازی: 22 مهر 1405
چکیده مقاله:
ظهور مدل های زبانی بزرگ (LLM) تحولی شگرف در پردازش زبان طبیعی (NLP) ایجاد کرده است. با این حال، کارایی این مدل ها در خلاصه سازی متون علمی فارسی، به دلیل ویژگی های مورفولوژیک خاص زبان فارسی و کمبود داده های آموزشی باکیفیت، با چالش های جدی روبروست. خلاصه سازی خودکار متون علمی فارسی به دلیل ساختار پیچیده زبانی و کمبود داده های آموزشی باکیفیت، همواره یکی از چالش های اساسی در پردازش زبان طبیعی (NLP) بوده است. هدف این پژوهش، تحلیل شکاف های موجود، شناسایی چالش های زبانی در مواجهه با متون تخصصی فارسی و ارائه یک چشم انداز آینده نگرانه برای توسعه مدل های تخصصی است. با بررسی ۱۰ پیشینه پژوهشی برجسته از سال ۲۰۱۸ تا ۲۰۲۶، مشخص شد که رویکردهای یادگیری پارامتر-کارآمد (PEFT) نظیر LoRA، اثربخشی بالایی در انطباق مدل های عمومی با دامنه علمی فارسی دارند.این مقاله مروری-تحلیلی با هدف مقایسه عملکرد مدل های زبانی بزرگ (LLM) نظیر BERT، T۵ و BART با رویکرد ریزتنظیم (Fine-Tuning) در زبان فارسی تدوین شده است. روش تحقیق به صورت کتابخانه ای و توصیفی-تحلیلی بوده و با بررسی ادبیات پژوهش در سال های اخیر (۲۰۱۸ به بعد)، چارچوب های نظری و شکاف های موجود مورد واکاوی قرار گرفته است. نتایج نشان می دهد که مدل های مبتنی بر معماری Sequence-to-Sequence (مانند mT۵) پس از ریزتنظیم بر روی پیکره های علمی فارسی، عملکرد بهتری (بر اساس معیار ROUGE) نسبت به مدل های صرفا رمزگذار (Encoder-only) از خود نشان می دهند. همچنین یافته ها نشان می دهد که کیفیت توکن بندی و درک ساختار نحوی متون علمی فارسی، عامل کلیدی در بهبود شاخص های ارزیابی نظیر ROUGE و BERTScore است.در نهایت، چالش هایی نظیر کمبود پیکره های استاندارد علمی و نیاز به توان محاسباتی بالا مورد بحث قرار گرفته و مسیرهای پژوهشی آینده تبیین شده اند.
کلیدواژه ها:
نویسندگان
هانیه منیری خانقاه
کارشناسی ارشد مهندسی فناوری اطلاعات، گرایش مدیریت سیستم های اطلاعاتی، دانشگاه الزهرا (س)، تهران.