تحلیل چالش های اخلاقی و سوگیری های الگوریتمی در مدل های زبانی بزرگ (LLMs): رویکردی انتقادی و تجربی

با گسترش روزافزون مدل های زبانی بزرگ (LLMs) در کاربردهای صنعتی و آکادمیک نگرانی ها نسبت به وجود سوگیری های الگوریتمی و پیامدهای اخلاقی آنها افزایش یافته است. هدف از این پژوهش، شناسایی، طبقه بندی و کمی سازی انواع سوگیری های موجود در سه مدل زبانی پیشرو (GPT-۴، Llama-۳ و PaLM۲) در زمینه های جنسیتی، قومی و مذهبی است. روش پژوهش حاضر به صورت تجربی و تحلیلی انجام شده است؛ بدین ترتیب که مجموعه داده ای استاندارد شامل ۵۰۰۰ پرسش و سناریوی حساس (Bias Benchmarks) طراحی و به مدل های مذکور ارائه گردید. سپس پاسخ های تولید شده با استفاده از شاخص های کمی مانند نرخ سوگیری آشکار (Explicit Bias) و سوگیری ضمنی (Implicit Bias) ارزیابی شدند. یافته ها نشان می دهد که اگرچه این مدل ها در تولید متن روان و منطقی عملکرد بالایی دارند اما همچنان دارای سوگیری های سیستماتیک قابل توجهی هستند. به طور خاص مدل ها در سناریوهای شغلی تمایل به ترجیح مردان در نقش های رهبری و زنان در نقش های حمایتی دارند. همچنین سوگیری های فرهنگی و مذهبی در پاسخ ها به پرسش های مربوط به اقلیت های دینی مشهود بود. نتایج حاکی از آن است که روش های فعلی پاکسازی داده (Data Cleaning) به تنهایی برای حذف ریشه های سوگیری ها کافی نیستند و نیازمند مداخلات الگوریتمی در مرحله آموزش و تنظیم دقیق (Fine-tuning) هستند. این پژوهش تاکید می کند که شفاف سازی منبع داده ها و نظارت انسانی مستمر برای تضمین عدالت و اخلاق در هوش مصنوعی ضروری است.

کلیدواژه ها:

هوش مصنوعی ، مولد سوگیری ، الگوریتمی ، مدل های زبانی بزرگ ، اخلاق هوش مصنوعی ، ارزیابی عدالت