ملاحظات اخلاقی و سوگیری در مدلهای زبانی بزرگ: تحلیل انتقادی با تمرکز بر زبانهای کممنبع

مدلهای زبانی بزرگ (LLMs) پیشرفتهای چشمگیری در پردازش زبان طبیعی نشان داده اند، اما آسیب پذیری آنها در برابر انواع سوگیری ها چالش های مهمی برای استفاده مسئولانه ایجاد می کند. این سوگیری ها که می توانند به صورت کلیشه های جنسیتی، نژادی، فرهنگی و اقتصادی-اجتماعی ظاهر شوند، نگرانی های اخلاقی و عملی مهمی را به ویژه در کاربردهای حساس مانند مراقبت های بهداشتی و عدالت کیفری به وجود می آورند. این مرور تحلیل جامعی از سوگیری در LLMs ارائه می دهد و منشا آن، روش های ارزیابی متنوع در سطوح داده، مدل و خروجی، و استراتژی های کاهش سوگیری در سه دسته پیش مدل، درون مدل و پس مدل را بررسی می کند. همچنین، پیامدهای اخلاقی و قانونی استفاده از LLMs سوگیر مورد بحث قرار گرفته و بر پتانسیل آسیب های واقعی تاکید شده است. این مطالعه با تمرکز بر زبانهای کممنبع مانند فارسی، ضرورت رویکردهای تخصصی برای تحلیل بدون سوگیری را برجسته می کند و به تلاش ها برای توسعه سیستم های هوش مصنوعی منصفانه و مسئولانه کمک می کند.

کلیدواژه ها:

ملاحظات اخلاقی ، مدل های زبانی بزرگ ، پردازش زبان طبیعی ، کاهش سوگیری