فراموشی ماشینی: چگونه مدل زبانی می تواند آموخته هایش را از یاد ببرد

حذف یک فایل از حافظه، به معنای پاک شدن اثر آن از ذهن مدل نیست. وقتی یک مدل زبانی بزرگ با داده ای آموزش می بیند، آن داده در وزن های شبکه پخش می شود و رد آن در رفتار مدل باقی می ماند. «فراموشی ماشینی» برای همین مسئله پدید آمده است: می کوشد اثر داده های مشخص را از مدلی از پیش آموزش دیده بزداید، بی آنکه مدل از نو آموزش داده شود. انگیزه ها روشن اند: حق فراموش شدن افراد، حذف داده های دارای حق نشر، و زدودن دانش خطرناک از مدل های مولد.

معیار طلایی این کار، آموزش دوباره بدون داده فراموش شونده است: مدل فراموش کرده باید شبیه مدلی رفتار کند که هرگز آن داده را ندیده است. اما آموزش دوباره مدل های بزرگ در عمل ناممکن است. چارچوب سیسا که بورتول و همکاران در سال ۲۰۲۱ معرفی کردند، راهی برای «فراموشی دقیق» پیشنهاد می دهد: داده ها به بخش های جدا تقسیم می شوند و حذف فقط به بازآموزی بخش مربوط محدود می شود. این ایده برای مدل های کوچک کارآمد است، ولی به مدل های چندمیلیارد پارامتری نمی رسد؛ به همین دلیل پژوهش مدل های زبانی سراغ «فراموشی تقریبی» رفته است، یعنی ویرایش مدل موجود تا رفتارش به مدل مرجع نزدیک شود.

ساده ترین روش تقریبی، صعود گرادیانی است: برعکس آموزش عادی که خطا را کم می کند، مدل وادار می شود احتمال داده های فراموش شونده را پایین بیاورد. جانگ و همکاران در سال ۲۰۲۳ همین روش را برای مدل های مولد به کار بردند. مشکل اینجاست که صعود گرادیانی مهارنشده به سرعت به فروپاشی می رسد و مدل توانایی های عمومی خود را هم از دست می دهد. راه مهار آن، ترکیب صعود گرادیانی روی مجموعه فراموش شونده با نزول گرادیانی روی داده های باقی مانده است، تا رفتار عمومی مدل حفظ شود.

گام مهم بعدی، بهینه سازی ترجیحی منفی بود که ژانگ و همکاران در سال ۲۰۲۴ معرفی کردند. این روش از بهینه سازی مستقیم ترجیح الهام می گیرد، با این تفاوت که فقط نمونه های منفی دارد: داده فراموش شونده پاسخی نامطلوب شمرده می شود و تابع زیان پس از پایین آمدن احتمال آن داده تا حدی مشخص، اشباع می شود و گرادیان مهار می گردد. بر اساس گزارش همان پژوهش، این روش نخستین روشی بود که روی بنچمارک تافو فراموشی معقولی در مقیاس پنجاه درصد داده آموزشی به دست آورد، در حالی که روش های پیشین حتی در فراموشی ده درصد نیز به توازن رضایت بخشی نمی رسیدند.

اما فراموشی را چگونه می سنجند؟ بنچمارک تافو که ماینی و همکاران در سال ۲۰۲۴ ساختند، دویست زندگی نامه خیالی نویسندگان می سازد که هرکدام بیست جفت پرسش و پاسخ دارد؛ مدل روی همه آنها ریزتنظیم می شود و سپس باید زیرمجموعه ای را فراموش کند. چون نویسندگان هرگز وجود نداشته اند، ساخت مدل مرجع ارزان است و کیفیت فراموشی با مقایسه آماری با مدل مرجع سنجیده می شود. بنچمارک میوز که شی و همکاران در سال ۲۰۲۴ معرفی کردند، شش بعد را هم زمان می سنجد، از جمله نبود حفظ متن و دانش، نبود نشت حریم خصوصی و حفظ سودمندی. بنچمارک دبلیو ام دی پی نیز که لی و همکاران در سال ۲۰۲۴ ساختند، با پرسش های چندگزینه ای در حوزه های زیست امنیت، امنیت شیمیایی و امنیت سایبری، دانش خطرناک باقی مانده را اندازه می گیرد.

با این همه، فراموشی ماشینی هنوز مسئله ای حل نشده است. دشوارترین پرسش این است که آیا روش های کنونی واقعا دانش را حذف می کنند یا فقط آن را پنهان می کنند. حمله های بازآموزی نشان داده اند که گاهی ریزتنظیم مدل فراموش کرده روی تعداد کمی نمونه نامرتبط، بخش بزرگی از توانایی های به ظاهر فراموش شده را بازمی گرداند. سنجش فراموشی به قالب پرسش نیز حساس است: مدلی که در قالب پرسش و پاسخ داده ای را به یاد نمی آورد، ممکن است همان اطلاعات را در قالب چندگزینه ای آشکار کند. فراموشی ماشینی دکمه حذف نیست؛ توازنی مهندسی شده میان فراموشی واقعی، حفظ سودمندی، و پایداری در برابر حمله های بازگردانی است. هر ادعایی درباره فراموش شدن داده ای از یک مدل، تنها زمانی معتبر است که با بنچمارک شفاف، مقایسه با مدل مرجع، و آزمون های حمله همراه باشد.

بهزاد حسین عباسی، بنیانگذار اپراتوری هوش مصنوعی و اپراتوری ابرهوش