مقیاس پذیری محاسبات زمان استنتاج: محور تازه مقیاس بندی هوش مصنوعی

27 مهر 1405 - خواندن 4 دقیقه - 29 بازدید

مقدمه
بیش از یک دهه است که پیشرفت هوش مصنوعی بر یک قاعده ساده استوار بوده است: «قانون مقیاس». هرچه پارامترهای مدل بیشتر، داده آموزشی بیشتر و محاسبات زمان آموزش بیشتر باشد، عملکرد بهتر می شود. این قاعده ستون فقرات انقلاب مدل های زبانی بزرگ بوده است. اما در یک سال اخیر، محور تازه ای در کنار این قاعده کهنه ظاهر شده است: محاسبات «زمان استنتاج» (Test-time Compute). پرسش این است: اگر به مدل «فرصت فکر کردن» بیشتری بدهیم، چه می شود؟

بدنه ا

صلی
ایده ساده و در عین حال بنیادین است. مدل های سنتی بلافاصله پس از دریافت پرسش، پاسخ نهایی را تولید می کنند؛ اما مدل های استدلالی ابتدا زنجیره ای طولانی از گام های میانی چیزی شبیه «تفکر با صدای بلند» می سازند و سپس به پاسخ می رسند. هرچه این زنجیره طولانی تر و محاسبات صرف شده برای آن بیشتر باشد، دقت پاسخ بالاتر می رود. در واقع همان منطقی که برای زمان آموزش صادق بود، حالا برای زمان استنتاج هم برقرار است: محاسبات بیشتر، عملکرد بهتر.

نقطه عطف این مسیر، معرفی مدل o1 توسط OpenAI در سپتامبر ۲۰۲۴ بود. این مدل نشان داد که با افزایش نظام مند محاسبات زمان استنتاج، می توان در آزمون های دشوار استدلالی مانند المپیاد ریاضی و مسائل رقابتی برنامه نویسی جهش های چندبرابری نسبت به مدل های معمولی به دست آورد؛ جهشی که پیش تر فقط با بزرگ تر کردن مدل ها قابل تصور بود. از آن پس، این خانواده «مدل های استدلالی بزرگ» (Large Reasoning Models) به یکی از فعال ترین جبهه های پژوهشی تبدیل شد.

اما شاید مهم ترین اتفاق، دموکراتیزه شدن این پارادایم بود. مدل DeepSeek-R1 که در ژانویه ۲۰۲۵ به صورت متن باز منتشر شد، نشان داد می توان با یادگیری تقویتی خالص و بدون اتکا به داده های پرهزینه انسانی، مدلی ساخت که با نمونه های تجاری هم تراز است؛ آن هم با هزینه ای به مراتب کمتر. پس از آن، مدل هایی مانند QwQ-32B و Kimi K2 Thinking نشان دادند که این مسیر فقط در انحصار چند آزمایشگاه بزرگ نیست و مدل های متن باز نیز می توانند در آزمون های استدلال پیشرفته از ریاضیات المپیادی تا بنچمارک های عاملی رکورد بزنند.

چند نکته کلیدی درباره این محور تازه:

۱. تغییر الگوی هزینه: تا دیروز «هوشمندتر بودن» یعنی «گران تر بودن آموزش»؛ حالا یعنی «گران تر بودن هر پاسخ». این تغییر، معماری اقتصادی سرویس های هوش مصنوعی را دگرگون می کند: مدل دیگر یک موجودیت ثابت نیست، بلکه سطحی از «تلاش» است که کاربر می تواند آن را تنظیم کند.

۲. پیوند با عامل های هوشمند: استدلال طولانی مدت، پیش نیاز عامل هایی است که باید ساعت ها روی یک وظیفه مثلا توسعه یک نرم افزار کار کنند، ابزار صدا بزنند و از خطاهایشان درس بگیرند. بدون مقیاس پذیری زمان استنتاج، عامل های قابل اعتماد شکل نمی گرفتند.

۳. چالش های باز: این مسیر هم بی هزینه نیست. «تفکر بیش از حد» (Overthinking) در مسائل ساده باعث اتلاف محاسبات و تاخیر می شود؛ ارزیابی منصفانه مدل ها وقتی هرکدام سطح تلاش متفاوتی دارند دشوار است؛ و اتکای سنگین به یادگیری تقویتی، خطر «بازی با پاداش» یعنی یافتن راه های میان بر برای فریب معیار ارزیابی به جای حل واقعی مسئله را بالا می برد.

جمع بندی
قانون مقیاس نمرده است؛ فقط دو بعدی شده است. آینده احتمالا متعلق به ترکیب هوشمندانه هر دو محور است: آموزش مقیاس پذیر برای ساختن پایه دانش، و استنتاج مقیاس پذیر برای «فکر کردن» عمیق تر در لحظه نیاز. همان طور که انسان برای مسئله دشوار وقت بیشتری می گذارد، ماشین هم دارد یاد می گیرد که «عجله» همیشه بهترین استراتژی نیست؛ و این شاید انسانی ترین ویژگی ای باشد که تا امروز به مدل ها آموخته ایم.