مجموعه داده های اشتباه عقلانیت را در هوش مصنوعی از بین می برد

یک مدل یادگیری ماشینی را در نظر بگیرید که روی یک مجموعه داده با برخی از نمونه های برچسب گذاری نادرست آموزش داده شده است. نمره F1 (فقط به عنوان نمونه ای از معیارهای ارزیابی) مدل آموزش دیده نزدیک به یک است حتی در مجموعه آزمون. با این حال، به دلیل آموزش نمونه های داده اشتباه، برچسب های اشتباه را کاملا پیش بینی می کند. ما یک مدل با کیفیت بالا داریم که پاسخ های اشتباه ایجاد می کند!

چنین وضعیتی می تواند در استراتژی های یادگیری بدون نظارت و خود نظارتی که عمدتا برای ساختن مدل های زبان بزرگ (LLM) استفاده می شوند، مانند GPT، PalM، و Llama رخ دهد. LLM ها عمدتا بر روی داده های وب در سراسر جهان آموزش می بینند در حالی که وب حاوی بسیاری از داده های نادرست است. یک مقاله مغرضانه ویکی پدیا، یک پاسخ اشتباه Stack Exchange، یک کد منبع معیوب و غیره تنها چند نمونه از داده های نادرست در وب هستند.

ما اخیرا یک مرور ادبیات سیستماتیک درباره مجموعه داده های بوی کد منتشر کردیم که از ادعاهای ما پشتیبانی می کند [1]. نتایج نشان می دهد که بیشتر مجموعه های داده بوی کد حاوی نمونه های نادرست برچسب گذاری شده اند. بنابراین، حتی دقیق ترین مدل های تشخیص بوی کد قابل اعتماد نیستند (!)

در اینجا، سوال اصلی این است که چگونه می توانیم اطمینان حاصل کنیم که یادگیری ماشینی آنچه را که ما نیاز داریم یاد می گیرد؟

مشتاقم نظرات جامعه هوش مصنوعی را در مورد سوالات زیر بدانم.

(Q1) نمونه هایی از مجموعه داده های با کیفیت پایین مورد استفاده در پروژه های یادگیری ماشین چیست؟

(Q2) چگونه می توانیم مجموعه داده های مورد استفاده برای آموزش و آزمایش مدل یادگیری ماشین را ارزیابی کنیم؟

(Q3) چگونه می توانیم درستی و عقلانیت مدل های زبان بزرگ (LLM) را در کارهای مختلف ارزیابی کنیم؟ هر داده ای که ما به یک LLM می دهیم عمدتا توسط مدل در طول مرحله آموزش مشاهده شده است. به عبارت دیگر، چگونه می توانیم یک مجموعه آزمون خوب برای ارزیابی LLM در وظایف پایین دستی پیدا کنیم؟

(Q4) چگونه می توانیم عقلانیت عوامل هوشمند را اندازه گیری کنیم؟ به طور خاص، چگونه می توانیم اطمینان حاصل کنیم که یادگیری ماشینی آنچه را که ما نیاز داریم یاد می گیرد؟

 [1]Morteza Zakeri-Nasrabadi, Saeed Parsa, Ehsan Esmaili, and Fabio Palomba. 2023. A Systematic Literature Review on the Code Smells Datasets and Validation Mechanisms. ACM Comput. Surv. 55, 13s, Article 298 (December 2023), 48 pages. https://doi.org/10.1145/3596908