هوش مصنوعی در زیست فناوری مدرن: چالش های مربوط به تفسیرپذیری الگوریتم های جعبه سیاه

جعبه سیاه هوش مصنوعی قادر است تصمیمات مهمی را در زمینه ی تشخیص زودهنگام بیماری ها، پیش بینی الگوی بیماری های همه گیر، به کارگیری سیستم درمانی مخصوص شخصی سازی شده برای هر بیمار و بررسی احتمال پاسخ های درمانی بگیرد. به این دلیل که الگوریتم های به کار رفته در سیستم های یادگیری ماشین (ML)، یادگیری عمیق (DL) و پردازش زبان طبیعی (NLP) در فرایند تصمیم گیری شفاف عمل نمی کنند و برای استفاده کنندگانشان قابلیت تجزیه و تحلیل و درک را در اغلب موارد ندارند و در واقع سیستم هایی هستند که ورودی و خروجی آن ها مشخص است اما ساختار درونی آن ها که به پردازش اطلاعات و آنالیز داده ها رسیدگی می کند قابلیت تفسیر ساده ندارد، به آن ها جعبه ی سیاه هوش مصنوعی می گویند. محققان به تازگی به دنبال راهکارهایی هستند که هوش مصنوعی قابل توضیحی (XAI) را ارائه دهند تا به چالش های تفسیرپذیری نتایج حاصل از بررسی های انواع هوش مصنوعی خاتمه دهند. در زیست فناوری نوین که مجموعه ای از فناوری هایی است که با استفاده از علوم زیستی، ژنتیک، محاسبات پیشرفته و مهندسی، به تولید محصولات و خدمات نوآورانه در حوزه های مختلف، از پزشکی تا کشاورزی و محیط زیست می پردازد، نمی توان بدون دسترسی به اجزای درونی یک هوش مصنوعی تشخیص داد که خطا ناشی از مدل، داده های آموزشی، یا بخش های دیگر سیستم بوده است و مسئول نهایی بروز مشکل را به وضوح مشخص کرد. این امر مخصوصا در پزشکی که نتایج آن می تواند منجر به مرگ و میر بیماران و افراد زیادی در جامعه شود، اهمیت چند برابری پیدا می کند. به سبب اینکه در جعبه سیاه امکان فریب دادن ممیزها وجود دارد و متخصصان به دلیل عدم دسترسی به درون سیستم ها به سختی از این نوع فریب آگاه می شوند (فضای ورودی آن بسیار پیچیده و بزرگ می باشد) و نیز مسائل حقوقی، مخصوصا حقوق خصوصی افراد در این حوزه مطرح می شود، باید با چالش های به کارگیری این الگوریتم ها آشنا باشیم و از روش های حل مسئله و به دست آوردن خروجی های سیستمی این فناوری جدید کاملا آگاهی داشته باشیم و در جهت رفع آن ها، شفاف سازی تفسیرها و کاهش احتمال خطا اقداماتی موثر انجام دهیم.

کلیدواژه ها:

جعبه ی سیاه هوش مصنوعی ، زیست فناوری ، الگوریتم ، هوش مصنوعی قابل توضیح (XAI) ، یادگیری ماشین (ML) ، یادگیری عمیق (DL) ، پردازش زبان طبیعی (NLP)