بررسی تجربی اثر نمایش عددی عدم قطعیت بر سوگیری اتوماسیون در یک محیط تصمیم گیری مبتنی بر پاسخ های هوش مصنوعی

پدیده سوگیری اتوماسیون (اعتماد بیش از حد انسان به توصیه های هوش مصنوعی) یکی از چالش های مهم در تعامل انسان و هوش مصنوعی است. برخی پژوهش ها پیشنهاد کرده اند که نمایش میزان اطمینان مدل می تواند به کاهش اعتماد بیش از حد کاربران کمک کند، با این حال هنوز نتایج تجربی روشنی درباره اثر واقعی این روش وجود ندارد. این پژوهش با هدف بررسی تاثیر نمایش عددی عدم قطعیت (درصد اطمینان) بر نرخ سوگیری اتوماسیون در یک فرآیند تصمیم گیری ساده انجام شده است.۵۰ شرکت کننده (۲۵ نفر گروه کنترل، ۲۵ نفر گروه آزمایش) به ۱۰ سوال چهارگزینه ای پاسخ دادند که به ازای هر سوال، یک پاسخ پیشنهادی (۵ پاسخ درست، ۵ پاسخ نادرست) از سوی هوش مصنوعی شبیه سازی شده ارائه گردید. گروه آزمایش علاوه بر سوال و پاسخ پیشنهادی، درصد اطمینان (۴۰٪، ۷۰٪و۹۰%) را نیز مشاهده کردند، در حالی که گروه کنترل فقط پاسخ پیشنهادی را بدون نمایش عدم قطعیت دریافت نمودند. نرخ اعتماد بیش ازحد (Over-trust Rate) به صورت درصد پذیرش پاسخ های نادرست هوش مصنوعی محاسبه تحلیل شد. نرخ پذیرش پاسخ های نادرست در گروه کنترل (بدون نمایش عدم قطعیت) ۲۳.۲٪ و در گروه آزمایش (همراه با نمایش عدم قطعیت) ۴۰٪ بود.یافته ها نشان داد که در این مطالعه مقدماتی، نمایش عددی عدم قطعیت با افزایش نرخ پذیرش پاسخ های نادرست همراه بود.نمایش خام عدم قطعیت به صورت عددی بدون توجه به عوامل شناختی ممکن است اثرات منفی داشته باشد..طراحی رابط های کاربری برای کالیبره کردن اعتماد نیازمند رویکردی فراتر از صرفا نشان دادن یک عدد است.

کلیدواژه ها:

سوگیری اتوماسیون ، عدم قطعیت ، اعتماد به هوش مصنوعی ، تعامل انسان و هوش مصنوعی