ایمنی شناختی: حفاظت از ظرفیت ذهنی انسان در محیط های کاری مبتنی بر هوش مصنوعی

مرور نظام مند پژوهش های منتشرشده در فاصله زمانی ۱۹۸۳ تا ۲۰۲۳ نشان می دهد که نگرش پژوهشگران نسبت به تعامل انسان و فناوری های هوشمند از تمرکز صرف بر کارایی و اتوماسیون به سمت توجه به پیامدهای شناختی و انسانی این فناوری ها تغییر یافته است. مطالعات اولیه، به ویژه پژوهش های مرتبط با اتوماسیون، بر چالش هایی نظیر کاهش آگاهی موقعیتی، وابستگی به سامانه های خودکار و تغییر نقش انسان از مجری به ناظر تاکید داشتند. با گسترش فناوری های دیجیتال و ظهور هوش مصنوعی، دامنه این نگرانی ها به موضوعاتی همچون اضافه بار اطلاعاتی، فرسودگی تصمیم گیری، سوگیری اتوماسیون و تکنواسترس توسعه یافت. تحلیل یافته های پژوهش های این دوره نشان می دهد که اگرچه هوش مصنوعی می تواند بهره وری، سرعت پردازش اطلاعات و کیفیت برخی تصمیمات را بهبود بخشد، اما هم زمان ممکن است پیامدهای شناختی قابل توجهی برای کاربران به همراه داشته باشد. تضعیف حافظه فعال در اثر اتکای بیش از حد به منابع اطلاعاتی بیرونی، افزایش تراکم داده ها و آلودگی شناختی ناشی از حجم بالای خروجی های الگوریتمی، کاهش تفکر انتقادی و شکل گیری وابستگی شناختی به سامانه های هوشمند از مهم ترین تهدیدهای شناسایی شده هستند. همچنین شواهد نشان می دهد که نظارت مستمر مبتنی بر هوش مصنوعی و الزام به ارزیابی مداوم خروجی های فناوری می تواند به افزایش فشارهای روان شناختی و فرسودگی ذهنی کارکنان منجر شود. در مجموع، مطالعات چهار دهه اخیر نشان می دهد که چالش اصلی سازمان های آینده نه صرفا بهره گیری از قابلیت های هوش مصنوعی، بلکه حفظ و تقویت ظرفیت های شناختی انسان در کنار فناوری است. از این رو، ایمنی شناختی به عنوان یکی از الزامات اساسی طراحی و استقرار سامانه های هوشمند، نقشی کلیدی در تحقق بهره وری پایدار و توسعه مسئولانه هوش مصنوعی ایفا خواهد کرد.

کلیدواژه ها:

ایمنی شناختی ، هوش مصنوعی ، تعامل انسان و هوش مصنوعی ، بار شناختی