اگر هوش مصنوعی درباره کودک تصمیم بگیرد، چه کسی از حقوق او دفاع می کند؟
دکتر محمدمهدی سیدناصری
حقوقدان،پژوهشگر حقوق کودک و آینده کودکی در عصر دیجیتال
اگر هوش مصنوعی درباره کودک تصمیم بگیرد، چه کسی از حقوق او دفاع می کند؟
هوش مصنوعی می تواند در آموزش، دسترس پذیرکردن منابع یادگیری و ارائه کمک های متناسب با نیازهای دانش آموزان نقش مثبتی داشته باشد. بااین حال، هنگامی که سامانه های خودکار در ارزیابی عملکرد، تشخیص توانایی ها، پیشنهاد مسیر آموزشی یا تحلیل رفتار کودکان به کار گرفته می شوند، پرسش های حقوقی مهمی پدید می آید: اگر سامانه ای درباره کودک اشتباه کند، چه کسی مسئول است؟ اگر داده های ناقص باعث برچسب زدن به دانش آموز شوند، چگونه می توان تصمیم را اصلاح کرد؟ و آیا کودک و خانواده اش حق دارند بدانند تصمیم مهمی بر چه اساسی گرفته شده است؟
ماده ۳ کنوانسیون حقوق کودک، مصلحت عالیه کودک را در تصمیم های مرتبط با او مورد تاکید قرار می دهد. مواد ۲، ۱۲ و ۱۶ نیز به ترتیب با منع تبعیض، مشارکت کودک و حریم خصوصی ارتباط دارند. این اصول در ارزیابی فناوری های مورد استفاده برای کودکان اهمیت ویژه ای پیدا می کنند. داده های ناقص یا سوگیرانه ممکن است به نتایجی منجر شوند که برخی دانش آموزان را ناعادلانه محدود کند؛ به ویژه کودکانی که شرایط زندگی یا نیازهای آموزشی آنان در طراحی سامانه به درستی در نظر گرفته نشده است.
برای نمونه، اگر مدرسه صرفا بر اساس امتیاز تولیدشده توسط یک سامانه، دانش آموزی را کم استعداد تشخیص دهد یا فرصت آموزشی او را محدود کند، باید امکان بررسی انسانی و اعتراض موثر وجود داشته باشد. هیچ خروجی ماشینی نباید بدون ارزیابی متناسب با اهمیت تصمیم، جایگزین مسئولیت حرفه ای و قانونی بزرگسالان شود.
آموزش حقوق کودک در عصر هوش مصنوعی باید به کودکان بیاموزد که فناوری همیشه بی طرف یا بی خطا نیست. آنان باید بتوانند درباره تصمیم های مهم سوال کنند، اطلاعات شخصی خود را بی دلیل در اختیار سامانه ها قرار ندهند و در صورت احساس بی عدالتی از یک بزرگسال قابل اعتماد کمک بگیرند. در سوی دیگر، والدین و مربیان نیز باید محدودیت های ابزارهای هوش مصنوعی را بشناسند.
پیشرفت فناوری زمانی ارزشمند است که فرصت های کودکان را افزایش دهد، نه اینکه آنان را به مجموعه ای از داده ها و امتیازها تقلیل دهد. معیار استفاده مسئولانه از هوش مصنوعی، فقط سرعت و کارایی نیست؛ میزان احترام آن به کرامت، امنیت و حقوق کودک نیز هست.