آیا کودکان باید قربانی آزمون وخطای هوش مصنوعی شوند؟

دکتر محمدمهدی سیدناصری

حقوقدان،پژوهشگر حقوق کودک و آینده کودکی در عصر دیجیتال

آیا کودکان باید قربانی آزمون وخطای هوش مصنوعی شوند؟

هر فناوری تازه ای پیش از آنکه به بخشی از زندگی روزمره تبدیل شود، با پرسش هایی درباره فایده ها و خطرهایش روبه روست؛ اما وقتی پای کودکان در میان باشد، نمی توان پاسخ را به این جمله ساده محدود کرد که هر فناوری جدیدی مزایا و معایبی دارد و گذشت زمان درباره آن قضاوت خواهد کرد. کودکان نباید به گروهی تبدیل شوند که جامعه، خطرهای فناوری را ابتدا بر زندگی آنان بیازماید و پس از آشکارشدن آسیب ها، به فکر وضع مقررات بیفتد.

هوش مصنوعی می تواند فرصت های تازه ای برای آموزش، دسترس پذیری و خلاقیت فراهم کند. کودکی که در یادگیری با دشواری روبه روست، ممکن است با ابزارهای مناسب حمایت بیشتری دریافت کند؛ دانش آموزی که به منابع آموزشی دسترسی محدودی دارد، می تواند از توضیحات تکمیلی بهره ببرد. بااین حال، همین فناوری ممکن است اطلاعات نادرست ارائه دهد، داده های دانش آموزان را در معرض خطر قرار دهد یا بر اساس اطلاعات ناقص، درباره توانایی و عملکرد آنان قضاوت کند. مسئله اصلی، انتخاب میان پذیرش کامل یا رد کامل فناوری نیست؛ مسئله این است که ورود آن به زندگی کودکان تحت چه شرایطی باید مجاز و قابل دفاع باشد.

اصل احتیاط در این حوزه اهمیت ویژه ای دارد. این اصل به معنای ممنوعیت هر نوآوری نیست، بلکه یادآوری می کند که در مواجهه با خطرهای جدی و عدم قطعیت، نبود اطلاعات کامل نباید بهانه ای برای بی عملی باشد. پیش از استفاده گسترده از یک سامانه در مدرسه یا محیطی که کودکان در آن حضور دارند، باید آثار احتمالی آن بر حریم خصوصی، سلامت، برابری فرصت ها و فرایند یادگیری بررسی شود. همچنین باید مشخص باشد که در صورت بروز آسیب، چه کسی مسئول رسیدگی است و چگونه می توان استفاده از سامانه را متوقف یا اصلاح کرد.

کنوانسیون حقوق کودک، به ویژه از طریق اصل منافع عالیه کودک در ماده ۳، مبنایی مهم برای ارزیابی چنین تصمیم هایی فراهم می کند. تفسیر عمومی شماره ۲۵ کمیته حقوق کودک نیز بر ضرورت ارزیابی آثار محیط دیجیتال بر حقوق کودکان تاکید دارد. از این منظر، تصمیم گیرندگان نمی توانند تنها به افزایش سرعت، کاهش هزینه یا جذابیت فناوری استناد کنند؛ آنان باید نشان دهند که منافع و خطرهای استفاده از آن به طور جدی بررسی شده است.

شرکت های فناوری باید ارزیابی خطر را به مرحله پس از انتشار محصول موکول نکنند. مدارس باید پیش از خرید یا استفاده از ابزارهای هوش مصنوعی، ضرورت آن، نحوه پردازش داده ها و پیامدهای آموزشی اش را بسنجند. دولت ها نیز باید برای کاربردهای پرخطر، استانداردهای روشن و سازوکارهای نظارت مستقل پیش بینی کنند. کودکان و خانواده ها نیز باید امکان طرح نگرانی و اعتراض داشته باشند، نه اینکه تنها پس از وقوع آسیب از تصمیمی مطلع شوند که زندگی آموزشی آنان را تحت تاثیر قرار داده است.

پیشرفت فناوری زمانی ارزشمند است که کیفیت زندگی انسان را بهبود دهد، نه اینکه گروه های آسیب پذیر را به میدان آزمایش بی ضابطه تبدیل کند. کودکان به آینده تعلق دارند، اما این واقعیت مجوز آن نیست که خطرهای امروز را به آنان تحمیل کنیم. نوآوری باید فرصت رشد ایجاد کند؛ نه اینکه ابتدا آسیب بزند و سپس وعده دهد از تجربه آن درس خواهد گرفت.