وقتی هوش مصنوعی به کودکان اطلاعات نادرست می دهد، چه باید کرد؟

دکتر محمدمهدی سیدناصری

حقوقدان،پژوهشگر حقوق کودک و آینده کودکی در عصر دیجیتال

وقتی هوش مصنوعی به کودکان اطلاعات نادرست می دهد، چه باید کرد؟

کودکی از یک سامانه هوش مصنوعی درباره یک مسئله علمی، تاریخی یا شخصی سوال می کند و پاسخی دریافت می کند که دقیق، منظم و مطمئن به نظر می رسد. اما ممکن است بخشی از پاسخ نادرست باشد، منبعی وجود نداشته باشد یا سامانه اطلاعاتی را با اطمینانی بیش از شواهد موجود بیان کند. مشکل اینجاست که ظاهر روان و قاطع پاسخ، گاهی بیش از درستی آن بر ذهن کاربر اثر می گذارد؛ به ویژه هنگامی که کاربر هنوز مهارت کافی برای ارزیابی اطلاعات را به دست نیاورده است.

سامانه های هوش مصنوعی مولد می توانند متنی تولید کنند که از نظر زبانی قانع کننده است، اما الزاما بر واقعیت استوار نیست. این پدیده گاهی با عنوان «توهم هوش مصنوعی» شناخته می شود. پیامد آن در همه موقعیت ها یکسان نیست. خطای کوچک در پاسخ به پرسشی ساده ممکن است اهمیت محدودی داشته باشد، اما اطلاعات نادرست درباره سلامت، امنیت، روابط انسانی یا تصمیم های مهم آموزشی می تواند پیامدهای جدی تری ایجاد کند. ازاین رو، نباید همه پاسخ های هوش مصنوعی را هم ارز منابع معتبر دانست یا تصور کرد که پاسخ های منسجم حتما درست اند.

در اینجا، آموزش سواد دیجیتال و تفکر انتقادی اهمیت پیدا می کند. کودک باید بیاموزد که پرسیدن از یک سامانه، پایان فرایند یادگیری نیست؛ آغاز بررسی است. آیا پاسخ با منابع معتبر دیگر سازگار است؟ آیا سامانه منبع قابل بررسی معرفی کرده است؟ آیا پاسخ به اندازه کافی درباره عدم قطعیت توضیح می دهد؟ و آیا موضوع آن قدر حساس است که باید با معلم، والدین یا متخصص مشورت کرد؟ این پرسش ها کمک می کنند کودک به جای پذیرش منفعلانه پاسخ، نقش فعال تری در ارزیابی اطلاعات داشته باشد.

ماده ۱۷کنوانسیون حقوق کودک بر اهمیت دسترسی کودکان به اطلاعات و مطالب گوناگون تاکید می کند و مواد ۲۸ و ۲۹ به حق آموزش و اهداف آن می پردازند. دسترسی به اطلاعات زمانی واقعا به یادگیری کمک می کند که کودک بتواند کیفیت آن را نیز ارزیابی کند. در محیط دیجیتال، مسئولیت آموزشی فقط فراهم کردن ابزار نیست؛ باید توانایی تشخیص خطا، بررسی منبع و فهم محدودیت های فناوری نیز تقویت شود.

شرکت های سازنده باید محدودیت های سامانه های خود را به زبان قابل فهم توضیح دهند و برای کاهش پاسخ های گمراه کننده در موضوعات حساس تلاش کنند. مدارس باید آموزش استفاده انتقادی از هوش مصنوعی را بخشی از سواد رسانه ای و علمی بدانند. والدین نیز بهتر است به جای آنکه هر پاسخ اشتباه را بهانه ممنوعیت کامل کنند، از کودک بخواهند پاسخ را با هم بررسی کنند و درباره علت احتمالی خطا گفت وگو کنند.

هدف این نیست که کودک به هیچ ابزار دیجیتالی اعتماد نکند؛ هدف آن است که اعتماد او آگاهانه و سنجیده باشد. در جهانی که تولید پاسخ آسان تر از گذشته شده است، توانایی تشخیص پاسخ معتبر اهمیت بیشتری پیدا می کند. آینده آموزش به کودکانی نیاز دارد که فقط پاسخ ها را دریافت نمی کنند، بلکه می دانند چگونه آن ها را بسنجند، درباره شان تردید کنند و در صورت لزوم، اشتباه را تشخیص دهند.