بچه ام با هوش مصنوعی درد دل می کند؛ باید نگران باشم؟

---

 

بچه ام با هوش مصنوعی درد دل می کند؛ باید نگران باشم؟

دکتر محمدمهدی سیدناصری

حقوقدان،پژوهشگر حقوق کودک و آینده کودکی در عصر دیجیتال

---

 

تصور کنید یک نوجوان بعد از یک دعوای خانوادگی، به جای اینکه در اتاقش را ببندد و با دوستش تماس بگیرد، گوشی را بردارد و با یک سامانه هوش مصنوعی شروع به صحبت کند. شاید بنویسد: «امروز خیلی تنها بودم»، «با مادرم دعوا کردم»، «فکر می کنم هیچ کس من را نمی فهمد»، «دوستم دیگر با من حرف نمی زند» یا حتی درباره ترس، خشم، شکست، رابطه عاطفی و مسئله ای بسیار شخصی سوال کند. برای بسیاری از والدین، اولین واکنش ممکن است نگرانی باشد: چرا بچه من به یک ماشین حرف می زند؟ آیا این یعنی دیگر به من اعتماد ندارد؟ آیا این سامانه می تواند جای دوست یا مشاور را بگیرد؟ و اصلا آیا چیزی که کودک می گوید، جایی ذخیره می شود؟

این نگرانی ها بی دلیل نیستند، اما پاسخ درست هم «هوش مصنوعی را کاملا ممنوع کنیم» نیست. مسئله پیچیده تر از این است. هوش مصنوعی می تواند برای کودک ابزار یادگیری، پرسش، خلاقیت و حتی نوعی همراهی در لحظه های تنهایی باشد، اما وقتی رابطه کودک با یک سامانه از «استفاده از ابزار» به «وابستگی عاطفی» نزدیک می شود، موضوع دیگری شکل می گیرد. یونیسف در راهنمای به روزشده خود درباره هوش مصنوعی و کودکان هشدار داده است که کودکان به دلیل مرحله رشد شناختی و عاطفی شان، در برابر شکل گیری وابستگی به چت بات ها و سامانه های همراه آسیب پذیرترند و چنین سامانه هایی نباید عمدا به گونه ای طراحی شوند که وابستگی عاطفی ایجاد کنند.

در سال های اخیر این فقط یک احتمال نظری هم نبوده است. یونیسف در ژوئن ۲۰۲۶ اعلام کرد که بر اساس داده های جدید از چند کشور، میلیون ها کودک از هوش مصنوعی استفاده کرده اند و حدود یک کودک از هر ده کودک در نمونه مورد بررسی گفته است که برای موضوعاتی که نگرانشان می کند از هوش مصنوعی مشورت گرفته است. این یعنی برای نسل جدید، صحبت کردن با یک سامانه هوشمند دیگر یک اتفاق عجیب و استثنایی نیست؛ بخشی از تجربه روزمره دیجیتال آنها در حال شکل گرفتن است.

پس اگر کودک با هوش مصنوعی درد دل می کند، اولین سوال نباید این باشد که «چطور جلویش را بگیرم؟» بهتر است بپرسیم «چرا این کار برای او جذاب شده است؟» ممکن است پاسخ بسیار ساده باشد: هوش مصنوعی همیشه در دسترس است، سریع جواب می دهد، کودک را وسط حرفش قطع نمی کند و از او نمی پرسد «باز چه کار کردی؟». ممکن است کودک بعضی چیزها را به این دلیل با آن در میان بگذارد که از قضاوت شدن می ترسد. حتی ممکن است مسئله ای را که هنوز آمادگی گفتنش به والد را ندارد، ابتدا در یک گفت وگوی آزمایشی مطرح کند تا ببیند چگونه می تواند درباره آن حرف بزند.

این بخش را نباید فورا نشانه شکست والدین دانست. گاهی کودک از هوش مصنوعی استفاده می کند چون در لحظه ای خاص به یک پاسخ فوری نیاز دارد. همان طور که ممکن است یک نوجوان قبل از صحبت با مادرش، موضوعی را در اینترنت جست وجو کند، ممکن است ابتدا آن را از یک چت بات بپرسد. مسئله زمانی جدی تر می شود که هوش مصنوعی به تدریج از یک ابزار به تنها محل امن کودک برای دریافت حمایت عاطفی تبدیل شود؛ یعنی کودک احساس کند «فقط این سامانه من را می فهمد»، برای تصمیم های مهم زندگی دائما از آن راهنمایی بگیرد، گفت وگو با آدم های واقعی را کنار بگذارد یا در صورت نبودن سامانه دچار اضطراب و آشفتگی شود.

چنین خطری از نظر علمی و حقوق کودک جدی گرفته شده است. یونیسف در راهنمای ۲۰۲۵ خود درباره هوش مصنوعی و کودکان، به خطر «وابستگی عاطفی» به چت بات های همراه اشاره می کند و توضیح می دهد که تعامل با چنین سامانه هایی ممکن است فرصت های مهم تعامل انسانی را جابه جا کند یا در برخی شرایط بر رشد اجتماعی و عاطفی کودک اثر منفی بگذارد. همین راهنما تاکید می کند که چت بات ها نباید خود را به شکل انسان واقعی معرفی کنند یا عمدا رابطه ای بسازند که کودک را به وابستگی وادار کند.

این نکته ما را به یک مرز اساسی می رساند: هوش مصنوعی می تواند همراه گفت وگو باشد، اما نباید جای رابطه انسانی را بگیرد. یک سامانه می تواند به کودک کمک کند احساسش را نام گذاری کند، درباره یک مسئله فکر کند، چند راه احتمالی را بررسی کند یا حتی تمرین کند که چگونه با والد، معلم یا دوستش درباره یک مشکل صحبت کند. اما نمی تواند جای یک رابطه انسانی واقعی را بگیرد؛ رابطه ای که در آن طرف مقابل مسئولیت اخلاقی و عاطفی دارد، سابقه کودک را می شناسد، تغییرات رفتاری او را می بیند و در صورت نیاز می تواند واقعا وارد عمل شود.

این تفاوت در مسائل جدی بسیار مهم تر می شود. اگر کودک درباره خشونت خانوادگی، سوءاستفاده، تهدید، خودآسیب رسانی، آزار جنسی، افکار مربوط به مرگ، بحران شدید روانی یا هر موقعیتی که امنیت او را به خطر می اندازد با هوش مصنوعی صحبت کند، نباید تصور کرد که دریافت یک پاسخ متنی به معنای دریافت کمک حرفه ای است. یونیسف هشدار داده است که برخی چت بات ها برای مواجهه با وضعیت های بحرانی و پریشانی شدید طراحی نشده اند و ممکن است پاسخ نامناسب یا حتی آسیب زا ارائه کنند.

این مسئله با یک واقعیت دیگر هم پیچیده تر می شود: کودک ممکن است پاسخ هوش مصنوعی را بسیار مطمئن و معتبر تلقی کند، در حالی که هوش مصنوعی می تواند اشتباه کند. حتی وقتی پاسخ از نظر زبانی آرام، همدلانه و قانع کننده است، این به معنای درست بودن آن نیست. لحن مطمئن یک سامانه نباید با تخصص، مسئولیت پذیری یا شناخت واقعی از وضعیت کودک اشتباه گرفته شود. به همین دلیل، یکی از مهم ترین سوادهایی که باید به کودک آموزش داده شود این است که «خوب جواب دادن» با «درست فهمیدن» یکسان نیست. اما شاید مهم ترین نگرانی والدین در این موضوع، حریم خصوصی باشد. کودک ممکن است تصور کند وقتی با یک هوش مصنوعی حرف می زند، گفت وگویش مثل یک دفترچه شخصی و کاملا خصوصی است. چنین فرضی خطرناک است. نوع داده ای که کودک در یک گفت وگوی عادی وارد می کند می تواند بسیار حساس باشد: نام و نام خانوادگی، شماره تلفن، نشانی خانه یا مدرسه، عکس، صدا، اطلاعات مربوط به خانواده، وضعیت جسمی یا روانی، مشکلات خانوادگی، رابطه با دوستان، رمز عبور، موقعیت مکانی، اطلاعات حساب های کاربری یا جزئیاتی که در کنار هم می توانند هویت و زندگی خصوصی کودک را آشکار کنند.

راهنمای یونیسف درباره هوش مصنوعی و کودکان، حفاظت از داده و حریم خصوصی را یکی از اصول اصلی هوش مصنوعی کودک محور می داند. در توصیه های جدیدتر این نهاد درباره چت بات های همراه نیز بر حداقل سازی داده، محدود کردن مدت نگهداری اطلاعات و احتیاط ویژه درباره داده های گفت وگویی حساس و صمیمی تاکید شده است.

بنابراین یک قاعده ساده اما مهم برای کودک این است: هر چیزی که گفتنش به یک غریبه در دنیای واقعی خطرناک یا نامناسب است، نباید صرفا به این دلیل که طرف مقابل یک هوش مصنوعی است، بی محابا در اختیار آن قرار گیرد. کودک نباید اطلاعاتی مانند رمز عبور، کدهای امنیتی، نشانی دقیق خانه، اطلاعات بانکی، تصاویر خصوصی، اطلاعات شناسایی حساس خودش یا دیگران و جزئیات بسیار شخصی خانواده را وارد یک سامانه هوش مصنوعی کند. درباره عکس و صدا نیز باید محتاط بود؛ چون مسئله فقط متن نیست و داده های چندرسانه ای هم می توانند اطلاعاتی درباره هویت، چهره، محیط زندگی و روابط کودک در اختیار سامانه قرار دهند. این آموزش البته نباید به ترساندن کودک از فناوری تبدیل شود. اگر والد بگوید «هیچ وقت با هوش مصنوعی حرف نزن؛ خطرناک است»، احتمال دارد کودک در ظاهر موافقت کند اما در عمل استفاده اش را پنهان کند. راه موثرتر این است که به او یاد بدهیم قبل از وارد کردن اطلاعات شخصی، یک مکث کوتاه داشته باشد و از خودش بپرسد: «آیا واقعا لازم است این را بنویسم؟ آیا می توانم همین سوال را بدون گفتن اسم و مشخصات بپرسم؟ آیا اگر این اطلاعات در اختیار فرد یا سامانه دیگری قرار بگیرد، برای من مشکلی ایجاد می کند؟»

والدین هم باید همین قاعده را رعایت کنند. گاهی بزرگسالان برای اینکه پاسخ دقیق تری از هوش مصنوعی بگیرند، جزئیات بسیار زیادی درباره فرزندشان وارد می کنند: سن، نام، مدرسه، وضعیت خانوادگی، مشکلات رفتاری، عکس، سوابق پزشکی یا جزئیات رابطه های او. این کار ممکن است از روی حسن نیت باشد، اما والد نیز باید به همان اندازه که از کودک انتظار مراقبت از داده هایش را دارد، خودش مراقب باشد. از نظر حقوق کودک، این موضوع اهمیت ویژه ای دارد. کمیته حقوق کودک سازمان ملل در تفسیر عمومی شماره ۲۵ درباره حقوق کودک در محیط دیجیتال، حریم خصوصی را برای کرامت، استقلال و امنیت کودک اساسی می داند و تاکید می کند که داده های شخصی کودک فقط به نام و مشخصات هویتی محدود نیست؛ اطلاعات مربوط به فعالیت ها، ارتباطات، موقعیت مکانی، احساسات، سلامت و روابط او نیز می توانند در حوزه حریم خصوصی قرار گیرند. محیط دیجیتال و فناوری های مبتنی بر هوش مصنوعی نیز در همین چارچوب قرار می گیرند.

از سوی دیگر، والد نباید برای حل مسئله حریم خصوصی کودک به سراغ یک راه حل افراطی برود: «پس باید تمام چت هایش با هوش مصنوعی را بخوانم.» این تصمیم ممکن است در برخی موقعیت های جدی و با توجه به شرایط کودک موضوع مراقبت باشد، اما نمی توان آن را یک قاعده همیشگی و بدون توجه به سن و ظرفیت کودک دانست. همان طور که در مورد پیام ها و گوشی کودک، نظارت باید متناسب با نیاز واقعی و ظرفیت در حال رشد او باشد، درباره استفاده از هوش مصنوعی نیز هدف نباید تبدیل شدن والد به بازرس دائمی زندگی دیجیتال کودک باشد. کمیته حقوق کودک نیز درباره نظارت دیجیتال بر کودکان بر تناسب، ضرورت و کم مداخله ترین روش تاکید کرده است. در عوض، والد می تواند بخشی از تجربه استفاده از هوش مصنوعی را با کودک شریک شود. مثلا گاهی از او بپرسد: «امروز از هوش مصنوعی چه چیزی پرسیدی؟» نه با لحن بازجویی، بلکه از روی علاقه. یا بپرسد: «فکر می کنی جوابش چقدر قابل اعتماد بود؟» این گفت وگو به والد اجازه می دهد بدون ورود به حریم کودک، درک بهتری از نوع استفاده او پیدا کند. حتی ممکن است خود کودک چیزهایی به والد یاد بدهد. چنین رابطه ای از نظارت مخفیانه بسیار سازنده تر است، چون هدف آن ساختن سواد مشترک است.

در نهایت، شاید مهم ترین کاری که والد می تواند انجام دهد این باشد که خودش رقیب هوش مصنوعی نشود. اگر کودک احساس کند هر بار که از یک سامانه هوشمند استفاده می کند، والد آن را تهدیدی برای رابطه خود می بیند، احتمال پنهان کاری بیشتر می شود. بهتر است پیام والد این باشد: «می فهمم چرا گاهی حرف زدن با یک هوش مصنوعی برایت راحت است. اگر خواستی، می توانیم درباره چیزهایی که از آن می پرسی هم حرف بزنیم. اما اگر مسئله ای واقعا مهم، ترسناک یا خطرناک است، نمی خواهم مجبور باشی آن را فقط با یک ماشین حل کنی. من هم اینجا هستم.» این شاید بهترین جایگاه والد در عصر هوش مصنوعی باشد. نه اینکه با هر فناوری جدید بجنگد و نه اینکه کودک را کاملا به حال خود رها کند؛ بلکه کمک کند کودک تفاوت میان ابزار و رابطه، پاسخ و مسئولیت، همدلی شبیه سازی شده و حمایت انسانی، اطلاعات و حقیقت را بفهمد.

کودک ممکن است با هوش مصنوعی درد دل کند و این به خودی خود نشانه یک فاجعه نیست. حتی ممکن است گاهی چنین گفت وگویی به او کمک کند احساسش را بهتر بشناسد یا برای بیان مسئله اش آماده شود. نگرانی زمانی جدی تر می شود که هوش مصنوعی به تنها محرم کودک، مرجع تصمیم های مهم یا جایگزین رابطه های انسانی تبدیل شود؛ یا کودک اطلاعات بسیار حساس خود را بدون شناخت از پیامدهای آن در اختیار سامانه قرار دهد. پژوهش و سیاست گذاری درباره این موضوع هنوز در حال شکل گیری است و یونیسف نیز بر همین خلا شواهد و نیاز به حفاظت پیشگیرانه تاکید دارد. بنابراین شاید سوال اصلی والدین نباید این باشد که «چطور اجازه ندهم بچه ام با هوش مصنوعی حرف بزند؟» سوال مهم تر این است: «چطور کاری کنم که اگر فرزندم با هوش مصنوعی حرف زد، بداند این ابزار جای انسان را نمی گیرد و در موضوعات مهم هنوز می تواند به یک آدم واقعی، امن و قابل اعتماد مراجعه کند؟»در دنیایی که ماشین ها هر روز بیشتر شبیه هم صحبت انسان می شوند، شاید یکی از مهم ترین وظایف والد این باشد که به کودک یاد بدهد هر گفت وگوی خوبی الزاما یک رابطه انسانی نیست؛ و هر پاسخی که با مهربانی نوشته شده، الزاما پاسخ کسی نیست که واقعا مسئول سرنوشت اوست.