هوش مصنوعی و حریم خصوصی: وقتی ابزار AI داده ات را می خواند

هر روز میلیون ها نفر متن، عکس، فایل و ایده هایشان را در ابزارهای هوش مصنوعی می نویسند؛ از یک پرامپت ساده برای نوشتن کپشن اینستاگرام تا بریف کامل یک کمپین تبلیغاتی یا کد یک نرم افزار. این ابزارها سریع، در دسترس و شگفت انگیزند، اما یک پرسش ساده پشت همه ی این راحتی پنهان شده است: داده ای که به مدل می دهیم، دقیقا کجا می رود و چه کسی می تواند بعدا آن را ببیند؟ این یادداشت می خواهد به همین پرسش پاسخ دهد؛ نه با ترساندن، بلکه با شناخت سازوکار واقعی این ابزارها.

ابزار هوش مصنوعی دقیقا چه چیزی می بیند؟

وقتی متنی را در یک چت بات می نویسیم، آن متن فقط «خوانده» نمی شود؛ به سرور شرکت سازنده ارسال، ذخیره و پردازش می شود. در بسیاری از سرویس های مصرفی، گفت وگوها به صورت پیش فرض ممکن است برای بهبود مدل ها استفاده شوند؛ یعنی همان داده ای که امروز برای یک کار روزمره وارد کرده ایم، می تواند بخشی از آموزش نسخه های بعدی مدل شود. البته این قاعده برای همه ی محصولات یکسان نیست. در نسخه های تجاری و سازمانی و در رابط برنامه نویسی (API) بسیاری از ارائه دهنده ها، داده ی مشتری به صورت پیش فرض برای آموزش استفاده نمی شود. تفاوت در همین جاست: یک ابزار واحد، بسته به نسخه ای که استفاده می کنیم، می تواند رفتاری کاملا متفاوت با داده ی ما داشته باشد.

نکته ی مهم این است که انصراف از آموزش معمولا به گذشته برنمی گردد؛ تصمیم درباره ی حریم خصوصی باید پیش از واردکردن داده ی حساس گرفته شود، نه بعد از آن.

دو هشدار واقعی از دنیای واقعی

در بهار ۲۰۲۳ دو اتفاق نشان داد که این موضوع فقط نظری نیست. نخست، مهندسان بخش نیمه هادی شرکت سامسونگ در کمتر از یک ماه، سه بار اطلاعات محرمانه را در چت بات وارد کردند: یک بار کد منبع یک برنامه ی داخلی را برای رفع خطا، یک بار کد مربوط به شناسایی تجهیزات معیوب را و بار سوم یادداشت های یک جلسه ی داخلی را برای تهیه ی صورت جلسه. اما نتیجه این بود که اسرار تجاری شرکت به سروری بیرون از سامسونگ رسید و دیگر راهی برای پس گرفتن آن وجود نداشت. سامسونگ پس از این ماجرا استفاده از این ابزار را محدود کرد و به دنبال ساخت سامانه ی داخلی خودش رفت.

اتفاق دوم در ایتالیا رخ داد. در ۳۰ مارس ۲۰۲۳، نهاد حفاظت از داده های ایتالیا (گارانته) به شرکت OpenAI دستور داد پردازش داده های شخصی کاربران ایتالیایی در ChatGPT را موقتا متوقف کند. دلیل این نهاد چند چیز بود: نبود مبنای قانونی روشن برای جمع آوری انبوه داده های شخصی جهت آموزش مدل، نبود شفافیت کافی درباره ی اینکه داده ها چطور استفاده می شوند، احتمال تولید اطلاعات نادرست درباره ی افراد واقعی و نبود سازوکار مناسب برای بررسی سن کاربران. این دستور چند روز پس از یک نشت داده در ۲۰ مارس صادر شد که در آن بخشی از گفت وگوهای کاربران و اطلاعات پرداخت برخی مشترکان لو رفته بود. پس از آنکه OpenAI شفافیت حریم خصوصی را بیشتر کرد و بررسی سن را به ثبت نام افزود، سرویس در ۲۸ آوریل ۲۰۲۳ دوباره در دسترس قرار گرفت. تحقیقات این نهاد ادامه یافت و در دسامبر ۲۰۲۴ جریمه ای ۱۵ میلیون یورویی برای OpenAI صادر شد. پیام این ماجرا روشن بود: حتی بزرگ ترین شرکت های هوش مصنوعی هم باید در برابر قانون حفاظت از داده پاسخ گو باشند.

چرا مدل «به خاطر می سپارد»؟

مدل های زبانی بزرگ با خواندن حجم عظیمی از متن آموزش می بینند و هدفشان این است که الگوهای زبان را یاد بگیرند، نه اینکه متن ها را حفظ کنند. اما پژوهش ها نشان داده اند که این مدل ها گاهی بخش هایی از داده های آموزشی را به صورت ناخواسته حفظ می کنند؛ به ویژه عباراتی که در داده ها تکرار شده یا خاص و کم یاب اند. پژوهش معروفی با عنوان «استخراج داده های آموزشی از مدل های زبانی بزرگ» نشان داد که با پرامپت های مناسب می توان مدل را وادار کرد بخش هایی از داده های آموزشی اش را بازتولید کند. این یعنی مرز میان «یادگیری» و «حفظ کردن» در این مدل ها همیشه تیز و روشن نیست.

حمله ای به نام «استنتاج عضویت» هم همین نقطه ضعف را هدف می گیرد: مهاجم با پرس وجو از مدل و بررسی میزان اطمینان پاسخ هایش، تلاش می کند بفهمد آیا یک رکورد مشخص در داده های آموزشی بوده است یا نه. این حمله ها معمولا به داده ی فردی خاصی نمی رسند، اما نشان می دهند که فشرده بودن مدل به معنای امن بودن آن نیست.

راه حل های فنی: حریم خصوصی را می شود مهندسی کرد

خوشبختانه حریم خصوصی فقط یک قول و قرارداد نیست؛ می توان آن را در معماری سیستم ساخت. سه روش مهم در این زمینه عبارت اند از:

پردازش روی دستگاه یعنی مدل روی گوشی یا رایانه ی خود کاربر اجرا شود و داده هرگز به سرور نرود. این روش قوی ترین محافظت را دارد، اما به سخت افزار قدرتمند نیازمند است و برای مدل های بسیار بزرگ همیشه ممکن نیست.

یادگیری فدرال روشی است که در آن مدل به جای اینکه داده به مدل برسد، مدل به سراغ داده می رود. در این روش، که مقاله ی مک ماهان و همکاران در سال ۲۰۱۷ آن را با الگوریتم FedAvg معرفی کردند، هر دستگاه مدل را با داده های محلی خودش آموزش می دهد و فقط خلاصه ای از تغییرات مدل را به سرور می فرستد. صفحه کلید Gboard گوگل نمونه ی شناخته شده ی این روش است: مدل پیش بینی کلمات روی گوشی کاربران بهبود پیدا می کند، بدون اینکه متن تایپ شده ی آن ها به سرور ارسال شود.

حریم خصوصی تفاضلی روشی ریاضی است که به داده ها نویز حساب شده اضافه می کند تا حضور یا غیاب یک فرد خاص در نتیجه ی نهایی قابل تشخیص نباشد. اپل از این روش برای یادگیری کلمات و ایموجی های پرکاربرد استفاده می کند، بدون اینکه بداند کدام کاربر چه چیزی نوشته است. نکته ی مهم این است که یادگیری فدرال به تنهایی کافی نیست؛ چون به روزرسانی های مدل هم می توانند اطلاعات را لو بدهند، پس معمولا با تجمیع امن و حریم خصوصی تفاضلی ترکیب می شود.

چک لیست عملی برای تولیدکننده ی محتوا

این مباحث برای کسی که هر روز با ابزارهای هوش مصنوعی محتوا می سازد، کاملا عملی است. فرض کنید یک فریلنسر تبلیغات می خواهد برای یک برند، متن تبلیغاتی بنویسد و بریف مشتری را که شامل قیمت گذاری هنوز اعلام نشده، جزئیات محصول جدید و استراتژی کمپین است، در یک چت بات رایگان می گذارد. آن بریف، اگر در تنظیمات آموزش استفاده شود، دیگر فقط متعلق به او و مشتری نیست. چند عادت ساده این خطر را بسیار کم می کند:

نخست، پیش از استفاده، تنظیمات داده را بررسی کنید؛ در نسخه ی شخصی ChatGPT گزینه ای به نام «Improve the model for everyone» وجود دارد که با خاموش کردن آن، گفت وگوهای جدید برای آموزش استفاده نمی شوند. برای گفت وگوهای حساس، حالت «گفت وگوی موقت» (Temporary Chat) را به کار ببرید که در تاریخچه ذخیره نمی شود و برای بهبود مدل استفاده نمی شود. دوم، برای کارهای مشتری، نسخه های تجاری یا API را ترجیح دهید که داده را به صورت پیش فرض برای آموزش استفاده نمی کنند. سوم، داده های حساس را ناشناس کنید: نام مشتری، قیمت ها، کدها و اطلاعات شخصی را پیش از ارسال حذف یا جایگزین کنید. چهارم، فایل های کامل را بارگذاری نکنید؛ فقط همان بخشی را بفرستید که واقعا لازم است. و پنجم، سیاست حریم خصوصی هر ابزار جدید را پیش از استفاده بخوانید.

جمع بندی

هوش مصنوعی دشمن حریم خصوصی نیست، اما بی توجهی به آن دشمن است. هر پرامپت یک تصمیم کوچک درباره ی داده است و این تصمیم ها روی هم جمع می شوند. قوانین، مثل مقررات عمومی حفاظت از داده در اروپا، چارچوبی برای پاسخ گویی شرکت ها ساخته اند و روش های فنی مثل پردازش روی دستگاه، یادگیری فدرال و حریم خصوصی تفاضلی نشان می دهند که می شود هم مدل های قدرتمند داشت و هم حریم خصوصی را حفظ کرد. اما در نهایت، اولین خط دفاعی خود کاربر است: کسی که می داند چه چیزی را کجا می نویسد.

برچسب ها: #هوش_مصنوعی #حریم_خصوصی #تولید_محتوای_دیجیتال #امنیت_داده #مدل های_زبانی