دیپ فیک ها در ۱۰ کشور جهان؛ تهدید نوپدید

باسمه تعالی

با شتاب گرفتن توسعه هوش مصنوعی، خط مشی گذاران با چالشی جدی روبه رو هستند؛ باید در افق ۱۵ سال آینده درباره پیامدها و مخاطرات این فناوری ها تصمیم گیری کنند. این یادداشت، به نمونه هایی از تهدیدهای ناشی از دیپ فیک ها در 10 کشور جهان می پردازد.

گسترش فناوری های «یادگیری عمیق» در تولید تصاویر و صداهای جعلی طی رویدادهای اخیر، نشان دهنده تحولی کم سابقه در ابزارهای دستکاری افکار عمومی است. دیپ فیک ها می توانند ترجیحات رای دهندگان را تغییر دهند، اعتبار سیاسیون را تخریب کنند، جریان های حمایتی یا اعتراضی ساختگی ایجاد کنند و انواع محتواهای تبلیغاتی جعلی را تولید نمایند. این روند، بر ضرورت فوری تدوین مقررات برای کنترل تولید و انتشار دیپ فیک ها تاکید دارد؛ پدیده ای که می تواند سلامت و کارکرد نهادهای عمومی را به طور جدی تهدید کند.

1. آمریکا

«در اوت ۲۰۲۴، دونالد ترامپ، نامزد وقت ریاست جمهوری آمریکا، در شبکه های اجتماعی محتوایی منتشر کرد که با استفاده از هوش مصنوعی ساخته شده و به طور دروغین ادعا می کرد تیلور سوئیفت از او حمایت انتخاباتی کرده است. او همچنین تصاویر دیگری منتشر کرد که کامالا هریس، معاون وقت رئیس جمهور، را در همایش ملی حزب دموکرات در کنار پرچم های کمونیستی نشان می داد. این موارد نمونه های روشن سوءاستفاده سیاسی از دیپ فیک ها هستند؛ اقداماتی که موجی از انتقادهای گسترده را برانگیخت و ظرفیت این فناوری برای گسترش اطلاعات نادرست و اثرگذاری بر فضای رقابت های انتخاباتی را آشکار ساخت».

2. هند

در جریان انتخابات ریاست جمهوری هند در ژوئن ۲۰۲۴، فناوری دیپ فیک به صورت گسترده و سازمان یافته در کارزارهای انتخاباتی به کار گرفته شد. یکی از برجسته ترین نمونه ها، تولید ویدئوها و صوت های دیپ فیک از موتوول کارونانیدی، سیاستمدار و چهره سینمایی فقید هند، بود. این محتواها به گونه ای طراحی شده بودند که گویی وی در مجامع عمومی از نامزدهای سیاسی تی. آر. بالو و ام. کی. استالین حمایت می کند. این رویداد نشان داد که دیپ فیک ها نه تنها در سطح فردی، بلکه در قالب یک «صنعت بومی» در هند شکل گرفته اند و کمپین های سیاسی به طور سیستماتیک از خدمات تولید محتوای مصنوعی استفاده می کنند.

گزارش ها حاکی از نقش فعال شرکت های تخصصی در این روند است. برای نمونه، شرکت Polymath Synthetic Media Solutions reportedly پنج دیپ فیک برای کارزارهای انتخاباتی تولید کرده و برای هر نسخه صوتی، حدود ۷۲۰ دلار و برای هر آواتار دیجیتال حدود ۱۵۰۰ دلار دریافت کرده است. افزون بر این، شرکت IndiaSpeaks Research Lab با بهره گیری از دیپ فیک های صوتی، حدود ۲۵۰ هزار تماس تلفنی شخصی سازی شده با صدای شبیه سازی شده جی. جایالالیتا – سیاستمدار فقید هندی – تولید و در سطح گسترده منتشر کرد.

3. اندونزی

در فوریه ۲۰۲۴، اندونزی یکی دیگر از نمونه های برجسته بهره گیری سیاسی از دیپ فیک را تجربه کرد. در این رخداد، چهره و صدای رئیس جمهور فقید، سوهارتو، با استفاده از فناوری های نوین بازسازی شد و محتوای ویدئویی و صوتی منتسب به او در شبکه های اجتماعی منتشر گردید. انتشار اولیه این ویدئو توسط اروین اکسا، معاون رئیس حزب گلکار – بزرگ ترین و قدیمی ترین حزب سیاسی اندونزی – در پلتفرم «X» (توییتر سابق) صورت گرفت و ظرف مدت کوتاهی 7/4 میلیون بازدید به دست آورد. این محتوا سپس در دیگر شبکه های اجتماعی از جمله فیس بوک، یوتیوب و تیک تاک بازنشر شد و به سرعت در فضای عمومی گسترش یافت.

4. اسلواکی

در فوریه ۲۰۲۴، در جریان کمپین انتخابات ریاست جمهوری اسلواکی، فناوری دیپ فیک صوتی اختلال قابل توجهی ایجاد کرد. فایل های صوتی منتشرشده در شبکه های اجتماعی، رهبر حزب مترقی اسلواکی را به دستکاری آرا در حوزه های رای گیری و افزایش قیمت نوشیدنی های الکلی پس از پیروزی متهم می کردند. انتشار اولیه این محتوا در تلگرام صورت گرفت و به سرعت در دیگر شبکه ها از جمله فیس بوک، یوتیوب و تیک تاک گسترش یافت.

5. پاکستان

در پاکستان، عمران خان، نخست وزیر سابق که در زندان به سر می برد، از فناوری هوش مصنوعی برای ادامه مشارکت در کارزارهای انتخاباتی آنلاین بهره برد. متون سخنرانی های او با استفاده از پلتفرم آمریکایی ElevenLabs به فایل های صوتی تبدیل شدند و سه کلیپ تبلیغاتی تولید شد. این رویداد نشان داد که فناوری دیپ فیک و تبدیل متن به گفتار، موانع فیزیکی مانند حبس را در فرایندهای انتخاباتی بی اثر کرده و امکان حضور مجازی کاندیدا در رسانه های اجتماعی را فراهم می کند.

6. مولداوی

در دسامبر ۲۰۲۳، یک دیپ فیک ویدئویی علیه رئیس جمهور مولداوی، مایا ساندو، منتشر شد که او را در حال تمسخر شرایط معیشتی مردم نشان می داد. این ویدئو ابتدا در کانال تلگرامی Sandu Official انتشار یافت و به سرعت در دیگر شبکه های اجتماعی دست به دست شد. این رخداد در شرایطی رخ داد که انتخابات ریاست جمهوری اکتبر ۲۰۲۴ مولداوی، همزمان با بحث های راهبردی درباره عضویت در اتحادیه اروپا و نزدیکی احتمالی به روسیه و چین، اهمیت فزاینده ای یافته بود.

7. تایوان

در ژانویه ۲۰۲۴، فناوری دیپ فیک در انتخابات ریاست جمهوری تایوان مورد استفاده قرار گرفت. در این کمپین، اطلاعات نادرست علیه معاون رئیس جمهور، لای چینگ-ته و رئیس جمهور وقت، تسای اینگ-ون منتشر شد. از جمله ادعاهایی مطرح شد که تایوان در آستانه راه اندازی آزمایشگاهی برای سلاح های بیولوژیکی به کمک آمریکا است. ویدئوها و فایل های صوتی تولیدشده با هوش مصنوعی، نشان می دادند که لای ظاهرا از مخالفان طرفدار پکن حمایت می کند. در مرکز این عملیات، کتابی ۳۰۰ صفحه ای قرار داشت که تسای را به عنوان دیکتاتوری فاسد معرفی می کرد.

8. بنگلادش

در ژانویه ۲۰۲۴، دیپ فیک ها و محتوای تولیدشده با هوش مصنوعی در انتخابات بنگلادش نیز تاثیرگذاری قابل توجهی داشتند. رسانه های طرفدار دولت، در ماه های منتهی به انتخابات، کلیپ های خبری جعلی منتشر کردند که رهبر اپوزیسیون را به عنوان فردی مردد در حمایت از غزه در برابر افکار عمومی حامی فلسطین نشان می دادند. این اقدام در کشوری با اکثریت مسلمان، به طور مستقیم فضای سیاسی را تحت تاثیر قرار داد. کلیپ ها توسط شرکت آمریکایی HeyGen تولید و با هزینه ۲۴ دلار در ماه در فضای مجازی منتشر شدند.

9. آرژانتین

در نوامبر ۲۰۲۳، انتخابات ریاست جمهوری آرژانتین نمونه ای برجسته از به کارگیری گسترده هوش مصنوعی در تولید محتواهای تبلیغاتی بود. دو نامزد اصلی انتخابات، محتواهای خود را با ابزارهای هوش مصنوعی خلق کردند. سرخیو ماسا با استفاده از هوش مصنوعی، پوستر تبلیغاتی طراحی کرد که در آن با دستور «تصویری از پروپاگاندا سیاسی شوروی به سبک گوستاو کلوتسیس، با حضور رهبر مقتدر (ماسا)، در محیطی مملو از نمادهای اتحاد و قدرت، تصویری سرشار از اقتدار و قاطعیت» جلوه ای از اقتدار و نفوذ خود ارائه می داد. خاویر میلی، رئیس جمهور کنونی، تصاویر AI-generated از ماسا به شکل دیکتاتور کمونیست و خود به صورت شیر کارتونی منتشر کرد که بیش از ۳۰ میلیون بازدید دریافت نمود.

10. کره جنوبی

علاوه بر تولید محتوای تصویری، توسعه چت بات های سیاسی مبتنی بر هوش مصنوعی در کارزارها نیز رو به گسترش است. برای نمونه، هم زمان با عرضه ChatGPT در نوامبر ۲۰۲۲، یک چت بات انتخاباتی برای کارزار در کره جنوبی طراحی شد. در این کمپین، یون سوک-یول، نامزد حزب قدرت مردم و رئیس جمهور کنونی، بیش از ۳۰۰۰ جمله و ۲۰ ساعت صوت و ویدئو ضبط کرد تا شرکت محلی تولید دیپ فیک، آواتار دیجیتال او را ایجاد کند.

جمع بندی

روندهای نوآورانه در حوزه دیپ فیک ها به ابزارهای غالب در سیاست و مدیریت اجرایی در سراسر جهان تبدیل شده اند. این فناوری ها با گسترش اطلاعات نادرست، کاهش اعتماد عمومی به نهادهای دولتی و تولید محتوای جعلی متقاعدکننده، سلامت و یکپارچگی کشورها را تهدید می کنند. مدل های پیشرفته هوش مصنوعی، صنعت دیپ فیک را به صنعتی رو به رشد در خدمت اهداف خصوصی و سیاسی تبدیل کرده اند. این وضعیت، ضرورت تدوین مقررات و چارچوب های قانونی برای مقابله با سوءاستفاده از دیپ فیک ها را آشکار می کند. شواهد نشان می دهد که خط مشی گذاران باید راهبردهای پیش دستانه برای مدیریت و کنترل اطلاعات نادرست طراحی کنند؛ در کنار آن، آموزش عمومی، ارتقای سواد رسانه ای و سرمایه گذاری در فناوری های مقابله با محتوای جعلی، کلید مهار این تهدید فزاینده خواهد بود.

🔰 کانال حکومت الکترونیک (در پیام رسان بله):

https://ble.ir/electronicgovernment (آدرس در صفحه مرورگر کپی شده یا در پیام رسان بله جستجو شود)

🔰 کانال موسسه مشاوره مدیریت نگاه (در پیام رسان تلگرام):

https://t.me/Institute_Consulting_Negah

منبع

Artificial Intelligence and National Defence: A Strategic Foresight Analysis. Alex Wilner and Ryan Atkinson (March 2025). Centre for International Governance Innovation.