ارتقای مهندسی اجتماعی مبتنی بر هوش مصنوعی: مرور تهدیدات ناشی از جعل عمیق در امنیت زیرساخت های سازمانی

با پیشرفت سریع فناوری های هوش مصنوعی و یادگیری عمیق، تولید محتوای چندرسانه ای مصنوعی با کیفیت بالا، به ویژه از طریق فناوری دیپ فیک، به طور چشمگیری گسترش یافته است. در حالی که این فناوری کاربردهای مفیدی در حوزه هایی مانند سرگرمی، تولید محتوا و آموزش دارد، در عین حال تهدیدات جدی برای امنیت سایبری و به ویژه امنیت سازمانی ایجاد کرده است. یکی از مهم ترین این تهدیدات، استفاده از دیپ فیک در حملات مهندسی اجتماعی است که در آن مهاجمان با جعل صدا، تصویر یا ویدئوی افراد معتبر، تلاش می کنند کاربران یا کارکنان سازمان ها را برای افشای اطلاعات حساس یا انجام اقدامات مالی فریب دهند. هدف این مقاله ارائه یک مرور نظام مند بر تهدیدات ناشی از مهندسی اجتماعی مبتنی بر هوش مصنوعی با تمرکز بر فناوری دیپ فیک در محیط های سازمانی است. در این پژوهش ابتدا مفاهیم و فناوری های اصلی مرتبط با دیپ فیک، از جمله مدل های مولد رقابتی، خودرمزگذارها، مدل های انتشار و سامانه های شبیه سازی صدا بررسی می شود. سپس انواع حملات مبتنی بر دیپ فیک شامل حملات جعل صدا، ویدئوی جعلی، فیشینگ مبتنی بر هوش مصنوعی و حملات ترکیبی تحلیل می شوند. در ادامه، روش های تشخیص دیپ فیک شامل رویکردهای جرم شناسی تصویر و ویدئو، تحلیل سیگنال صوتی و مدل های مبتنی بر یادگیری عمیق مورد بررسی قرار می گیرند. همچنین، راهکارهای دفاعی برای سازمان ها در سه سطح فنی، مدیریتی و سازمانی شامل استفاده از سامانه های تشخیص دیپ فیک، احراز هویت چندعاملی، آموزش کارکنان، مدل امنیتی Zero Trust و پروتکل های تایید هویت ارائه می شود. در نهایت، چالش ها و شکاف های پژوهشی موجود، از جمله کمبود مجموعه داده های واقعی، محدودیت روش های تشخیص در برابر دیپ فیک های با کیفیت بالا، ترکیب فناوری های دیپ فیک با مدل های زبانی بزرگ و نبود استانداردهای امنیتی برای ارتباطات ویدئویی سازمانی مورد بررسی قرار می گیرد. نتایج این مطالعه نشان می دهد که مقابله موثر با تهدیدات مبتنی بر دیپ فیک مستلزم ترکیب فناوری های پیشرفته تشخیص، سیاست های امنیتی سازمانی و افزایش آگاهی کاربران است.

کلیدواژه ها:

جعل عمیق ، هوش مصنوعی ، مهندسی اجتماعی ، امنیت سازمانی