کاربرد هوش مصنوعی مولد در خلاصه سازی پرونده های پزشکی فارسی: بررسی الگوی کنترل خطا، سوگیری و افشای اطلاعات محرمانه

هوش مصنوعی مولد، به ویژه مدل های زبانی بزرگ (LLM )، به سرعت در حال ورود به نظام های سلامت برای خودکارسازی خلاصه سازی پرونده های پزشکی است. بااین حال، پیاده سازی این فناوری در زبان فارسی با چالش های منحصربه فردی روبه روست که ریشه در ماهیت پیچیده زبانی فارسی، کم بود منابع زبانی پزشکی و الزامات سخت گیرانه حریم خصوصی در حوزه سلامت دارد. این مقاله به بررسی سه گانه چالش های محوری کاربرد مدل های مولد در خلاصه سازی پرونده های پزشکی فارسی می پردازد: (۱) الگوهای خطا و توهم، شامل حذف اطلاعات حیاتی، توهمات بالینی و ناسازگاری های محتوایی؛ (۲) سوگیری های سیستمی، شامل سوگیری های جمعیت شناختی، زبانی و بالینی ناشی از داده های آموزش ناهمگون؛ و (۳) افشای اطلاعات محرمانه، شامل نشت اطلاعات شخصی قابل شناسایی (PII )، افشای اطلاعات شخص ثالث و خطرات ناشی از حفظ و یادآوری داده های آموزش. با مرور نظام مند پژوهش های موجود، این مقاله نشان می دهد که علی رغم پیشرفت های چشمگیر در خلاصه سازی خودکار متون پزشکی به زبان های پرمنبع، خلا تحقیقاتی قابل توجهی در حوزه زبان های کم منبع ازجمله فارسی وجود دارد. در پایان، چارچوبی مفهومی برای ارزیابی ایمنی بالینی مدل های مولد در خلاصه سازی پرونده های پزشکی فارسی ارائه و بر ضرورت توسعه معیارهای ارزیابی بومی، نظارت انسانی و طراحی حریم محور تاکید می شود.

کلیدواژه ها:

هوش مصنوعی مولد ، خلاصه سازی پرونده پزشکی ، مدل های زبانی بزرگ ، خطاهای بالینی ، حریم خصوصی داده ، زبان فارسی ، پزشکی مبتنی بر شواهد