محدودیت های استفاده از هوش مصنوعی مولد در نگارش مقالات علمی: استفاده از منابع جعلی و گرایش به سمت متون غربی
سال انتشار: 1404
نوع سند: مقاله ژورنالی
زبان: فارسی
مشاهده: 97
متن کامل این مقاله منتشر نشده است و فقط به صورت چکیده یا چکیده مبسوط در پایگاه موجود می باشد.
توضیح: معمولا کلیه مقالاتی که کمتر از ۵ صفحه باشند در پایگاه سیویلیکا اصل مقاله (فول تکست) محسوب نمی شوند و فقط کاربران عضو بدون کسر اعتبار می توانند فایل آنها را دریافت نمایند.
- صدور گواهی نمایه سازی
- من نویسنده این مقاله هستم
استخراج به نرم افزارهای پژوهشی:
شناسه ملی سند علمی:
JR_RUMS-24-9_001
تاریخ نمایه سازی: 19 آذر 1404
چکیده مقاله:
Editorial
مجله دانشگاه علوم پزشکی رفسنجان
دوره ۲۴، آذر ۱۴۰۴، ۷۷۴-۷۷۳
محدودیت های استفاده از هوش مصنوعی مولد در نگارش مقالات علمی: استفاده از منابع جعلی و گرایش به سمت متون غربی
Limitations of Using Generative Artificial Intelligence in Writing Scientific Articles: Use of Fake Citations and Tendency Towards Western Texts
محسن رضائیان[۱]
Mohsen Rezaeian
سخن سردبیری شماره شهریورماه سال جاری به رهیافت مجله دانشگاه در مورد چگونگی استفاده از ابزار هوش مصنوعی مولد اختصاص داده شده بود. همان جا اشاره کردیم که استفاده از این ابزار دارای نکات مثبت و محدودیت های متعددی می باشد. با این وجود، به نظر می رسد که در حال حاضر محدودیت های استفاده از هوش مصنوعی در نگارش مقالات سلامت آن قدر زیاد است که باید با دقت هر چه تمام تر این ابزار را به کار گرفت. ما در همان سخن سردبیری به یکی از این محدودیت ها اشاره کردیم. آن محدودیت این بود که اگر از ابزار هوش مصنوعی مولد بخواهیم بخش هایی از مقاله نظیر مقدمه را برایمان بنوسید، ممکن است که از منابعی استفاده نماید که خود تولید کرده و این منابع وجود خارجی نداشته باشند (۱). چنین منابع جعلی (Fake) را حاصل توهم (Hallucination) هوش مصنوعی، قلمداد کرده اند (۲).
Hua و همکاران از دو نسخه قدیمی و جدیدتر یک ابزار هوش مصنوعی مولد درخواست کردند که خلاصه های علمی همراه با ده منبع برای سوالات تحقیقات بالینی در هفت رشته ی تخصصی چشم پزشکی را برایشان تهیه کند. آن ها نشان دادند که سی و سه درصد از منابع تولید شده توسط نسخه اولیه و بیست و نه درصد از منابع تولید شده توسط نسخه به روز شده، منابع جعلی بوده است که توسط هوش مصنوعی تولید شده است (۲). از آنجایی که استفاده از منابع جعلی به بنیاد علم لطمه های جبران ناپذیری وارد می کند، بنابراین، محققین به خصوص محققین جوان، باید استفاده از این ابزار را با آگاهی هر چه تمام تر از این محدودیت انجام دهند (۱).
افزون بر این، Cohen و Moher در مقاله خود به یکی از محدودیت های دیگر ابزار هوش مصنوعی مولد در نگارش مقالات علمی اشاره کرده اند. آنها به این نکته اشاره می کنند که ابزارهای هوش مصنوعی مولد، برای تولید متن با بهره گیری از مدل های زبانی بزرگ (Large language models) طراحی شده اند. برای این منظور و به طور بهینه، مدل های زبانی بزرگ بر روی مجموعه داده های وسیعی که مشتمل بر محتوای متنی متنوع بوده و با در نظر گرفتن میلیاردها پارامتر آموزش داده می شوند (۴).
با این که منابع دقیق داده های آموزشی برای اغلب مدل های زبانی بزرگ گزارش نشده و یا نامشخص می باشند، این احتمال قوی وجود دارد که اغلب آن ها به طور نامتناسبی به زبان انگلیسی بوده و تولید شده توسط موسسات موجود از کشورهای غربی با درآمد بالا باشند. چون، موسسات موجود در کشورهای شرقی و با درآمد پایین، به طور تاریخی چنین داده هایی را یا تولید نکرده و یا با کیفیت پایین تولید می نمایند. از همین رو، متونی که در حال حاضر توسط ابزارها هوش مصنوعی مولد تولید می گردند، بیشتر در برگیرنده شرایط و مقتضای کشورهای غربی با درآمد بالا بوده و همین امر می تواند به شکاف موجود در این زمینه، بیشتر از بیش دامن بزند (۴).
[۱]- استاد گروه آموزشی اپیدمیولوژی و آمار زیستی، دانشکده بهداشت، مرکز تحقیقات محیط کار، دانشگاه علوم پزشکی رفسنجان، رفسنجان، ایران
کد پستی: ۷۷۱۸۱۷۵۹۱۱، تلفن: ۳۱۳۱۵۲۴۳-۰۳۴، پست الکترونیکی: moeygmr۲@yahoo.co.uk، ارکید: ۰۰۰۰-۰۰۰۳-۳۰۷۰-۰۱۶۶
کلیدواژه ها:
نویسندگان
محسن رضائیان
دانشگاه علوم پزشکی رفسنجان
مراجع و منابع این مقاله:
لیست زیر مراجع و منابع استفاده شده در این مقاله را نمایش می دهد. این مراجع به صورت کاملا ماشینی و بر اساس هوش مصنوعی استخراج شده اند و لذا ممکن است دارای اشکالاتی باشند که به مرور زمان دقت استخراج این محتوا افزایش می یابد. مراجعی که مقالات مربوط به آنها در سیویلیکا نمایه شده و پیدا شده اند، به خود مقاله لینک شده اند :
