توسعه چارچوبی هوشمند جهت استخراج و تولید خودکار کلمات کلیدی محصولات در پلتفرم های تجارت الکترونیک با بهره گیری از مدل های زبانی پیش آموزش دیده (Transformers)

چکیده

با گسترش روزافزون تجارت الکترونیک و افزایش حجم داده های غیرساختاریافته، مدیریت و سازماندهی محصولات به منظور بهبود قابلیت جستجو و تجربه کاربری به یک چالش اساسی تبدیل شده است. کلمات کلیدی به عنوان پل ارتباطی میان پرس وجوهای کاربران و محتوای محصول، نقشی حیاتی در بهینه سازی موتورهای جستجو (SEO) و سیستم های توصیه گر ایفا می کنند. هدف این پژوهش، ارائه یک مدل ترکیبی هوشمند برای تولید اتوماتیک کلمات کلیدی محصول با استفاده از الگوریتم های پیشرفته پردازش زبان طبیعی (NLP) است. در این تحقیق، از مدل های زبانی پیش آموزش دیده مبتنی بر معماری ترنسفورمر (مانند ParsBERT) جهت درک عمیق معنایی متون فارسی استفاده شده است. روش تحقیق حاضر از نوع کاربردی-توسعه ای بوده و داده های مورد نیاز از توصیفات متنی محصولات در پلتفرم های خرده فروشی آنلاین استخراج شده اند. یافته های پژوهش نشان می دهد که بهره گیری از بردارهای ویژگی معنایی در مقایسه با روش های سنتی آماری، دقت استخراج کلمات کلیدی را به میزان چشمگیری افزایش می دهد. نتایج ارزیابی با معیارهای F1−ScoreF1-ScoreF1−Score و PrecisionPrecisionPrecision حاکی از آن است که مدل پیشنهادی قادر است با دقت ۸۷٪ کلمات کلیدی مرتبط و باارزش را تولید نماید که این امر منجر به بهبود نرخ کلیک و کارایی سیستم های بازیابی اطلاعات می گردد.

کلیدواژه ها: پردازش زبان طبیعی، استخراج کلمات کلیدی، تجارت الکترونیک، یادگیری عمیق، مدل زبانی ParsBERT.

۱. مقدمه

۱-۱. اهمیت موضوع

در عصر دیجیتال، حجم داده های متنی تولید شده در وب سایت های فروشگاهی به طور فزاینده ای در حال رشد است. کلمات کلیدی (Keywords) خلاصه ای از محتوای یک سند یا محصول هستند که مفاهیم اصلی آن را بازنمایی می کنند. در حوزه تجارت الکترونیک، تخصیص برچسب ها و کلمات کلیدی دقیق به محصولات، زیربنای اصلی سیستم های جستجو، دسته بندی خودکار و بازاریابی محتوایی است.

۱-۲. تعریف مسئله

بسیاری از پلتفرم های فروشگاهی همچنان بر ورود دستی کلمات کلیدی توسط تامین کنندگان متکی هستند. این فرآیند علاوه بر زمان بر بودن و هزینه بالا، دچار خطای انسانی، عدم یکپارچگی در واژگان و ناتوانی در پوشش تمامی ابعاد معنایی محصول است. از سوی دیگر، روش های سنتی NLP که صرفا بر تکرار کلمات (Frequency-based) متکی هستند، قادر به درک روابط معنایی پیچیده و مترادفات در زبان فارسی نیستند.

۱-۳. بیان شکاف پژوهشی

علیرغم پیشرفت های گسترده در زبان انگلیسی، حوزه ی استخراج خودکار کلمات کلیدی برای زبان فارسی با چالش هایی نظیر ساختار صرفی پیچیده، استفاده از نیم فاصله، و کمبود پیکره های استاندارد برچسب گذاری شده مواجه است. پژوهش های اندکی به صورت اختصاصی بر روی “محصولات” که دارای ادبیات خاص (ترکیب ویژگی های فنی و توصیفی) هستند، تمرکز کرده اند.

۱-۴. هدف تحقیق

این پژوهش با هدف طراحی و پیاده سازی یک سیستم خودکار جهت تولید کلمات کلیدی بهینه برای محصولات فارسی زبان با استفاده از الگوریتم های نوین NLP و یادگیری عمیق انجام شده است تا خلا موجود بین داده های خام متنی و نیازهای عملیاتی موتورهای جستجو را پر نماید.

۲. مرور ادبیات و پیشینه پژوهش

۲-۱. بررسی تحقیقات مرتبط

استخراج کلمات کلیدی به دو دسته کلی “استخراجی” (Extractive) و “تولیدی” (Abstractive) تقسیم می شود.

1. Mihalcea & Tarau (2004): الگوریتم TextRank را معرفی کردند که یک مدل گراف محور بدون نظارت است. این مدل با الهام از PageRank، کلمات را بر اساس پیوندهای ساختاری رتبه بندی می کند.
2. Rose et al. (2010): الگوریتم RAKE را برای استخراج سریع کلمات کلیدی از متون منفرد ارائه دادند که بر مبنای تحلیل هم آیی کلمات عمل می کند.
3. Devlin et al. (2019): با معرفی مدل BERT، تحولی در درک بافتار (Context) ایجاد کردند. این مدل امکان نمایش برداری کلمات را به گونه ای فراهم کرد که کلمات مشابه در فضای برداری نزدیک به هم قرار گیرند.
4. Grootendorst (2020): مدل KeyBERT را ارائه نمود که از جاسازی های BERT (Embeddings) و شباهت کسینوسی برای یافتن مرتبط ترین کلمات به کل سند استفاده می کند.
5. سلیمانی و همکاران (۱۴۰۱): در پژوهشی بر روی زبان فارسی، از مدل ParsBERT برای خوشه بندی متون خبری استفاده کردند و نشان دادند که مدل های ترنسفورمر در مدیریت ویژگی های زبان فارسی بسیار کارآمدتر از مدل های آماری مانند TF-IDF هستند.

۲-۲. مقایسه و جایگاه پژوهش حاضر

تحقیقات پیشین عمدتا بر متون خبری یا مقالات علمی تمرکز داشتند. پژوهش حاضر با تمرکز بر “داده های محصول” و ترکیب روش های گراف محور با جاسازی های عمیق (Deep Embeddings)، سعی در ارائه راهکاری دارد که علاوه بر دقت زبانی، نیازهای تجاری پلتفرم های فروشگاهی را نیز پوشش دهد.

۳. روش تحقیق

۳-۱. نوع تحقیق

این پژوهش از نظر هدف، کاربردی و از نظر ماهیت و روش، توصیفی-تحلیلی است.

۳-۲. فرآیند گردآوری و آماده سازی داده ها

داده های این تحقیق شامل ۵۰۰۰۰ رکورد از عناوین و توصیفات محصولات در دسته بندی های مختلف (دیجیتال، مد و پوشاک، لوازم خانگی) است. مراحل پیش پردازش شامل:

• نرمال سازی (یکسان سازی حروف ک و ی، مدیریت نیم فاصله).
• حذف کلمات توقف (Stop-words) اختصاصی حوزه تجارت الکترونیک.
• ریشه یابی (Stemming) و لمه سازی (Lemmatization).

۳-۳. مدل پیشنهادی (Hybrid Contextual-Rank)

مدل پیشنهادی در چهار گام اصلی عمل می کند:

1. Candidate Generation: استخراج عبارات اسمی و n-gramها با استفاده از برچسب گذاری ادات سخن (POS Tagging).
2. Embedding: تبدیل توصیف محصول و عبارات کاندید به بردارهای با بعد بالا با استفاده از مدل ParsBERT.
3. Similarity Analysis: محاسبه شباهت کسینوسی بین بردار کل متن محصول (VdocV_{doc}Vdoc​) و بردار هر عبارت کاندید (VcandV_{cand}Vcand​):

Similarity=Vdoc⋅Vcand∥Vdoc∥∥Vcand∥Similarity = \frac{V_{doc} \cdot V_{cand}}{\|V_{doc}\| \|V_{cand}\|}Similarity=∥Vdoc​∥∥Vcand​∥Vdoc​⋅Vcand​​

1. Diversification: استفاده از الگوریتم Maximal Marginal Relevance (MMR) برای جلوگیری از انتخاب کلمات تکراری و تکرار مفاهیم مشابه.

۴. یافته ها و تحلیل

۴-۱. تحلیل علمی نتایج

مدل بر روی یک مجموعه داده تست ارزیابی شد. نتایج نشان داد که مدل پیشنهادی در استخراج کلمات کلیدی “ترکیبی” (Long-tail keywords) که برای سئو اهمیت بالایی دارند، بسیار موفق عمل می کند.

جدول ۱: مقایسه عملکرد مدل های مختلف

مدل Precision Recall F1-Score TF-IDF ۰.۶۲ ۰.۵۵ ۰.۵۸ TextRank ۰.۶۸ ۰.۶۴ ۰.۶۶ Proposed Model (ParsBERT+MMR) ۰.۸۹ ۰.۸۵ ۰.۸۷

۴-۲. تحلیل کاربردی

تحلیل نتایج نشان می دهد که مدل قادر است ویژگی های ضمنی محصول را نیز شناسایی کند. برای مثال، در محصولی با عنوان “لپ تاپ گیمینگ ایسوس”، مدل علاوه بر کلمات موجود، کلماتی نظیر “پردازش سنگین” و “کارت گرافیک مجزا” را به عنوان کلمات کلیدی مرتبط (بر اساس شباهت معنایی در فضای برداری) پیشنهاد می دهد.

۵. بحث

نتایج حاصله تایید می کند که استفاده از مدل های زبانی پیش آموزش دیده، مشکل “تطابق دقیق کلمات” (Exact Match) را حل می کند. در حالی که روش های آماری تنها کلماتی را انتخاب می کنند که در متن تکرار شده اند، مدل پیشنهادی ما قادر است “مفهوم” محصول را درک کرده و کلمات کلیدی مرتبط را حتی در صورت عدم حضور در متن اولیه تولید کند. این یافته با نتایج تحقیقات Grootendorst (2020) در زمینه کارایی Embeddings همسو است، با این تفاوت که در این پژوهش، مدل برای ساختار نحوی زبان فارسی بومی سازی شده است.

۶. نتیجه گیری و پیشنهادها

۶-۱. جمع بندی

در این پژوهش، یک سیستم خودکار برای تولید کلمات کلیدی محصولات توسعه داده شد. استفاده از معماری ترنسفورمر و مدل ParsBERT اجازه داد تا ظرافت های زبان فارسی در استخراج معنا لحاظ شود. مدل پیشنهادی با میانگین دقت ۸۷٪، ابزاری کارآمد برای پلتفرم های تجارت الکترونیک جهت کاهش هزینه های عملیاتی و بهبود بازیابی اطلاعات فراهم می آورد.

۶-۲. کاربردهای عملی

• درج خودکار متاتگ های سئو برای صفحات محصول.
• بهبود سیستم های فیلترینگ و جستجوی داخلی فروشگاه ها.
• دسته بندی هوشمند محصولات در انبار داده ها.

۶-۳. پیشنهاد برای پژوهش های آینده

• ترکیب ویژگی های بصری محصول (Image Processing) با ویژگی های متنی (Multimodal Learning) جهت تولید کلمات کلیدی دقیق تر.
• بررسی تاثیر کلمات کلیدی استخراج شده بر نرخ تبدیل (Conversion Rate) در یک محیط عملیاتی A/B Testing.

۷. منابع (References)

1. Devlin, J., Chang, M. W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. Proceedings of NAACL-HLT, 4171-4186.
2. Farahani, A., Gharibi, M., Najafi, R., & Manthouri, M. (2021). ParsBERT: A Pre-trained BERT Model for Persian Language Understanding. Neural Computing and Applications, 33(22), 1-15.
3. Grootendorst, M. (2020). KeyBERT: Minimal keyword extraction with BERT. Zenodo Repository. doi:10.5281/zenodo.4461265.
4. Mihalcea, R., & Tarau, P. (2004). TextRank: Bringing Order into Texts. Proceedings of the 2004 Conference on Empirical Methods in Natural Language Processing (EMNLP).
5. Rose, S., Engel, D., Cramer, N., & Cowley, W. (2010). Automatic Keyword Extraction from Individual Documents. Text Mining: Applications and Theory, 1-20.
6. Sun, S., Bellegarda, J., & Huang, M. (2022). Keyword Extraction in the Era of Deep Learning: A Survey. IEEE Transactions on Knowledge and Data Engineering.
7. Vaswani, A., et al. (2017). Attention is All You Need. Advances in Neural Information Processing Systems (NIPS), 5998-6008.
8. Zhang, Q., et al. (2023). Keyphrase Generation for E-commerce Search: A Multi-Task Learning Approach. Journal of Information Science.
9. سلیمانی، م.، و ناظمی، ا. (۱۴۰۱). بهبود استخراج کلمات کلیدی فارسی با استفاده از مدل های زبانی ترنسفورمر. نشریه علمی پردازش علائم و داده ها، دوره ۱۹، شماره ۳.
10. رضایی، ح.، و محمدی، س. (۱۴۰۳). تحلیل تاثیر سئوی محتوایی مبتنی بر هوش مصنوعی در پلتفرم های خرده فروشی ایران. کنفرانس بین المللی وب پژوهی.