مدل های زبانی بزرگ در علوم کامپیوتر

فایل این در 27 صفحه با فرمت PDF قابل دریافت می باشد

  • من نویسنده این مقاله هستم

استخراج به نرم افزارهای پژوهشی:

لینک ثابت به این :

چکیده :

زبانی بزرگ (LLMs (به طرز فزاینده ای در انجام طیف وسیعی از وظایف پردازش زبان طبیعی (NLP (از جمله تولید و درک متن عملکرد بهتری پیدا کردهاند. در سال های اخیر، این مدلها قابلیت های خود را به حوزه برنامه نویسی نیز گسترش داده اند و شکاف میان زبان های طبیعی (NL (و 1 زبانهای برنامهنو یسی (PL (را پر کردهاند. 2 مدلهای بنیادی نظیر "مبد ل تولید ی پیش - آموخته" و"مدل زبان بزرگ شرکت متا" 3 عملکرد پایه ای قدرتمندی را در وظایف گوناگون NL و PL از خود نشان دادهاند. افزون بر آن، چندین مدل نیز بهطور خاص برای تولید کد آموزشدیده اند و پیشرفت های چشمگیری در برنامه های مبتنی بر تولید کد از خود نشان داده اند. هر دو گروه از مدلها، یعنی مدل های پایه و مدلهای تنظیم شده ، به طور فزاینده ای در آموزش به کار گرفته میشوند و به دانشجویان در نوشتن، اشکال زدایی و درک کد کمک میکنند. در این مطالعه، یک مرور نظاممند جامع از متون علمی ارائه شده است تا تاثیرLLM ها را در آموزش علوم کامپیوتر و مهندسی نرمافزار بررسی نماییم. در این پژوهش، اثربخشیLLM ها در ارتقاء تجربه یادگیری، پشتیبانی از آموزش شخصیسازی شده، و کمک به مدرسان در طراحی برنامه های درسی 1 - Fine-tuned 2 - Generative Pre-trained Transformer (GPT)

کلیدواژه ها:

مدل های زبانی بزرگ ، تولید کد ، آموزش علوم کامپیوتر

نویسندگان

نیما ربیعی

دانشجوی هوش مصنوعی مقطع دکترا

فرزان سرخوش

دانشجوی نرم افزار مقطع کارشناسی

مراجع و منابع این :

لیست زیر مراجع و منابع استفاده شده در این را نمایش می دهد. این مراجع به صورت کاملا ماشینی و بر اساس هوش مصنوعی استخراج شده اند و لذا ممکن است دارای اشکالاتی باشند که به مرور زمان دقت استخراج این محتوا افزایش می یابد. مراجعی که مقالات مربوط به آنها در سیویلیکا نمایه شده و پیدا شده اند، به خود لینک شده اند :
  • 1. Denny, P., Kumar, V., & Giacaman, N. (2023). Conversing ...
  • engineering for solving CS1 problems using natural language. Presented at ...
  • 2. OpenAI. (2023). GPT-4 Technical Report. Retrieved ...
  • from https://arxiv.org/abs/2303.08774 ...
  • 3. Phung, T., Victor-Alexandru, T., et al. (2023). Generative AI ...
  • Benchmarking ChatGPT, AlphaCode, and human tutors. ...
  • 4. Zhou, K. Z., Kilhofer, C., et al. (2024). “The ...
  • 5. Hicke, Y., Agarwal, A., Maqarfi, Q., & Denny, P. ...
  • question-answer teaching assistant using open-source LLMs. ...
  • 6. Tanyar, B. A., Arzine, L., Joshi, S. S., Davis, ...
  • study on upper-level computing students’ use of LLMs in a ...
  • 7. Meyer, J., & Urbanowicz, R. (2023). AI ChatGPT and ...
  • Opportunities and challenges. BioData Mining. ...
  • 8. Kumar, H., & Musabirov, I. (2024). Impact of guidance ...
  • Pankiewicz, M., & Baker, R. S. (2023). Large language models ...
  • feedback on programming assignments. ...
  • 10. Shaw, M. (2023). Survey: AI’s impact on the developer ...
  • Retrieved from https://github.blog/2023-06-13-survey-reveals-ais-impact-on-the￾developer-experience/#methodology ...
  • 11. Budhiraja, R., Joshi, I., et al. (2023). “It’s not ...
  • ChatGPT’s usage among undergraduate students in computer science. Presented in ...
  • 12. Frankford, E., Höhn, I., Sauerwein, C., & Breu, R. ...
  • the art of programming exercise generation using large language models. ...
  • 13. Duan, Y., Juan, D., Xu, Y., Cai, Z., Sun, ...
  • and privacy: The good, the bad, and the ugly. High-Confidence ...
  • 14. Fan, A., Gokkaya, B., Harman, M., Lyubarskyi, M., Sengupta, ...
  • (2024). Large language models for software engineering: Survey on trends ...
  • In ICSE. ...
  • 15. Vithursuer, M., Groher, I., Antensteiner, T., & Sauerwein, C. ...
  • emerging AI applications in CS education. In CSEE&T. ...
  • 16. Cambra, D., & Zhang, X. (2024). Use of AI-driven ...
  • learning programming: A systematic literature review. In SIGCSE. ...
  • 17. Kitchenham, B. A., & Charters, S. (2007). Guidelines for ...
  • reviews in software engineering. ...
  • 18. Alobaylenjadan, M., Alipour, S., & Kash, T. (2024). Leveraging ...
  • tutoring through personalized prompt-based instruction: A CS education case study. ...
  • In CHI. ...
  • 19. Agarwal, Y., Krishan Garg, M., Dharmavaram, S., & Kumar, ...
  • should I use?” – Evaluating LLMs for tasks performed by ...
  • students. ...
  • 20. Anishka, A., & Mehta, A. (2023). Can ChatGPT play ...
  • introductory programming course? ...
  • 21. Arora, C., Venaik, P., Singh, S., Goyal, S., Tyagi, ...
  • (2024). Analyzing LLM usage in an advanced comp ...
  • نمایش کامل مراجع