آموزش پردازش زبان طبیعی با اکوسیستم هاگینگ فیس ؛ مدل های رمزگشا (قسمت هفتم)
تیم تحریریه- ۴ مهر ۱۴۰۰
در ادامه قسمت‌های دوره آموزش پردازش زبان طبیعی به مدل های رمزگشا خواهیم پرداخت. یکی از شاخه‌های مهم و جذاب فناوری هوش مصنوعی، پردازش زبان طبیعی است و علاقه‌مندان به هوش مصنوعی مطمئنا با آشنایی بیشتر با این حوزه، جذب آن خواهند شد. هرچند برای آشنایی با این فناوری مشکلات بسیاری پیش رو است. به عنوان برخی از مشکلات می‌توان به کمبود منابع ترجمه شده مناسب و آموزشگاه‌های معتبر برای آموزش آن اشاره کرد.
البته همواره یکی از بهترین و ساده‌ترین راه‌ها برای آشنایی با حوزه‌های هوش مصنوعی تماشای ویدئوهای آموزشی و دوره‌های رایگان اینترنتی در کنار مطالعه متون ترجمه شده هستند.
وبسایت هوشیو که پیش از این دوره آموزش علوم داده را منتشر کرده بود، این‌بار دوره آموزشی پردازش زبان طبیعی که مجموعه‌ای از محتواهای متنی و ویدئویی بوده را ارائه کرده است.
در قسمت‌های قبل این دوره که از طریق لینک انتهای مطلب به آن دسترسی خواهید داشت، به موضوعاتی از قبیل تنظیم محیط کار، مفهوم پردازش زبان طبیعی، آشنایی با ترنسفورمرها، روش کار آن‌ها و این‌که چه می‌کنند و مدل های رمزنگار پرداخته شده و این قسمت مربوط به مدل های رمزگشا است.
مدل های رمزگشا
مدل‌های رمزگشا تنها از بخش رمزگشای معماری ترنسفورمر استفاده می‌کنند. لایه‌های توجه این قبیل مدل‌ها در هر مرحله و برای هر کلمه، تنها به کلماتی که در توالی اولیه قبل از کلمه تحت بررسی قرار گرفته باشند، دسترسی دارند. این مدل‌ها اغلب مدل‌های خودهمبسته نامیده می‌شوند.
مرحله پیش‌آموزش در مدل‌های رمزگشا عمدتاً شامل پیش‌بینی کلمه بعدی در یک جمله است. عملکرد این مدل‌ها در مسائل مرتبط با تولید متن بسیار خوب است و کاملاً مناسب حل این‌گونه مسائل هستند. از معروف‌ترین مدل‌های رمزگشا می‌توان به موارد زیر اشاره کرد:
- CTRL
- GPT
- GPT-2
- Transformer XL
علاقه‌مندان می‌توانند برای تماشای دیگر قسمت‌ها از دوره آموزش پردازش زبان طبیعی به لینک زیر مراجعه کنند:
[button href=”https://hooshio.com/%D8%B1%D8%B3%D8%A7%D9%86%D9%87-%D9%87%D8%A7/%D8%A2%D9%85%D9%88%D8%B2%D8%B4-%D9%BE%D8%B1%D8%AF%D8%A7%D8%B2%D8%B4-%D8%B2%D8%A8%D8%A7%D9%86-%D8%B7%D8%A8%DB%8C%D8%B9%DB%8C/” type=”btn-default” size=”btn-lg”]آموزش پردازش زبان طبیعی[/button]
