آموزش پردازش زبان طبیعی با اکوسیستم هاگینگ فیس؛ مقدمه (قسمت اول)

در این دوره که تحت عنوان «آموزش پردازش زبان طبیعی» ارائه شده، می‌آموزید که چطور به کمک اکوسیستم هاگینگ فیسHugging Face (ترنسفورمرهاTransformers، دیتاست‌ها،  توکن‌کننده‌هاTokenizers و شتاب‌دهنده‌ها Accelerate) پردازش زبان طبیعیnatural language processing و هاب هاگینگ فیس، (NLP) را انجام دهید. این دوره کاملاً رایگان است و هر هفته یک قسمت از آن در سایت هوشیو منتشر خواهد شد. در انتهای مطلب شما می‌توانید به صفحه اصلی قسمت‌های مختلف این دوره دسترسی داشته باشید.

در دوره آموزش پردازش زبان طبیعی با اکوسیستم هاگینگ فیس چه خواهیم دید؟

• قسمت‌های اول تا چهارم این دوره مقدمه‌ای هستند بر مفاهیم اصلی کتابخانه ترنسفورمرها. در انتهای این بخش از دوره، شما با سازوکار مدل‌های ترنسفورمر، نحوه استفاده از هاب هاگینگ فیس، تنظیم دقیقfine-tune  آن روی دیتاست و به‌اشتراک‌گذاری نتایج روی هاب آشنا خواهید شد.
• در قسمت‌های 5 تا 8 نیز ابتدا مباحث پایه‌ای دیتاست‌ها و توکن‌کننده‌ها مطرح خواهد شد و پس از آن به بررسی برخی مسائل رایج در حوزه پردازش زبان طبیعی خواهیم پرداخت. در انتهای این بخش قادر خواهید بود تا رایج‌ترین مسائل NLP را به تنهایی حل کنید.
• در قسمت‌های 9 تا 12 نیز به بررسی عمیق‌تر مفاهیم پیشین و معماری‌های تخصصی (از قبیل memory efficiency، long sequences و غیره) خواهیم پرداخت و همچنین خواهیم آموخت که چطور به کمک مفاهیم شیءگرایی کدی بنویسیم که کاربردهای بیشتری داشته باشد. با به پایان رساندن این بخش از دوره آماده حل هر نوع مسئله پیچیده‌ای در حوزه NLP خواهید بود و می‌توانید به راحتی در توسعه مدل‌های ترنسفورمر مشارکت کنید.

پیش‌نیازهای دوره آموزش پردازش زبان طبیعی به شرح زیر می‌باشند:

• بهتر است تا حدودی با زبان پایتون آشنا باشید
• بهتر است پیش از شروع این دوره، دوره‌های یادگیری عمیق از قبیل دوره Practical Deep Learning for Coders یا دوره‌های ارائه شده توسط ai را بگذرانید
• برای شروع این دوره نیازی به آشنایی قبلی با فریم‌ورک‌های پایتورچ و تنسورفلو نیست

اعضای تیم ما

متیو کَریگن: وی یکی از مهندسین یادگیری ماشین در هاگینگ فیس است که در دوبلین، ایرلند زندگی می‌کند و پیش از این در Parse.ly مشغول به کار بوده است. پیش از آن نیز در دانشگاه ترینیتی دوبلین به عنوان محقق پست دکترا فعالیت داشته است. کریگن بر این باور است که در مسیر پیشرفت و رسیدن به هوش مصنوعی عام یا AGI، با مقیاس‌پذیر کردن معماری‌های کنونی راه به جایی نخواهیم برد، اما در عوض درباره جاودانگی ربات‌ها بسیار خوش‌بین است.

لیساندره دبیو: یکی دیگر از مهندسان یادگیری ماشین در هاگینگ فیس که از مراحل ابتدایی طراحی و توسعه کتابخانه ترنسفورمر روی این پروژه کار می‌کرده و هدف نهایی او طراحی و ساخت ابزارهایی است که به لطف API ساده خود بتوانند استفاده از NLP  را برای همه ممکن سازند.

سیلوان گوگر: یکی از مهندسین پژوهش و رسیدگی‌کنندگان اصلی کتابخانه ترنسفورمر هاگینگ فیس است. وی پیش‌تر با شرکت fast.ai همکاری داشته و یکی از نویسندگان کتاب Deep Learning for Coders with fastai and PyTorch نیز می‌باشد. پژوهش‌های گوگر عمدتاً روی طراحی و بهبود تکنیک‌هایی که آموزش سریع مدل با منابع محدود را ممکن می‌سازند، متمرکزند.

آماده شروع هستید؟

در قسمت اول این بخش خواهید آموخت:

• چطور با استفاده از تابع pipeline مسائل NLP  از قبیل تولید متن و دسته‌بندی را حل کنید.
• معماری ترنسفورمر چیست.
• چگونه معماری‌های انکدر، دیکدر و انکدر-دیکدر را از هم تشخیص دهید.

برای دسترسی به بخش‌های دیگر دوره آموزش پردازش زبان طبیعی به لینک زیر مراجعه کنید:

[button href=”https://hooshio.com/%D8%B1%D8%B3%D8%A7%D9%86%D9%87-%D9%87%D8%A7/%D8%A2%D9%85%D9%88%D8%B2%D8%B4-%D9%BE%D8%B1%D8%AF%D8%A7%D8%B2%D8%B4-%D8%B2%D8%A8%D8%A7%D9%86-%D8%B7%D8%A8%DB%8C%D8%B9%DB%8C/” type=”btn-default” size=”btn-lg”]آموزش پردازش زبان طبیعی[/button]