در جولای 2024، متا جدیدترین مدل پیشرفته خود، لاما 3.1 با 405 میلیارد پارامتر را به همراه نسخه‌های کوچک‌تر آن، لاما 3.1 70B و لاما 3.1 8B منتشر کرد. این انتشار تنها سه ماه پس از معرفی لاما 3 صورت گرفت. در حالی که لاما 3.1 405B در اکثر معیارها از GPT-4 و کلود 3 اوپوس پیشی می‌گیرد و آن را به قدرتمندترین مدل متن‌باز موجود تبدیل می‌کند، ممکن است به دلیل زمان تولید کند و زمان بالای اولین توکن (TTFT) برای بسیاری از کاربردهای دنیای واقعی انتخاب مناسبی نباشد.

برخلاف تصور رایج، مدل‌های هوش مصنوعی تولیدکننده متن، موجودات باهوش و دارای شخصیت نیستند. این مدل‌ها در واقع سیستم‌های آماری پیشرفته‌ای هستند که وظیفه‌شان پیش‌بینی محتمل‌ترین کلمه بعدی در یک جمله است. اما مانند کارآموزانی در محیط کاری سخت‌گیر، آن‌ها از مجموعه قوانینی به نام «دستورات سیستمی» پیروی می‌کنند. این دستورات پایه‌های عملکردی مدل‌ها را مشخص می‌کنند و بایدها و نبایدهای آن‌ها را تعیین می‌کنند.

با گسترش عصر اطلاعات و با توجه به این‌که اکثر این اطلاعات در قالب متن در دسترس همگان هستند، امکان انجام محاسبات روی این متون و درک آن‌ها توسط رایانه‏‌ها روزبه‌روز پراهمیت‌تر می‌‏شود. درواقع، پردازش زبان طبیعی (NLP Natural Language Processing) زیرشاخه‌‏ای از هوش مصنوعی و زبان‏شناسی است که سعی

شرکت‌ها با تکیه بر تکنیک تحلیل احساسات می‌توانند بار عاطفی ارتباطات را تشخیص دهند. درحال‌حاضر، این فناوری از تحلیل متن فراتر می‌رود و از داده‌های صوتی و تصویری نیز استفاده می‌کند. تعریف تحلیل احساسات تحلیل احساسات، روشی تحلیلی است که به‌منظور تشخیص معنای عاطفی ارتباطات از آمار، پردازش زبان طبیعی

پیش از آنکه به متن کاوی در هوش مصنوعی بپردازیم، باید با مقوله‌ای با نام پردازش زبان طبیعی یاNaturalLanguage Processing (NLP) آشنا شوید. NLP در‌واقع مقدمه‌ای برای ورود به مبحث متن‌کاوی بوده و در‌حقیقت روشی است که از طریق آن می‌توان به ارائه مفاهیم به شکلی قابل درک، برای کامپیوترها

پیشرفت چشمگیر فناوری پردازش زبان طبیعی (Natural Language Processing) در چند سال اخیر، برای بسیاری از متخصصان علوم داده نیز قابل پیش‌بینی نبود. فراگیری NLP چنان قابل‌توجه بوده که بسیاری از شرکت‌های کوچک و بزرگ، تصمیم گرفتند سرمایه‌گذاری عظیمی بر روی این فناوری انجام دهند و پردازش زبان طبیعی را

سال 2019 را می‌توان سال ورود ترنسفورمر به حوزه پردازش زبان طبیعی نامگذاری کرد؛ در این سال این معماری در صدر تمامی جدول‌های رده‌بندی (Leaderboards) قرار گرفت و الهام‌بخش مطالعات تحلیلی بسیاری بود. بی‌شک مشهورترین ترنسفورمر، مدل زبانی BERT است (دولین، چانگ، لی و توتانووا، 2019). این مدل زبانی کاربردهای

در نوشتار حاضر با انواع بردار کلمات، نحوه‌ی ایجاد آنها در پایتون و بکارگیری‌شان به همراه شبکه‌های عصبی در keras آشنا خواهید شد. روش‌های پردازش زبان طبیعی برای مدتی طولانی از مدل vectorspace برای نمایش کلمات استفاده می‌کردند. بردارهای رمزگذاری‌شده‌ی وان-هات به طور متداول به کار برده می‌شوند. البته روش

یکی از ویژگی‌های بارز مشاغل موفق در قرن بیست و یکم، تعامل مشتری است. طبق توضیح هاب اسپات Hubspot تعامل مشتری ایجاد تعامل با مصرف کنندگان در چندین کانال برای تقویت ارتباط شرکت با آن‌ها است و امروزه به لطف پیشرفت در شبکه های اجتماعی، تعامل مشتری در بالاترین حد

مدل‌های پیچیده جدید هوش مصنوعی مانند GPT-3، شرکت OpenAI به دلیل توانایی در تقلید از زبان انسانی این روزها سر و صدای زیادی به پا کرده‌اند. اما آیا این بدان معناست که قرار است کامپیوتر جای انسان را بگیرد؟ حداقل نه به این زودی. به این دلیل که هوش مصنوعی

فناوری تشخیص گفتار گوگل به عنوان گامی به سمت هوشمند شدن ابزارها به شمار می‌رود. یکی از قابلیت‎های گوگل، قابلیت تشخیص گفتار از طریق هوش مصنوعی است. هوش مصنوعی با قابلیت پردازش زبان طبیعی در مرحله اول قادر به فهم زبان انسانی شد و توانایی برقراری ارتباط با انسان را

پردازش زبان طبیعی (NLP) یکی از زیرشاخه‌های حوزه هوش مصنوعی است؛ در این روش به منظور برقراری ارتباط با سیستم از زبان طبیعی استفاده می‌شود. پایتون یکی از زبان‌های پرکاربرد NLP است و تقریباً در تمامی رشته‌ها و حوزه‌ها مورد استفاده قرار می‌گیرد. در مقاله پیش‌رو به معرفی 10 کتابخانه

محققان موسسه Skoltech و همکاران آن‌ها از Mobile TeleSystems مفهوم «پیام‌های متنی نامناسب» را معرفی کرده و یک مدل عصبی با قابلیت تشخیص عبارات نامناسب را آموزش داده‌اند و به همراه مجموعه بزرگی از پیام‌های این چنینی منتشر کرده‌اند تا بتوان از آن در مطالعات آتی نیز استفاده کرد. از

به اولین بخش از پردازش زبان طبیعی مدرن خوش آمدید. پردازش زبان طبیعی پیشرفت سریع خود را مرهون انتقال یادگیری است و به همین دلیل پیش از هر چیز به معرفی یادگیری انتقالی ‌می‌پردازیم.

سازندگان Eleuther ابراز امیدواری کرده‌اند که این محصول می‌تواند یک جایگزین متن باز برای GPT-3 باشد. لازم به ذکر است که GPT-3 یکی از نرم‌افزارهای مشهور زبانِ OpenAI می‌باشد.

اگر دیتاست‌تان در Hub نباشد، چه رویکردی در پیش می‌گیرید؟ می‌دانید که برای دانلود دیتاست‌ها چگونه از Hugging Face Hub استفاده کنید. اما اغلب با داده‌هایی سر و کار دارید که یا در لپ‌تاپ‌تان یا در سرور از راه دوری ذخیره شده‌اند. در بخش حاضر، نحوه‌ی استفاده از ? Datasets

فصل چهارم از دوره آموزشی پردازش زبان طبیعی با اکوسیستم هاگینگ فیس به پایان رسید و نوبت به آزمون پایانی رسید که در ادامه با سوالات آن مواجه خواهد شد. به زودی با فصل آینده این دوره آموزشی در خدمت شما خواهیم بود. اما ابتدا اندوخته‌های خود از این فصل

به جرات می‌توان گفت که کارت مدل Model Card به لحاظ اهمیت با فایل‌های مدل و توکن‌کننده یکسان است. کارت مدل می‌تواند قابلیت استفاده‌ی مجدد اعضاء و تکرار نتایج را تضمین کند. افزون بر این، پلتفرم مفیدی به واسطه‌ی آن ایجاد می‌شود که سایر اعضا می‌توانند آرتیفکت خودشان را در آن

آسان‌ترین روش برای اشتراک‌گذاری مدل از پیش آموزش داده شده این است که از Hugging Face Hub استفاده کنید. ابزارها و امکانات موجود می‌تواند بستر مناسبی برای اشتراک‌گذاری و به‌روزرسانیِ مستقیم مدل‌ها در Hub فراهم کند. جزئیات آن در بخش‌های بعدی مقاله توضیح داده خواهد شد. مشوق‌های لازم در اختیار

انتخاب مدل مناسب با Model Hub به مراتب آسان‌تر می‌شود. بنابراین، با چند خط کد می‌توان از آن در کتابخانه استفاده کرد. حال، باید دید این مدل‌ها چگونه به کار برده می‌شوند. فرض کنید به دنبال مدل زبان فرانسوی هستیم که عمل mask filling را انجام می‌دهد. انجام این کار،

چهارمین فصل از دوره آموزش پردازش زبان طبیعی با اکوسیستم هاگینگ فیس به موضوع هاگینگ فیس هاب می‌پردازد. همچنین می‌توانید از لینک انتهای مطلب به دیگر فصول و قسمت‌های این دوره آموزشی دسترسی داشته باشید. هاگینگ فیس هاب Hugging Face Hub به یک پلتفرم مرکزی اطلاق می‌شود که فرصتِ کشف،

فصل سوم از دوره رایگان آموزش پردازش زبان طبیعی با اکوسیستم هاگینگ فیس هم به پایان رسید و طبق روال گذشته، در پایان هر فصل یک «آزمون پایان فصل» ترتیب داده شده تا بتوانید اطلاعات و آموخته‌های خود را محک بزنید. سوالات آزمون در ادامه آورده شده و بعد از

پیوتر زلاسکو، مهندس مرکز پردازش زبان و گفتار جانز هاپکینز، مدل یادگیری ماشینی را تولید کرده است که می‌تواند نقش‌های گفتاری را در متن‌ گفت‌وگوهایی که سیستم‌های درک زبان (LU) پیاده کرده‌اند، تشخیص دهد. کامپیوترها با استفاده از این روش در نهایت می‌توانند متن گفتاری یا نوشتاری را همانند انسان‌ها

این قسمت از دوره آموزش پردازش زبان طبیعی با اکوسیستم هاگینگ فیس به تنظیم دقیق مدل با Keras خواهد پرداخت. همچنین شما می‌توانید در انتهای مطلب به لینک سایر قسمت‌‎ها دسترسی داشته باشید. به محض اِتمام کلیه‌ی کارهای پیش‌پردازش در بخش پیشین، فقط چند مرحله دیگر برای آموزش مدل در

یکی از برجسته‌ترین پیشرفت‌های دنیای یادگیری ماشین، آموزش قابلیت درک ارتباطات انسانی به ماشین‌هاست. این بُعد از یادگیری ماشین را پردازش زبان طبیعی (NLP) می‌خوانند. در این نوشتار با مقدمات پردازش زبان طبیعی (NLP) آشنا شده و در مورد نقش پیشرفت‌های یادگیری عمیق و شبکه‌های عصبی روی این حوزه توضیح

به باور کارشناسان، چت بات ها باید تا حدی به قابلیت پردازش زبان طبیعی مجهز شوند تا بتوانند به خوبی با کاربران وارد مکالمه شوند. اگر ربات‌ها فاقد توانش زبانی باشند، صرفاً نقش فرمان‌پذیر را ایفا می‌کنند. پیشرفت‌های حاصل آمده در پردازش زبان طبیعی منجر به ارتقای قابلیت‌های چت بات

در فصل دوم دوره آموزش پردازش زبان طبیعی، نحوه‌ی استفاده از توکن‌کننده‌ها و مدل‌هایِ از پیش آموزش یافته برای انجام پیش‌بینی بررسی شد. اما اگر بخواهید مدلِ از پیش آموزش دیده‌ای را برای دیتاست خودتان تنظیم کنید، چه رویکردی باید در پیش بگیرید؟ فصل جاری به طور مفصل به این

در حال حاضر PyTorch بیشترین نرخ رشد را در میان چارچوب‌های کاری یادگیری عمیق دارد و در دوره‌های آموزشی Fast.ai، با عنوان «یادگیری عمیق برای برنامه‌نویس‌ها»، و کتابخانه آن مورد استفاده قرار می‌گیرد. PyTorch به شدت پایتونی است، به عبارت دیگر برای برنامه نویسان Python، کار کردن با PyTorch بسیار

فصل دوم دوره آموزش پردازش زبان طبیعی هم به پایان رسید و به آزمون پایان فصل رسیدیم. در زیر 10 سوال وجود دارد که برای محک زدن خودتان می‌توانید به آن‌ها پاسخ دهید. توجه داشته باشید که بعضی از سوالات ممکن است بیش از یک گزینه درست داشته باشند. در

این سؤال‌ها برایمان پیش می‌آید که چگونه قواعد ساده زبانی به گونه‌ای پیش رفته‌اند که حجم عظیمی از اطلاعات را در کسری از ثانیه به سیستم‌های پیشرفته‌ ترجمه ماشینی تبدیل کنند؟ و تولید این سیستم‌ها از چند دهه گذشته کلید خورده است؟ امکان ترجمه ماشینی خودکار که مدت‌ها برای انسان

در این قسمت از آموزش پردازش زبان طبیعی با اکوسیستم هاگینگ فیس به جمع‌بندی فصل دوم خواهیم پرداخت. در چند بخش گذشته، بخش اعظم کارها به صورت دستی انجام شد. نحوه کارکرد توکن‌کننده‌ها، فرایند توکن‌سازی Tokenization، تبدیل به شناسه‌های ورودی input IDs، پَدینگ، کوتاه‌سازی Truncation و ماسک‌های توجه Attention masks نیز

محققان، سیستمی جدید ساخته‌اند که برای حل مسائل ریاضی دبستان آموزش دیده است. دقت این سیستم، نزدیک به دوبرابر مدل GPT-3 است که به دقت تنظیم شده باشد. این مدل می‌تواند 90 درصد مسائلی را که دانش‌آموزان حل کرده‌اند، پاسخ دهد. در این پروژه، نمونه‌ کوچکی از کودکان 9 تا

پژوهشگران علوم کامپیوتر به تازگی عملکرد سیستم‌های مکالمه از قبیل ربات‌های سخنگو را که به منظور تعامل با انسان طراحی شده‌اند، بررسی کرده‌اند. این گروه دریافتند که وقتی این سیستم‌ها با مکالمه‌های حاوی اصطلاحات یا تشبیهات مواجه می‌شوند، عملکردشان بین 10 تا 20 درصد کاهش می‌یابد. همچنین این گروه پژوهشی

هوش مصنوعی جنبه‌هایی جدید از پردازش زبان در مغز را روشن می‌سازد. پژوهشگران اعلام کردند که احتمالاً مغز انسان، کلمه بعدی را پیش‌بینی می‌کند، تا پردازش زبان را پیش ببرد. در چند سال گذشته، مدل‌های هوش مصنوعیِ زبان در انجام برخی تکالیف بسیار پیشرفت کرده‌اند. نکتۀ قابل‌توجه‌ این است که

در این قسمت از دوره رایگان آموزش پردازش زبان طبیعی به مدیریت چندین توالی ورودی خواهیم پرداخت. ساده‌ترین موارد کاربرد (یعنی استنباط گیری از یک توالی با طول اندک) در بخش پیشین بررسی شد. با این حال، باید پاسخ مناسبی به پرسش‌های زیر داده شود: در بخش زیر خواهید دید