
آنچه در مورد مدل زبانی BERT نمیدانیم
سال 2019 را میتوان سال ورود ترنسفورمر به حوزه پردازش زبان طبیعی نامگذاری کرد؛ در این سال این معماری در صدر تمامی جدولهای ردهبندی (Leaderboards) قرار گرفت و الهامبخش مطالعات تحلیلی بسیاری بود. بیشک مشهورترین ترنسفورمر، مدل زبانی BERT است (دولین، چانگ، لی و توتانووا، 2019). این مدل زبانی کاربردهای






































