GPT-3، گامی بزرگ برای یادگیری عمیق و NLP

چند روز پیش OpenAI یک جانشین جدید برای مدل زبان خود (LM) – GPT-3 را معرفی کرد. این بزرگترین مدلی است که تا کنون آموزش دیده است، با ۱۷۵ میلیارد پارامتر. در حالی که آموزش این مدل بزرگ مزایای خود را دارد، خواندن بخش بزرگی از ۷۲ صفحه می تواند خسته کننده باشد. در این پست وبلاگ، قسمت‌هایی را که برای افرادی که با LM آشنا هستند و فقط می‌خواهند (بیشتر) نکات برجسته این کار را بدانند، جالب است، برجسته می‌کنم.

«تنوع وظایفی که مدل قادر است در یک محیط صفر شات انجام دهد، نشان می‌دهد که مدل‌های با ظرفیت بالا که برای به حداکثر رساندن احتمال یک مجموعه متنی به اندازه کافی متنوع آموزش دیده‌اند، شروع به یادگیری نحوه انجام تعداد شگفت‌انگیز وظایف بدون نیاز به نظارت صریح می‌کنند.»

این گزیده ای از سند همراه GPT-2 است. GPT-3 گام دیگری در این مسیر برمی دارد.

به طور خاص، نویسندگان به کاستی‌های تنظیم دقیق با استفاده از مجموعه داده‌های ویژه کار اشاره می‌کنند.

• به دست آوردن این مجموعه داده ها دشوار است.

• تنظیم دقیق به مدل اجازه می دهد تا از همبستگی های جعلی که منجر به عملکرد ضعیف در خارج از توزیع می شود، بهره برداری کند.

• یک دستورالعمل کوتاه به زبان طبیعی معمولاً برای درک یک کار کافی است. این سازگاری ویژگی مطلوب سیستم های NLP است.

مسیری که نویسندگان انتخاب کرده‌اند «یادگیری در زمینه» است – تغذیه مدل با مشخصات کار (اعلان) و/یا چندین نمایش از کار به عنوان پیشوند، هدایت آن به فضایی فرعی در فضای پنهان که به وظیفه داده شده پایبند است. برای مثال، ترجمه به صورت “س: ترجمه {زبان} از {جمله} الف: {ترجمه} چیست”.

این بر این فرض استوار است که مدل طیف گسترده‌ای از مهارت‌ها و توانایی‌های تشخیص الگو را در طول آموزش توسعه می‌دهد و سپس از این توانایی‌ها در طول استنتاج برای تطبیق یا تشخیص سریع کار مورد نظر استفاده می‌کند.

این عقل رایج است که سردرگمی کم با عملکرد پایین دستی کار مرتبط است، بنابراین می توان امیدوار بود که مدل های بزرگتر قابلیت های زمینه ای بهتری را ارائه دهند. و در واقع، این درست است، همانطور که در شکل زیر مشاهده می شود، که یک کار ساده را آزمایش می کند که مدل را ملزم به حذف کاراکترهای تصادفی از یک کلمه می کند:

تعداد نمونه‌ها در یک زمینه بین ۱۰ تا ۱۰۰ متغیر است، زیرا معمولاً این چیزی است که با اندازه بافت مدل ۲۰۴۸ مجاز است. وقتی تعداد نمونه‌ها کم باشد، اعلان (مشخصات وظیفه) نقش مهمی ایفا می‌کند.

نویسندگان بسیاری از معیارهای معروف را آزمایش کرده اند، اما ابتدا – بیایید مشخصات مدل را بررسی کنیم.

GPT-3 از یک معماری مبتنی بر ترانسفورماتور شبیه به GPT-2 تشکیل شده است، شامل مقدار دهی اولیه اصلاح شده، پیش عادی سازی و توکن سازی برگشت پذیر که در آنجا توضیح داده شده است، با این تفاوت که از الگوهای توجه متناوب متراکم و باند پراکنده در لایه های ترانسفورماتور، مشابه ترانسفورماتور Sparse استفاده می کند.

نویسندگان چندین اندازه مدل از ۱۲۵ میلیون پارامتر تا ۱۷۵ میلیارد پارامتر را برای اندازه گیری رابطه بین اندازه مدل و عملکرد معیار آموزش دادند.

نویسندگان سه مرحله را برای بهبود کیفیت متوسط ​​مجموعه داده ها انجام دادند:

• آنها نسخه ای از CommonCrawl را بر اساس شباهت به مجموعه ای از مجموعه های مرجع با کیفیت بالا دانلود و فیلتر کردند.

• آن‌ها برای جلوگیری از افزونگی و حفظ یکپارچگی مجموعه اعتبارسنجی حفظ‌شده، کپی‌سازی فازی را انجام دادند.

• آنها مجموعه های شناخته شده با کیفیت بالا را به ترکیب آموزشی اضافه کردند.

در شکل زیر می بینیم که قانون توان LM همچنان پابرجاست:

برای آزمایش اینکه آیا از دست دادن اعتبار سنجی از پیش آموزش دیده با عملکرد کار پایین دستی مرتبط است یا خیر، نویسندگان فهرست جامعی از معیارهای NLP شناخته شده را با تغذیه K مثال از مجموعه آموزشی در زمینه برای ارزیابی نمونه ای از مجموعه آزمایشی ارزیابی کردند. در مقاله آنها تمام شاخص ها را با جزئیات توصیف می کنند، اما در اینجا من فقط یک نمونه کوچک را توصیف کردم:

مدل سازی زبان

اگرچه PTB مجبور است بسیاری از مجموعه داده‌های مرتبط با سردرگمی مدل‌سازی زبان را به دلیل حفظ در داده‌های آموزشی از دست بدهد، با پیش‌بینی اینترنت مدرن از این مشکل جلوگیری می‌کند و GPT-3 یک SOTA جدید را تنظیم می‌کند.

لامبادا

در این کار، مدل باید آخرین کلمه یک جمله را پیش بینی کند. اخیراً پیشنهاد شده است که مقیاس بندی مداوم LM منجر به کاهش بازده در این معیار دشوار می شود. با این حال، GPT-3 به دقت ۷۶ درصد در تنظیم شات صفر دست یافت – یک افزایش ۸ درصدی نسبت به SOTA قبلی.

در تنظیمات چند تصویری، کار را می توان به عنوان یک کار نزدیک قاب کرد (جاهای خالی را پر کنید)، درک این موضوع را برای مدل آسان تر می کند که فقط یک کلمه مورد نیاز است. این دقت ۸۶٫۴٪ را به دست می دهد.

پاسخ به سوال کتاب بسته

در این کار، GPT-3 بهتر از SOTA عمل می‌کند، که نه تنها کار را اصلاح می‌کند، بلکه از یک جزء استخراج اطلاعات برای استخراج بخش‌هایی از متون که احتمالاً حاوی پاسخ هستند، استفاده می‌کند. این نشان می دهد که LM ها با افزایش ظرفیت خود به کسب دانش ادامه می دهند.

چسب فوق العاده

GPT-3 در برخی از کارهایی که نیاز به مقایسه بین دو جمله دارند، ضعیف به نظر می رسد، از جمله تعیین اینکه آیا یک کلمه در دو جمله به یک شکل استفاده می شود، آیا یک جمله نقل قول دیگری است یا اینکه آیا یک جمله دلالت بر دیگری دارد.

تولید مقالات خبری

نویسندگان از ارزیاب‌های انسانی خواستند که مقالات خبری تولید شده توسط انسان را تشخیص دهند. با افزایش اندازه مدل، شرکت کنندگان با وجود افزایش زمان سرمایه گذاری برای هر مقاله خبری، نمرات دقت پایین تری به دست آوردند. این یافته‌ها را پشتیبانی می‌کند که الگوهای بزرگ‌تر مقالات خبری دشوارتر را ایجاد می‌کنند.

تشخیص دقیق آلودگی آزمایشی از مجموعه داده‌های مقیاس اینترنت، حوزه جدیدی از تحقیقات است که بهترین شیوه‌های ثابت‌شده ندارد. با افزایش ظرفیت مدل، خطر از دست دادن حافظه افزایش می یابد. به طور کلی، نویسندگان اسنادی را که با مجموعه آزمایشی همپوشانی داشتند حذف کردند. با این حال، به دلیل یک خطا، این فرآیند باقی مانده بود. آنها سعی کردند خسارت را تخمین بزنند و به نظر نمی رسد مدل به خاطر بسپارد و (بیشتر) نتایج معتبر هستند.

(یادداشت خود من: شاید زمان آزمایش دقیق تر در یادگیری ماشین به طور کلی فرا رسیده باشد، همانطور که در سایر زمینه ها معمول است.)

اگرچه GPT-3 از نظر کیفی بهتر از نسخه قبلی خود است، اما قابلیت سنتز متن آن همچنان دارای نقاط ضعفی است که ما در سایر LM ها با آنها آشنا هستیم، مانند تکرار، از دست دادن انسجام برای قطعات به اندازه کافی طولانی، و تضادها.

همچنین در برخی از وظایف GPT-3 به طرز بدی شکست خورد. این ممکن است به دلیل انتخاب استفاده از LM اتورگرسیو به جای گنجاندن اطلاعات دو طرفه (شبیه به Bert) باشد. در حالی که یادگیری در زمینه با LM های خودرگرسیون آسان تر است، مدل های دو جهته پس از تنظیم دقیق در کارهای پایین دستی بهتر هستند. در نهایت، آموزش یک مدل دو جهته در مقیاس GPT-3 و/یا تلاش برای کارکرد مدل‌های دوطرفه با یادگیری چند شات یک جهت امیدوارکننده برای تحقیقات آینده است.

یک محدودیت اساسی‌تر این است که مدل‌های خود رگرسیون (و دو جهته) ممکن است در نهایت به محدوده‌های هدف پیش‌آموزشی (و یا می‌توانستند وارد شوند). بهبود کار، به عنوان مثال درک آنچه برای پیش بینی مهم است (مانند اشیاء)، می تواند برای مدل مفید باشد. پایه‌گذاری مدل در زمینه‌های دیگر تجربه، مانند ویدئو یا تعامل فیزیکی در دنیای واقعی، می‌تواند سوزن را حرکت دهد.

شواهدی که نشان می‌دهد کار پیش‌آموزشی بهینه نیست، عملکرد نمونه است: GPT-3 متن بسیار بیشتری را در طول پیش‌آموزش نسبت به یک فرد در طول عمر می‌بیند. بهبود عملکرد نمونه‌های پیش‌آموزشی یک جهت مهم برای کار آینده است و می‌تواند از پایه‌گذاری در دنیای فیزیکی برای ارائه اطلاعات اضافی یا از پیشرفت‌های الگوریتمی حاصل شود.

علاوه بر این، با اهداف خودگردان، مشخصات کار بر چارچوب بندی کار مورد نظر در یک مسئله پیش بینی متکی است، در حالی که سیستم های زبانی مفید در نهایت (مثلاً دستیاران مجازی) ممکن است بهتر به عنوان انجام اقدامات هدفمند به جای پیش بینی ساده در نظر گرفته شوند.

یکی دیگر از محدودیت ها، یا حداقل عدم قطعیت، مربوط به یادگیری چند شات در GPT-3، ابهام در این است که آیا یادگیری چند شات واقعاً وظایف جدید را «از ابتدا» در طول استنتاج یاد می گیرد یا به سادگی وظایفی را که در طول آموزش آموخته است، تشخیص و شناسایی می کند.

آخرین اما نه کم اهمیت، اندازه مدل باعث ناراحتی عملی می شود. تقطیر که در این مقیاس امتحان نشده است، جهت جالبی است.