الیزا، سوفی، ChatGPT

این دومین پست من در مورد تاریخچه الگوهای زبان است. اولین مورد بحث typo.c است که توسط پروفسور رابرت موریس، Sr.

اولین برخورد من با یک مدل زبان

من یک دستیار تدریس در کالج بودم و زمانی که از من خواستند یک جلسه آزمایشگاه هوش مصنوعی برای تجزیه و تحلیل SOPHIE که پیشرفته‌ترین مدل زبان آن روز بود، برنامه‌ریزی کنم و برگزار کنم، دید عمده‌ای در مورد شغل آینده‌ام به من داده شد.

این توسط بابرو، براون، برتون و دکلیر با قرارداد با نیروی دریایی ایالات متحده در زمانی که آنها در بولت، برانک و نیومن بودند ایجاد شد.

راه اندازی این بود که از یک رابط زبان طبیعی برای صحبت با نیروهای نیروی دریایی استفاده کند که چگونه عیب یابی تجهیزات الکترونیکی را یاد می گیرند. به دانش آموزان یک شماتیک داده شد و به یک شبیه سازی منبع تغذیه که با استفاده از محبوب ترین شبیه ساز الکترونیکی روز به نام SPICE اجرا شده بود، دسترسی پیدا کردند.

می تواند جملات وارد شده توسط کاربر مانند “درج خطای سخت”، “ولتاژ در مقاومت R4 چقدر است”، “من معتقدم مشکل کوتاهی بین پایه و امیتر ترانزیستور Q5 است” و غیره را مدیریت کند.

و با اندازه‌گیری‌هایی که از مدل SPICE استخراج می‌کرد که در رشته پایین‌تری اجرا می‌شد، پاسخ می‌داد. “ولتاژ در p12 +0.4 V است”

اگر فرضیه ای بیان کنید، چیزی شبیه به این می گوید
“شما ادعا می کنید که خطا در Q5 کوتاه است. بیایید ببینیم آیا این منطقی است…
شما ولتاژ را در نقطه P12 0.4 ولت اندازه گیری کردید. اگر درست می گفت، آن ولتاژ ۱۴٫۱ ولت می شد.
[… and it proceeds to completely destroy my methodology … 😀 ]خطای واقعی…”

سوفی هنوز یک هوش مصنوعی قرن بیستم بود

قبل از سال ۲۰۰۱، با استثناهایی که در پست‌های دیگر من ذکر شد، همه الگوهای زبان الگوهای واقعی بودند. ما از لیست کلمات و گرامرها، الگوهای نسل و غیره استفاده کردیم. مدل زبان توسط برنامه نویسان انسانی مانند من ساخته شده است. ما سعی خواهیم کرد مشکل درک زبان را به قوانینی که بتوانیم در سیستم خود برنامه ریزی کنیم، ساده کنیم. اگر می دانستیم این مشکل چقدر سخت است، شاید زودتر تسلیم می شدیم.

باید به خاطر داشته باشیم که رایانه‌های موجود در آن زمان کوچک بودند – برای کسی که حتی نتواند رویکردهای کل‌نگر (بدون مدل) را تصور کند، که ما را به LLM قرن بیستم رساند.

من به عنوان یک معرفت شناس استدلال می کنم که مدل های اصلی زبان فعلی واقعاً مدل نیستند. آنها مجموعه ای از تجربیات گذشته هستند که به عنوان الگوها و الگوهای الگوها ذخیره شده اند. و بنابراین آنها کل نگر هستند، نه تقلیل گرا یا علمی. اگر این برای شما خبری است، خوش آمدید، لطفاً چند پست دیگر من را بخوانید.

سوفی به پارادایم تقلیل گرای مبتنی بر مدل قرن بیستم صادق بود. در واقع کار بسیار خوبی انجام داد. سیستم‌هایی مانند ELIZA چندین سال است که وجود داشته‌اند، اما از مدل‌های زبانی بی‌اهمیت استفاده می‌کنند که در آن بیشتر مکالمه یک پیام عمومی دست‌ساز بود که کاربر را به ادامه کار ترغیب می‌کرد. استراتژی ای که هنوز می توانیم ردپایی از آن را در LLM های فعلی ببینیم.

در SOPHIE، وسیله نقلیه یک اشکال‌زدای Interlisp بود، اما تحقیقات اصلی آن‌ها در مورد نحوه انتقال مکالمه و تعداد جملات شناسایی و تجزیه صحیح به سطح بعدی بود. توجه می کنیم که منطقه زبانی که آنها برای مقابله با آن انتخاب کرده اند بسیار باریک است – نحوه عیب یابی منبع تغذیه. آنها نبودند بزرگ الگوهای زبان بدون یادگیری ماشینی، این همه پیچیدگی زبانی بود که در آن زمان می‌توانستیم از عهده آن برآییم، زیرا تمام صلاحیت‌های زبانی باید توسط انسان طراحی و تا سطحی از جزئیات اجرا می‌شد.

ATNC

آنها ATNC – کامپایلر شبکه انتقال افزوده – را توسعه دادند که می‌تواند یک توصیف سطح بالا (شبیه BNF) از یک ماشین حالت گفتگو را بپذیرد، که در آن “معنا” فعلی یک گره در نمودار وضعیت است، و شما می‌توانید هنگامی که ورودی جدید دریافت می‌کنید، مانند پاسخ به سؤالی که پرسیده شده است، به حالت‌های دیگر بروید. در آن زمان این یک فناوری پیشرفته تلفیقی بود و آنها آن را در زبان طبیعی به کار بردند.

چندین دهه بعد، من این موضوع را به یک موضوع شغلی تبدیل کردم. در چندین تعامل، سیستم‌های درک زبان طبیعی را برای مواردی مانند تجزیه گزارش‌های فصلی شرکت و موارد مشابه در وب نوشتم و از ANTLR – یک کامپایلر-کامپایلر محبوب که کد جاوا را تولید می‌کند – استفاده کردم که به جای کامپایل کردن زبان‌های برنامه‌نویسی در برنامه‌های زبان طبیعی خود استخراج کرده بودم. این یک دستور فوق العاده قدرتمند بود. من شرکتی را راه‌اندازی کردم که در آن این فناوری را در یک برنامه وب جمع‌آوری جستجوی ابری فروختیم.

اما آیا کل نگر است؟

چگونه می توانیم تشخیص دهیم که سیستمی مانند LLM تقلیل گراست یا کل نگر؟

سیستم های کل نگر

• در حال یادگیری هستند. یعنی با تمرین بهتر می شوند

• حدس می زنند. آنها نمی توانند نتایج صحیح را تضمین کنند.

• آنها در منطقه مشکل خود پایدار هستند

• دانش دامنه خود بخشی از تلاش برنامه نویسی نیست.

سیستم های تقلیل گرایانه

• آنها از اولین تلاش به دست می آیند

• آنها در برابر تغییر یا در سایر زمینه ها شکننده هستند

• آنها نیاز به درک خارجی از منطقه مشکل دارند

• تغییر چیزی نیاز به برنامه ریزی مجدد دارد.

مثال: LLM می‌تواند انگلیسی یا چینی را بدون برنامه‌ریزی مجدد یاد بگیرد، اما اگر نسخه فرانسوی ELIZA یا SOPHIE را می‌خواستیم (هر دو از Reductionist NLP استفاده می‌کردند)، ما برنامه‌نویس‌ها باید تغییرات زیادی در سطح برنامه، واژگان و دستور زبان در آن سیستم‌ها ایجاد کنیم.

و بدون درک خوب منطقه مشکل خود (مانند موشک) و درک دقیق معنای F=ma (مدلی در فیزیک)، نمی‌دانید چگونه از آن مدل استفاده کنید. تقلیل گرایی مستلزم درک بیرونی حوزه مشکل است زیرا تقلیل معرفتی توسط انسان انجام می شود.

LLM ها مدل نیستند زیرا حاوی چیزی نیستند که بتوانیم به روشی معنادار استخراج کنیم. نه گرامر. آنها نسبت به بازرسی تقلیل گرا مبهم هستند، زیرا مدل ها تنها چیزی است که ما با چنین ابزارهایی می توانیم تشخیص دهیم، و من استدلال می کنم که LLM ها بدون هیچ مدلی می توانند به کار خود ادامه دهند. مشکل آنها در استدلال یک سرنخ است و مستقیماً از فقدان مدل هایی برای استدلال نشات می گیرد.

درست کردن آن در اولین تلاش در مثال محاصره قلعه در https://vimeo.com/showcase/5329344/video/5012093 بحث شده است.

لینک منبع