در تمام سمینارهایم و بیشتر نشریاتم، در نهایت درباره تفاوتهای بین تقلیلگرایی و کلگرایی بحث میکنم. این پیام اصلی من از سال ۲۰۰۵ بوده است. ناگهان، اما نه به طور غیرمنتظره، به دانش انتقادی تبدیل شد.
زیرا ما در حال گذار از یک دوره گذار هستیم.
اکثر مردم متوجه نمی شوند که بین این دو تضاد ذاتی وجود دارد. آنها معتقدند که LLM ها باید علمی باشند زیرا از جبر خطی در حال اجرا بر روی سخت افزار کامپیوتر قطعی استفاده می کنند و توسط ریاضیدانان دانشگاهی و برنامه نویسان طراحی شده اند.
و سپس متوجه می شوند که دانشمندان می توانند این تزها را توضیح دهند چگونه کار می کند اما نه چرا (به این کلمه توجه کنید) کار می کند. و اینکه LLM ها “حقایق” و همبستگی های عجیب را از پست های رسانه های اجتماعی یاد می گیرند. و اینکه LLM ها به شما دروغ می گویند. و فروشنده می گوید: “این دروغ نیست، فقط بر اساس شواهد اندک نتیجه گیری می کند.”
به نظر من خیلی علمی نیست یا هر کسی که GPT های اولیه را امتحان کرده است.
با این حال هوش مصنوعی ما تاخوردگی پروتئین را شکست، که روش های علمی نتوانستند.
یک زبان انگلیسی LLM با استفاده از الگوریتمهای مبتنی بر ریاضیات بسیار محکم، این کار را بر روی سختافزار کاملاً قطعی انجام میدهد.
اما انگلیسی قطعی نیست. دنیا هم همینطور. یا داستان. یا شبکه های اجتماعی یا حتی زیست شناسی – سلول یک کیسه سوپ است.
همانطور که می بینیم، دیدگاه اکثر مردم در مورد نقش علم و هوش مصنوعی باید اشتباه باشد. و به دلایل بسیار خوب. علم از حدود سال ۱۶۰۰ به مدت ۴۰۰ سال راهبرد برنده بوده است. ما را به ماه برد. من با این موفقیت بحثی ندارم. من هنوز ادعا می کنم
تقلیل گرایی بزرگترین اختراعی است که گونه ما تاکنون ساخته است
این برای هر گونه ای در این مرحله درست است زیرا برای انتقال ضروری است. برای حل کردن تلنگر بزرگ. ما میخواهیم بتوانیم از روشهای جامع نگر پیشرفته استفاده کنیم و باید تا جایی راهاندازی کنیم که بتوانیم یک LLM بسازیم. و ما انجام دادیم. ما آماده ایم.
حتی با نگاهی به تاریخچه هوش مصنوعی، کاملاً واضح است که ما در این مسیر کارهای درست زیادی انجام داده ایم. در آغاز سال ۱۹۵۵، مینسکی، جان، سولومونوف و دیگران ما را به سمت تلاشهای مبتنی بر رفتار، منطقی و مبتنی بر مدل (تقلیلگرا) در هوش مصنوعی هدایت کردند. و در آن زمان رویکرد درستی بود زیرا تنها چیزی بود که رایانههای ما میتوانستند از پس آن برآیند. LLM های امروزی کاملا متفاوت عمل کنید و نیاز به منابع عظیمی دارد.
وقتی ما LLM ها را آموزش می دهیم، هیچ چیز علمی ایجاد نمی کنیم.
ما یک دانشمند ایجاد می کنیم.
علم ناب ترین نمونه تقلیل گرایی است که ما داریم. LLM های ما حل کننده مشکلات کل نگر هستند. این درگیری است. شما می توانید این پیام اصلی را در تمام نوشته ها و ویدیوهای دیگر من بیابید. بنابراین اجازه دهید سعی کنم پیام خود را کارتونی بسازم:
مردم هوش عمومی نیستند. ما زبان آموزان عمومی هستیم. زبان، راه رفتن و علیت را می توان در اطراف ما مشاهده کرد و هر چیزی را که می تواند بعداً برایمان مفید باشد یاد می گیریم. وقتی دانشمند یا مهندس بودن را یاد می گیریم، فیزیک و سایر رشته های علمی را در دو سطح می آموزیم: در سطحی ناخودآگاه، مبتنی بر شهود، با استفاده از معماری کل نگر مغز و «الگوریتم های یادگیری» خاص، به همان روشی که اسنوبرد را یاد می گیریم، یاد می گیریم. ما به طور موثر از تجربه مستقیم یاد می گیریم. ولتاژ را افزایش می دهیم و ناگهان از دستگاه خود دود می بینیم.
و در بالای آن تجربه و درک دیگر، با یادگیری از تجربیات دیگران از طریق کتاب ها و مدارس، لایه ای از مدل ها را اضافه می کنیم. معادلات، نظریه ها، فرضیه ها و برنامه های کامپیوتری غیر هوش مصنوعی.
ما قانون اهم را یاد می گیریم که می تواند دود را پیش بینی کند. شما نمی توانید از قانون اهم استفاده کنید مگر اینکه متوجه شوید چرا (دوباره این کلمه وجود دارد) کار می کند و چگونه در وضعیت فعلی شما اعمال می شود.
بنابراین، یک مهندس یا دانشمند یک موقعیت پیچیده در دنیای واقعی را در نظر می گیرد. آنها از درک خود از جهان استفاده می کنند تا همه چیزهای نامربوط را کنار بگذارند و آنچه را که باقی مانده به قطعات کوچکتر و کوچکتر بشکنند… تا زمانی که قطعه ای را در پایین پیدا کنند که با یکی از معادلاتی که در STEM یاد گرفته اند مطابقت داشته باشد.
آنها این را به عنوان مدلی مطرح می کنند که متناسب با مشکل فعلی باشد. آنها اعدادی را که وارد معادله می شوند اندازه گیری می کنند، نتیجه را محاسبه می کنند و سپس از آن برای حل مشکل واقعی خود استفاده می کنند. این یک راه فوق العاده موثر برای حل مشکلاتی است که مناسب این دسته است. بسیاری از موقعیتهای مشکل در دنیای واقعی را میتوان توسط یک تقلیلگر (دانشمند یا مهندس) با استفاده از تجربه و درک عمیق خود برای سادهسازی دنیای پیچیده به یک مدل قابل محاسبه حل کرد.
این کار زیرک آموزش STEM است. آنها به طور خاص به شما یاد می دهند که باید
-
مدل مورد استفاده را انتخاب کنید
-
مقادیر را اندازه گیری کنید و نتیجه را با استفاده از مدل محاسبه کنید
-
از این اعداد به عنوان پارامترهای مدل خود استفاده کنید
-
برای محاسبه یک نتیجه، مدل را اجرا کنید
اما آنها از اینکه به شما بگویند که شما نیز این کار را خواهید کرد غفلت می کنند
-۳٫ دنیا را از بدو تولد تماشا کن
-۲٫ درک جامعی از جهان و علت و معلول ایجاد کنید
-۱٫ علاوه بر آن، در MIT یک آموزش تقلیل گرایانه دریافت کنید.
۰٫ مسئله را به خوبی درک کنید تا تقلیل معرفتی انجام دهید
افرادی که در اینترنت متن می نویسند از -۳ به -۱ تصمیم گرفتند. ما میتوانیم از این متن برای راهاندازی ماشینهایمان برای اجرای مراحل -۲ تا ۲ استفاده کنیم. این یک ترفند بسیار خوب است، بیشتر به این دلیل که مردم پس از پر کردن اینترنت با متن آماده هستند. اکنون ماشین ها می خوانند.
هوش مصنوعی اجازه می دهد تا در مراحل ۲- تا ۲ در هر دستگاه تفویض اختیار کنید. افراد همچنین باید مرحله نهایی را تکمیل کنند:
۵٫ درک کنید که چگونه نتیجه را در مسئله دنیای واقعی اعمال کنید.
میتوانیم تخمینهای تقریبی از تلاشی که در این مراحل انجام میشود، انجام دهیم. در یک موقعیت حل مشکل جدید، میخواهیم بتوانیم بگوییم که آیا آوردن هوش مصنوعی میتواند کمک کند یا خیر. اگر شغل شما مستلزم انتخاب بین راهبردهای حل مسئله است، معرفت شناسی می تواند مفید باشد.
محدودیت های سختی برای علم تقلیل گرا وجود دارد. تقلیل گرایی دارد شهرت لکه دار به دست آورد زیرا مردم آن را برای مشکلاتی فراتر از آنچه تقلیل گرایی می تواند به راحتی انجام دهد به کار برده اند. سرنخ این است که جهان پیچیده است و علم نمی تواند با پیچیدگی مقابله کند. اولین قدم در کاهش، دور انداختن موارد نامربوط است. چه اتفاقی میافتد وقتی همه چیز مرتبط است و رد کردن هر چیزی به روشهای ناشناختهای بر تصمیم تأثیر میگذارد؟
این وضعیت عادی در این واقعیت است. پس از حل تمام مسائلی که علم می تواند حل کند، متوجه می شویم که مسائل باقی مانده در یک چیز مشترک هستند. چیزی که برای یک معرفت شناس عجیب نیست. حالا متوجه می شویم پیچیدگی دشمن اصلی پیشرفت برای هر گونه ای است.
مشکلات سطح گونه نیازمند راه حل های کل نگر هستند
من و چند نفر دیگر این مجموعه مشکل را دامنه می نامیم سیستم های عجیب تا نشان دهد که روش های علمی حتی نمی توانند شروع شوند. اقتصاد جهانی و بازار سهام، زیست شناسی سلولی، فعل و انفعالات دارویی در بدن، سیگنال دهی در مغز انسان، تولید زبان، تا کردن پروتئین ها، تخصیص منابع جهانی، راه اندازی جنگ یا اداره یک کشور.
تنها در صورتی میتوانیم راهحلهایی در این زمینهها پیدا کنیم که الزامات استاندارد علم تقلیلگرا مانند بهینهبودن، تکرارپذیری و توضیحپذیری را بهطور عملگرایانه کاهش دهیم. یا با محدود کردن اساسی دامنه مشکل به آنچه مدل های دامنه شناخته شده ما می توانند از عهده آن برآیند، که در موقعیت های پیچیده بسیار مستعد خطا است و اغلب منجر به عواقب غیرمنتظره می شود. مدل های اقتصادی ما را در نظر بگیرید. برخی از ساده ترها نرخ بیکاری را به عنوان ورودی و جمعیت را به عنوان منطقی در نظر می گیرند.
ما میتوانیم زبانهایمان را بفهمیم و پروتئینهایمان را فقط با استفاده از شبکههای عصبی، که تکرارپذیر یا لزوماً قابل توضیح نیستند، جمع کنیم.
وقتی هوش مصنوعی می سازیم، سعی نمی کنیم مشکل سرطان ریه را حل کنیم. ما در تلاشیم ماشینی بسازیم که بتواند همه چیز را بفهمد و تمام اطلاعاتی را که در مورد سرطان ریه داریم به آن می دهیم. LLM یک مدل یادگیری است. این تقریباً به همان اندازه علمی است که می شود، اما حتی این یک کشش است.
علم هیچ الگوریتم یا حتی مفاهیمی از درک، شهود، تقلیل گرایی، کل نگری یا حتی انتزاع ندارد. آنها فقط در معرفت شناسی قابل بحث هستند. اما بینشهای معرفتشناسی را میتوان برای هدایت توسعه الگوریتم هوش مصنوعی مورد استفاده قرار داد، و این همان چیزی است که من از سال ۲۰۰۱ از آن استفاده کردهام.
ما میتوانیم انواع مختلفی از مدلهای یادگیری را تصور کنیم، اما این مدلها هنوز به اندازه کافی برای هدایت پیشرفت درک نشدهاند. در عوض، پیشرفت از طریق آزمایشهای مبتنی بر الگوریتم رایانهای حاصل میشود که میتوان اثربخشی آن را به روشی تقلیلگرایانه اندازهگیری کرد، اما این تحقیقات بهطور حیرتآوری غیرمعمول با پروژههای فعال کم است. البته برنده فعلی DNN و فرزندان آنها، Transformers هستند، اما آنها تنها استراتژی شناخته شده نیستند و به اندازه کافی گران هستند که به GPU نیاز دارند.
تمام هوشی که می آموزد همبستگی است. درک جهان شبکه ای از همبستگی ها در ذهن یک دانشمند و وزن ها در LLM است. آنها در سطح الگوریتم یادگیری قابل مقایسه هستند، به این معنی که LLMها همه چیزهایی را که می دانند به همان روشی که انسان ها و سایر حیوانات را درک می کنند، درک می کنند.
همبستگی در مغز یک ارتباط سیناپسی نورون-نرون است. این اساسی است. اگر الگوریتم LLM شما را نتوان در نورون ها و سیناپس ها – شبیه سازی شده یا نه – پیاده سازی کرد، پس قابل قبول نیست و بعید است که به اندازه معماری های بیولوژیکی مغز موثر باشد. اگر الگوریتم شما سیناپس ها را شبیه سازی کند، ممکن است کار کند.
آیا این روی من شخصاً تأثیر می گذارد؟ آیا تلنگر بزرگ بر تجارت من تأثیر می گذارد؟ آیا می توانم از این دانش به نفع خود استفاده کنم؟ اتخاذ موضع جامع به چه معناست؟ از کجا می توانم اطلاعات بیشتری پیدا کنم؟ آیا کسی ردیابی “تبدیل های کوچک” را که در نهایت اجزای یک بزرگ خواهند بود را دنبال می کند. خوب، من آنها را دنبال خواهم کرد و انتظار دارم بتوانم آنها را پیش بینی کنم.
[ There is so much to say about these things that I am making this the first introductory posts in a series about The Great Flip. I will speculate about the near future of AI and its adoption in the world as seen through the eyes of an Epistemologist. The Rest of this series will require a subscription but other posts will continue to be free. ]
همه ما تا به حال می دانیم که هوش مصنوعی جهان را کاملا متحول خواهد کرد. واژگونی بزرگ آغاز شده است و نمی توان آن را متوقف کرد. ما می توانیم مستقیماً مزایایی را که از استفاده از LLM برای کارهایی که آنها به خوبی انجام می دهند و Science ضعیف انجام می دهند مشاهده کنیم. و این در حال حاضر اتفاق می افتد. ما شاهد موج جدیدی از پیشرفت علمی مبتنی بر LLM هستیم که بخشهای بزرگتری از واقعیت را درک میکنند که مردم نمیتوانند در ذهن خود بدانند. و برخی از این پیشرفت ها منجر به مدل های بهتری از جهان می شود. علم بهتر! علم به هیچ وجه مرده نیست و همانطور که نمیتوانیم پیشبینی کنیم که آیا تعداد هنرمندان یا برنامهنویسان به دلیل هوش مصنوعی افزایش یا کاهش مییابد، ممکن است شاهد تسلط هوش مصنوعی بر علم باشیم تا جایی که به دانشمندان کمتری نیاز داشته باشیم یا ممکن است میلیونها دانشمند آماتور را در گاراژ خود ببینیم که از رایانههای معمولی با هوش مصنوعی سطح همتا برای پیشرفت علم در وهله اول استفاده میکنند. توسط UBI پرداخت می شود، نه توسط کالج ها یا شرکت ها.
هر مدلی در دنیا از لحظه انتشار ناقص و قدیمی است. این قانون است. و هنگامی که با پیچیدگی کامل واقعیت دنیوی خود مواجه می شویم، باید به روش های کل نگر روی بیاوریم زیرا این همان چیزی است که وقتی علم شکست می خورد، باقی می ماند.
ما می توانیم از هوش مصنوعی استفاده کنیم. ما شخصاً می توانیم موضع کل نگر و ما بیشتر از حس خود استفاده می کنیم. یا می توانیم ماشین های تخصصی غیر LLM را با استفاده از a بسازیم کاتالوگ روش های کل نگر که (برای یک معرفت شناس) ابتدایی هایی هستند که LLM ها از آنها ساخته شده اند.
به طور کلی، این بدان معنی است که ما بیشتر و بیشتر از درک خود را به درک کننده های موثرتر تفویض می کنیم. به هوش مصنوعی ما.
آیا امروز باید روی هوش مصنوعی سرمایه گذاری کنیم؟ آیا به کسب و کار ما کمک خواهد کرد؟ آیا مشکلات ما حتی نیاز به هوش مصنوعی دارند؟ آیا مشتریان ما آن را می خواهند؟ حتی از چه کسی می توانیم بپرسیم؟
آیا شرکت شما یک معرفت شناس شرکتی دارد؟
