پایان مشکل هوش مصنوعی: SubQ با ۱۰۰۰ برابر صرفهجویی، Claude و GPT را به چالش می کشد؟
SubQ بهعنوان اولین مدل sub-quadratic با توان پردازش ۱۲ میلیون توکن و هزینه بسیار پایین معرفی شده و ادعا میکند میتواند محدودیتهای معماری ترنسفورمر را برطرف کند.
در دنیای هوش مصنوعی، یکی از بزرگترین مشکلات مدلهای زبانی مثل GPT، Claude و Gemini، معماری ترنسفورمر است. این معماری که از سال ۲۰۱۷ پایه همه مدلهای بزرگ شد، عالی کار میکند اما مشکل بزرگی دارد: وقتی طول متن (Context) طولانی میشود، هزینه پردازش به صورت نمایی (Quadratic) افزایش پیدا میکند.
به زبان ساده: اگر تعداد توکنها دو برابر شود، محاسبات تقریباً چهار برابر میشود. اگر سه برابر شود، نه برابر! همین مسئله باعث شده مدلها در Contextهای خیلی بزرگ کند و گران شوند و نتوانند اطلاعات طولانی را به خوبی پردازش کنند.
این مقاله ویژهٔ اعضای پریمیوم است
با ارتقا به اشتراک پریمیوم به همهٔ مقالات ویژه، فایلهای دانلودی و محتوای حرفهای بیتگرف دسترسی کامل پیدا میکنید.
ورود / ارتقاتولید محتوا برای من فقط نوشتن نیست؛ دوست دارم چیزی منتشر کنم که واقعاً به کارتان بیاید. من بیش از ۱۰۰۰ مقاله، فایل آموزشی و دانلودی در سایت بیت گرف منتشر کردهام و امیدوارم هر محتوایی که اینجا میبینید، یک قدم به یادگیریتان کمک کند. تلاشم این است که هر مطلب، برایتان مفید و کاربردی باشد.
گفتگو و سوالات شما
۰در این قسمت میتوانید سوال یا نظر خود در مورد مقاله را مطرح کنید.
برای ثبت دیدگاه ابتدا وارد شوید
ورود به حسابهنوز دیدگاهی ثبت نشده. اولین نفر باشید!