سافت گذر دانشنامه نرم افزار - دانلود رایگان نرم افزار

اطلاعیه های مهم سایت اطلاعیه های مهم سایت
💐 میلاد زینت پدر حضرت زینب سلام الله علیها مبارک باد 💐
 
 
  1. جهت رفع مشکل باز شدن سایت به دلیل بلاک توسط  نود 32 این ویدیو یا این ویدیو(ورژن 9 به بالا) یا راهنمای تصویری را مشاهده کنید
  2. به مناسبت عید غدیر، در سایت https://esetupdate.ir/ تخفیف ویژه‌ای برای محصولات در نظر گرفته شده است؛ فرصت را از دست ندهید. 🌸
  3. اکانت های بروزرسانی نود32 با قیمت های مناسب به صورت یک ، سه ، شش و دوازده ماهه از اینجا قابل خرید می باشد.

نرم افزار های پرکاربرد

ثبت نام | ورود
wepido.ir

بونسای ۲۷B؛ مدل زبانی فشرده‌ای که روی کارت گرافیک ۸ گیگابایتی روان اجرا می‌شود

بونسای ۲۷B؛ مدل زبانی فشرده‌ای که روی کارت گرافیک ۸ گیگابایتی روان اجرا می‌شود

کارت‌های گرافیک ۸ گیگابایتی محدودیت سختی برای اجرای مدل‌های زبانی محلی ایجاد می‌کنند. بسیاری از مدل‌های جدید بزرگ‌تر از توان این کارت‌ها هستند، اما مدل‌هایی در محدوده ۴ تا ۹ میلیارد پارامتر مانند Qwen 3.5 9B و Gemma 4 E4B مدت‌ها نیاز کاربران را برطرف کرده‌اند. با این حال، یک مدل ۲۷ میلیارد پارامتری به نام Bonsai 27B توجه‌ها را جلب کرده است؛ زیرا با فشرده‌سازی شدید، روی کارت گرافیک ۸ گیگابایتی نیز اجرا می‌شود.

Bonsai 27B چیست و چگونه فشرده شده است؟

Bonsai 27B محصول PrismML، استارتاپی برگرفته از تحقیقات دانشگاه Caltech، است و بر پایه Qwen3.6 27B ساخته شده است. بنابراین مدلی که کاربر جای Qwen را با آن عوض کرده، از نظر فنی همچنان Qwen محسوب می‌شود. تفاوت اصلی در میزان فشرده‌سازی است. یک مدل ۲۷ میلیارد پارامتری در دقت کامل معمولاً بیش از ۵۰ گیگابایت حجم دارد، اما PrismML با ذخیره هر وزن به صورت +۱ یا -۱ و یک مقدار مقیاس مشترک برای هر گروه ۱۲۸ وزنی، حجم را به حدود ۱.۱۲۵ بیت بر هر وزن کاهش داده است.

این مدل در دو نسخه عرضه می‌شود: نسخه ۱ بیتی با حجم کمی کمتر از ۴ گیگابایت، و نسخه جدیدتر Bonsai 2 که فقط به صورت سه‌گانه (ternary) ارائه شده و مقدار صفر را به عنوان مقدار سوم اضافه می‌کند. برخی اجراکننده‌ها از جمله LM Studio هنوز نمی‌توانند این فایل‌ها را اجرا کنند. نسخه استفاده‌شده در این آزمایش، Q1_0 Staff Pick در LM Studio با حجم ۴.۴ گیگابایت همراه با فایل‌های بینایی است؛ حجمی که حتی از Gemma 4 12B QAT نیز کمتر است.

پنجره زمینه و تنظیمات اجرا

Bonsai پنجره زمینه ۲۶۲ هزار توکن (262K-token context window) را از Qwen به ارث برده است. بیشتر توجه (attention) در Qwen3.6 از روش خطی سبک‌تری استفاده می‌کند، بنابراین حافظه مورد نیاز برای گفتگوهای طولانی‌تر بسیار کندتر از بیشتر مدل‌ها رشد می‌کند. استفاده از کل پنجره زمینه حتی با کش فشرده حدود ۱۰ گیگابایت حافظه می‌طلبد؛ اما با کمتر از ۸ گیگابایت حافظه در دسترس و نیاز به باقی گذاشتن فضای آزاد برای برنامه‌های دیگر، عملاً حدود ۳۰ تا ۵۰ هزار توکن زمینه قابل استفاده است.

تنظیمات نمونه‌برداری پیشنهادی PrismML نیز استفاده شد: دمای ۰.۷، top-p برابر ۰.۹۵، top-k برابر ۲۰ و جریمه‌های تکرار و حضور خاموش. یک پیش‌تنظیم اختصاصی نیز برای استفاده مجدد از این پارامترها ساخته شد.

نقاط قوت: ریاضی، منطق و پیروی از دستور

به نظر می‌رسد ریاضی و منطق بیشترین مقاومت را در برابر فشرده‌سازی داشته‌اند. آزمون‌های PrismML امتیاز ۹۱.۷ را برای ریاضی در برابر ۹۵.۳ برای Qwen کامل ثبت کرده‌اند. در یک مسئله قیمت‌گذاری دفترچه با سه گزینه بسته‌بندی، Bonsai همه ترکیب‌های معتبر را بررسی کرد و سپس ارزان‌ترین را انتخاب کرد. این منطق معمولاً نخستین چیزی است که مدل‌های ۲ بیتی معمولی از دست می‌دهند و به‌سختی نیز تشخیص داده می‌شود، چون در گفتگوی عادی همچنان منسجم به نظر می‌رسند.

در پردازش اسناد نیز Bonsai خلاصه‌ها و فهرست‌های ابزار مختصر و تمیزی ارائه داد، حتی برای اسناد طولانی‌تر و بدون نیاز به تقسیم آن‌ها. پیروی از دستور (instruction following) نیز یکی از حوزه‌هایی بود که پس از فشرده‌سازی معمولاً افت می‌کند. در آزمایشی، یک توضیح کوتاه محصول با پنج قاعده پشت سر هم داده شد؛ از جمله کلماتی که نباید استفاده می‌شد و اینکه قیمت باید به واحد پول کاربر باشد. Bonsai همه آن‌ها را رعایت کرد.

در کدنویسی کوتاه نیز نتیجه قابل قبول بود: امتیاز ۸۹.۶ در HumanEval+ در برابر ۹۵.۱ در دقت کامل. با این حال، اسکریپت رصد پوشه (folder-watcher) که نوشت، در ظاهر کامل به نظر می‌رسید اما هرگز فایل‌های پردازش‌شده را ردیابی نمی‌کرد؛ بنابراین هر ثانیه همه فایل‌های پوشه، از جمله فایل ایندکس خودش را دوباره می‌خواند.

نقاط ضعف: فراخوانی ابزار، تصویر و سرعت

بزرگ‌ترین ضعف Bonsai احتمالاً فراخوانی ابزار (tool calling) است. نسخه ۱ بیتی در آزمون‌های عامل‌محور و فراخوانی ابزار PrismML امتیاز ۶۶.۰ گرفته، در حالی که Qwen کامل امتیاز ۸۰.۰ دارد؛ این بزرگ‌ترین افت در میان همه دسته‌های آزمون است. برای کارهایی که به ابزار نیاز دارند، همچنان Qwen 3.5 9B انتخاب مطمئن‌تری است و اگر سخت‌افزار پشتیبانی کند، Qwen 3.6-35B-A3B توصیه می‌شود.

تصویر نیز نقطه ضعف دیگری است. برای نمونه، با دادن تصویر یک برنامه طراحی و درخواست خلاصه آنچه دیده می‌شود، Bonsai مقادیر هگز (hex) و ابعاد را درست تشخیص داد، اما فهرست عناصر سه بار تکرار شد و نام برخی عناصر به اشتباه به عنوان تنظیمات خوانده شد. Gemma 4 تصاویر را از طریق تصویرسازی‌های سبک (lightweight projections) مستقیماً به مدل می‌فرستد، بنابراین همچنان انتخاب اصلی برای کارهای تصویری است.

سرعت هم کمی پایین‌تر است. همان درخواست قیمت‌گذاری در Bonsai با سرعت ۲۷ توکن بر ثانیه اجرا شد، در حالی که همان درخواست با همان تنظیمات در Gemma 4 E4B سرعت ۳۵ توکن بر ثانیه داشت. این تفاوت چندان بزرگ نیست و قابل تحمل است.

جمع‌بندی: بالاخره یک مدل بالای ۲۰ میلیارد پارامتر روی این GPU

انتخاب مدل فقط به دلیل بزرگ بودن عدد روی آن عادت درستی نیست، اما نویسنده مقاله می‌گوید هنوز کاملاً از این عادت رها نشده و هنگام ناتوانی در آزمایش مدل‌های بزرگ‌تر کمی حس فومو (FOMO) داشته است. بنابراین شنیدن اینکه این مدل روی سیستم او کار می‌کند هیجان‌انگیز بود و تقریباً هم همین‌طور شد. هنوز کارهایی وجود دارند که ترجیح می‌دهد به Qwen و Gemma بسپارد، اما Bonsai نشان داده در پیروی از دستور و حل مسائل پیچیده بسیار توانمند است.

نظرتان را ثبت کنید کد خبر: 55365 گروه خبری: اخبار نرم افزار منبع خبر: XDA Developers تاریخ خبر: 1405/07/18 تعداد مشاهده: 111
اخبار مرتبط با این خبر
نظر های کاربران
سرور آپدیت نود 32
پیشنهاد سافت گذر
File Commander 11.7.57176 for Android +7.0

File Commander 11.7.57176 for Android +7.0

فایل منیجر کامندر

Pink Floyd - The Dark Side of the Moon

Pink Floyd - The Dark Side of the Moon

آهنگ های پینک فلوید

PlayerFab 7.0.6.6

PlayerFab 7.0.6.6

پخش و مدیریت جامع فایل‌های صوتی و تصویری

دوبله فارسی مستند فجایع بزرگ

دوبله فارسی مستند فجایع بزرگ

مستند فجایع بزرگ

منزلت امام نزد خدا

منزلت امام نزد خدا

امام کیست؟

The Pedestrian

The Pedestrian

فکری برای کامپیوتر

Ninja

Ninja

نینجا 2009

Air Explorer Pro 4.0.1

Air Explorer Pro 4.0.1

ایر اکسپلورر

مولودی خوانی حاج محمود کریمی میلاد امام حسین امام سجاد حضرت اباالفضل علیهم السلام

مولودی خوانی حاج محمود کریمی میلاد امام حسین امام سجاد حضرت اباالفضل علیهم السلام

مداحی کریمی میلاد امام حسین امام سجاد حضرت اباالفضل

Alcohol 120% v2.1.1.2201

Alcohol 120% v2.1.1.2201

درایو مجازی و رایت DVD

Kilimanjaro To the Roof of Africa

Kilimanjaro To the Roof of Africa

مستند کلیمانجارو

ماهیت شیطان

ماهیت شیطان

Why did God create Satan?

ColorCatcher 4.7

ColorCatcher 4.7

تشخیص رنگ

Tell Me More Performance 10 English - 10 Levels

Tell Me More Performance 10 English - 10 Levels

آموزش زبان Tell Me More

Lynda - Creating Fixed-Layout EPUBs with InDesign CC

Lynda - Creating Fixed-Layout EPUBs with InDesign CC

فیلم آموزش ایجاد طرح‌بندی ثابت EPUB با نرم‌افزار این‌دیزاین سی‌سی

فیلم‌های آموزش کامل انگولارجی‌اس  AngularJS به زبان فارسی

فیلم‌های آموزش کامل انگولارجی‌اس AngularJS به زبان فارسی

آموزش انگولارجی اس

Mystery Masters - Psycho Train Deluxe Edition

Mystery Masters - Psycho Train Deluxe Edition

قطار اسرارآمیز - نسخه‌ی جدید

Data Usage Monitor 1.17.1923 Premium for Android +6.0

Data Usage Monitor 1.17.1923 Premium for Android +6.0

مانیتور مصرف داده

Boulder Dash - 30th Anniversary

Boulder Dash - 30th Anniversary

بولدر دش صخره نورد

Lynda - Designing a Poster with Custom Brushes in Illustrator

Lynda - Designing a Poster with Custom Brushes in Illustrator

آموزش طراحی پوستر

ESET Smart Security 8.0.319.0 x86/x64 + (Update 12000) 2015-07-27

ESET Smart Security 8.0.319.0 x86/x64 + (Update 12000) 2015-07-27

نود 32 اسمارت سکوریتی 8

Cities in Motion 2

Cities in Motion 2

شهر های متحرک 2

Digital Tutors - Inverse Kinematic Animation with DUIK in After Effects

Digital Tutors - Inverse Kinematic Animation with DUIK in After Effects

فیلم آموزش ترکیب حرکتی معکوس انیمیشن با DUIK در افتر افکتس

Shaolin Kung Fu Fundamental Training 2 by Dr. Yang, Jwing-Ming

Shaolin Kung Fu Fundamental Training 2 by Dr. Yang, Jwing-Ming

آموزش کونگ فو

Atlantis

Atlantis

مستند آتلانتیس

CyberLink PhotoDirector Ultra 2027 18.0.1109.0

CyberLink PhotoDirector Ultra 2027 18.0.1109.0

ویرایش عکس

VTC - Certified Ethical Hacker (CEH) v8 (Exam 312-50) Course

VTC - Certified Ethical Hacker (CEH) v8 (Exam 312-50) Course

فیلم آموزش مدرک هکر اخلاقی - نسخه‌ی 8 - آزمون 50-312

Bitsum Process Lasso Pro 19.0.0.94

Bitsum Process Lasso Pro 19.0.0.94

مدیریت برنامه های در حال اجرا

وصیت نامه امام حسن عسکری (ع) از حجت الاسلام والمسلمین علی نظری منفرد

وصیت نامه امام حسن عسکری (ع) از حجت الاسلام والمسلمین علی نظری منفرد

حاج آقا علی نظری منفرد با موضوع وصیت نامه امام حسن عسکری (ع)

فضائل اهل‌بیت پیامبر(ص)

فضائل اهل‌بیت پیامبر(ص)

مدح اهل بیت

Friend Blender – Swap Faces 1.0.4 for Android +4.0

Friend Blender – Swap Faces 1.0.4 for Android +4.0

تعویض چهره

Angry Birds All Release Update 1404/12/19 For Android

Angry Birds All Release Update 1404/12/19 For Android

بازی پرندگان خشمگین

سخنرانی رائفی پور با موضوع تحولات بعد از رحلت پیامبر تا شهادت امام حسین (ع)

سخنرانی رائفی پور با موضوع تحولات بعد از رحلت پیامبر تا شهادت امام حسین (ع)

سخنرانی دکتر رایفی پور با موضوع تحولات بعد از رحلت رسول الله

سخنرانی حجت الاسلام سید عبدالله فاطمی نیا با موضوع نفحات نهضت عاشورا  - 2 جلسه

سخنرانی حجت الاسلام سید عبدالله فاطمی نیا با موضوع نفحات نهضت عاشورا - 2 جلسه

حاج آقا فاطمی نیابا موضوع نفحات نهضت عاشورا

Crazy Labyrinth 3D 1.16 for Android

Crazy Labyrinth 3D 1.16 for Android

بازی مارپیچ ها

شادی و خوشحالی

شادی و خوشحالی

۵ نشانه شادی معنوی

ساختمان داده ها و الگوریتمها

ساختمان داده ها و الگوریتمها

آموزش ساختمان داده ها و الگوریتم ها به زبانی ساده و روان

Xoops به همراه ماژول فارسی ساز

Xoops به همراه ماژول فارسی ساز

آشنایی با Xoops در لینوکس

UniGetUI 3.3.6

UniGetUI 3.3.6

مدیریت نرم افزارها

تلاوت مجلسی استاد راغب مصطفی غلوش سوره مبارکه اخلاص

تلاوت مجلسی استاد راغب مصطفی غلوش سوره مبارکه اخلاص

تلاوت راغب مصطفی غلوش سوره اخلاص

خبرنامه

با عضویت در خبرنامه، زودتر از همه باخبر باش!