سافت گذر دانشنامه نرم افزار - دانلود رایگان نرم افزار

اطلاعیه های مهم سایت اطلاعیه های مهم سایت
💐 میلاد زینت پدر حضرت زینب سلام الله علیها مبارک باد 💐
 
 
  1. جهت رفع مشکل باز شدن سایت به دلیل بلاک توسط  نود 32 این ویدیو یا این ویدیو(ورژن 9 به بالا) یا راهنمای تصویری را مشاهده کنید
  2. به مناسبت عید غدیر، در سایت https://esetupdate.ir/ تخفیف ویژه‌ای برای محصولات در نظر گرفته شده است؛ فرصت را از دست ندهید. 🌸
  3. اکانت های بروزرسانی نود32 با قیمت های مناسب به صورت یک ، سه ، شش و دوازده ماهه از اینجا قابل خرید می باشد.

نرم افزار های پرکاربرد

ثبت نام | ورود
wepido.ir

بونسای ۲۷B؛ مدل زبانی فشرده‌ای که روی کارت گرافیک ۸ گیگابایتی روان اجرا می‌شود

بونسای ۲۷B؛ مدل زبانی فشرده‌ای که روی کارت گرافیک ۸ گیگابایتی روان اجرا می‌شود

کارت‌های گرافیک ۸ گیگابایتی محدودیت سختی برای اجرای مدل‌های زبانی محلی ایجاد می‌کنند. بسیاری از مدل‌های جدید بزرگ‌تر از توان این کارت‌ها هستند، اما مدل‌هایی در محدوده ۴ تا ۹ میلیارد پارامتر مانند Qwen 3.5 9B و Gemma 4 E4B مدت‌ها نیاز کاربران را برطرف کرده‌اند. با این حال، یک مدل ۲۷ میلیارد پارامتری به نام Bonsai 27B توجه‌ها را جلب کرده است؛ زیرا با فشرده‌سازی شدید، روی کارت گرافیک ۸ گیگابایتی نیز اجرا می‌شود.

Bonsai 27B چیست و چگونه فشرده شده است؟

Bonsai 27B محصول PrismML، استارتاپی برگرفته از تحقیقات دانشگاه Caltech، است و بر پایه Qwen3.6 27B ساخته شده است. بنابراین مدلی که کاربر جای Qwen را با آن عوض کرده، از نظر فنی همچنان Qwen محسوب می‌شود. تفاوت اصلی در میزان فشرده‌سازی است. یک مدل ۲۷ میلیارد پارامتری در دقت کامل معمولاً بیش از ۵۰ گیگابایت حجم دارد، اما PrismML با ذخیره هر وزن به صورت +۱ یا -۱ و یک مقدار مقیاس مشترک برای هر گروه ۱۲۸ وزنی، حجم را به حدود ۱.۱۲۵ بیت بر هر وزن کاهش داده است.

این مدل در دو نسخه عرضه می‌شود: نسخه ۱ بیتی با حجم کمی کمتر از ۴ گیگابایت، و نسخه جدیدتر Bonsai 2 که فقط به صورت سه‌گانه (ternary) ارائه شده و مقدار صفر را به عنوان مقدار سوم اضافه می‌کند. برخی اجراکننده‌ها از جمله LM Studio هنوز نمی‌توانند این فایل‌ها را اجرا کنند. نسخه استفاده‌شده در این آزمایش، Q1_0 Staff Pick در LM Studio با حجم ۴.۴ گیگابایت همراه با فایل‌های بینایی است؛ حجمی که حتی از Gemma 4 12B QAT نیز کمتر است.

پنجره زمینه و تنظیمات اجرا

Bonsai پنجره زمینه ۲۶۲ هزار توکن (262K-token context window) را از Qwen به ارث برده است. بیشتر توجه (attention) در Qwen3.6 از روش خطی سبک‌تری استفاده می‌کند، بنابراین حافظه مورد نیاز برای گفتگوهای طولانی‌تر بسیار کندتر از بیشتر مدل‌ها رشد می‌کند. استفاده از کل پنجره زمینه حتی با کش فشرده حدود ۱۰ گیگابایت حافظه می‌طلبد؛ اما با کمتر از ۸ گیگابایت حافظه در دسترس و نیاز به باقی گذاشتن فضای آزاد برای برنامه‌های دیگر، عملاً حدود ۳۰ تا ۵۰ هزار توکن زمینه قابل استفاده است.

تنظیمات نمونه‌برداری پیشنهادی PrismML نیز استفاده شد: دمای ۰.۷، top-p برابر ۰.۹۵، top-k برابر ۲۰ و جریمه‌های تکرار و حضور خاموش. یک پیش‌تنظیم اختصاصی نیز برای استفاده مجدد از این پارامترها ساخته شد.

نقاط قوت: ریاضی، منطق و پیروی از دستور

به نظر می‌رسد ریاضی و منطق بیشترین مقاومت را در برابر فشرده‌سازی داشته‌اند. آزمون‌های PrismML امتیاز ۹۱.۷ را برای ریاضی در برابر ۹۵.۳ برای Qwen کامل ثبت کرده‌اند. در یک مسئله قیمت‌گذاری دفترچه با سه گزینه بسته‌بندی، Bonsai همه ترکیب‌های معتبر را بررسی کرد و سپس ارزان‌ترین را انتخاب کرد. این منطق معمولاً نخستین چیزی است که مدل‌های ۲ بیتی معمولی از دست می‌دهند و به‌سختی نیز تشخیص داده می‌شود، چون در گفتگوی عادی همچنان منسجم به نظر می‌رسند.

در پردازش اسناد نیز Bonsai خلاصه‌ها و فهرست‌های ابزار مختصر و تمیزی ارائه داد، حتی برای اسناد طولانی‌تر و بدون نیاز به تقسیم آن‌ها. پیروی از دستور (instruction following) نیز یکی از حوزه‌هایی بود که پس از فشرده‌سازی معمولاً افت می‌کند. در آزمایشی، یک توضیح کوتاه محصول با پنج قاعده پشت سر هم داده شد؛ از جمله کلماتی که نباید استفاده می‌شد و اینکه قیمت باید به واحد پول کاربر باشد. Bonsai همه آن‌ها را رعایت کرد.

در کدنویسی کوتاه نیز نتیجه قابل قبول بود: امتیاز ۸۹.۶ در HumanEval+ در برابر ۹۵.۱ در دقت کامل. با این حال، اسکریپت رصد پوشه (folder-watcher) که نوشت، در ظاهر کامل به نظر می‌رسید اما هرگز فایل‌های پردازش‌شده را ردیابی نمی‌کرد؛ بنابراین هر ثانیه همه فایل‌های پوشه، از جمله فایل ایندکس خودش را دوباره می‌خواند.

نقاط ضعف: فراخوانی ابزار، تصویر و سرعت

بزرگ‌ترین ضعف Bonsai احتمالاً فراخوانی ابزار (tool calling) است. نسخه ۱ بیتی در آزمون‌های عامل‌محور و فراخوانی ابزار PrismML امتیاز ۶۶.۰ گرفته، در حالی که Qwen کامل امتیاز ۸۰.۰ دارد؛ این بزرگ‌ترین افت در میان همه دسته‌های آزمون است. برای کارهایی که به ابزار نیاز دارند، همچنان Qwen 3.5 9B انتخاب مطمئن‌تری است و اگر سخت‌افزار پشتیبانی کند، Qwen 3.6-35B-A3B توصیه می‌شود.

تصویر نیز نقطه ضعف دیگری است. برای نمونه، با دادن تصویر یک برنامه طراحی و درخواست خلاصه آنچه دیده می‌شود، Bonsai مقادیر هگز (hex) و ابعاد را درست تشخیص داد، اما فهرست عناصر سه بار تکرار شد و نام برخی عناصر به اشتباه به عنوان تنظیمات خوانده شد. Gemma 4 تصاویر را از طریق تصویرسازی‌های سبک (lightweight projections) مستقیماً به مدل می‌فرستد، بنابراین همچنان انتخاب اصلی برای کارهای تصویری است.

سرعت هم کمی پایین‌تر است. همان درخواست قیمت‌گذاری در Bonsai با سرعت ۲۷ توکن بر ثانیه اجرا شد، در حالی که همان درخواست با همان تنظیمات در Gemma 4 E4B سرعت ۳۵ توکن بر ثانیه داشت. این تفاوت چندان بزرگ نیست و قابل تحمل است.

جمع‌بندی: بالاخره یک مدل بالای ۲۰ میلیارد پارامتر روی این GPU

انتخاب مدل فقط به دلیل بزرگ بودن عدد روی آن عادت درستی نیست، اما نویسنده مقاله می‌گوید هنوز کاملاً از این عادت رها نشده و هنگام ناتوانی در آزمایش مدل‌های بزرگ‌تر کمی حس فومو (FOMO) داشته است. بنابراین شنیدن اینکه این مدل روی سیستم او کار می‌کند هیجان‌انگیز بود و تقریباً هم همین‌طور شد. هنوز کارهایی وجود دارند که ترجیح می‌دهد به Qwen و Gemma بسپارد، اما Bonsai نشان داده در پیروی از دستور و حل مسائل پیچیده بسیار توانمند است.

نظرتان را ثبت کنید کد خبر: 55365 گروه خبری: اخبار نرم افزار منبع خبر: XDA Developers تاریخ خبر: 1405/07/18 تعداد مشاهده: 110
اخبار مرتبط با این خبر
نظر های کاربران
سرور آپدیت نود 32
پیشنهاد سافت گذر
YUMI 2.0.2.8 Universal USB Installer / Legacy 2.0.9.4 / UEFI 0.0.4.6 / exFAT 1.0.4.3

YUMI 2.0.2.8 Universal USB Installer / Legacy 2.0.9.4 / UEFI 0.0.4.6 / exFAT 1.0.4.3

بوت کردن فلش یامی

Broadcom Bluetooth Software 12.0.0.9850

Broadcom Bluetooth Software 12.0.0.9850

نرم افزار بروز رسانی درایور بلوتوث

AppLock Premium 6.3.1 for Android +5.0

AppLock Premium 6.3.1 for Android +5.0

قفل گذاری

افزایش فروش اینترنتی

افزایش فروش اینترنتی

ترفند‌های افزایش فروش آنلاین

The Meg

The Meg

مگ

Htaccess. چیست؟

Htaccess. چیست؟

آموزش هاستهای لینوکس

Bitsum Process Lasso Pro 19.0.0.94

Bitsum Process Lasso Pro 19.0.0.94

مدیریت برنامه های در حال اجرا

PCMark 2.0.3716 for Android +4.1

PCMark 2.0.3716 for Android +4.1

بنچمارک گوشی

Spider-Man 3

Spider-Man 3

مرد عنکبوتی

سیره شناسی سیاسی اهلبیت (ع) از زبان آیت الله سید احمد علم الهدی

سیره شناسی سیاسی اهلبیت (ع) از زبان آیت الله سید احمد علم الهدی

سیره شناسی سیاسی اهلبیت (ع) از زبان آیت الله سید احمد علم الهدی

Wings! Remastered Edition + Update 1

Wings! Remastered Edition + Update 1

بال‌ها - جنگ با هواپیماهای نظامی دوران جنگ جهانی اول - نسخه‌ی بازسازی‌شده

Learning Algebra

Learning Algebra

آموزش جبر

سرعت سیستم خود را افزایش دهید

سرعت سیستم خود را افزایش دهید

افزایش سرعت سیستم

طرح گرافیکی مناسبتی کیفیت بالا - شهادت امیر المؤمنین

طرح گرافیکی مناسبتی کیفیت بالا - شهادت امیر المؤمنین

پوستر کیفیت بالا شهادت امیرالمومنین

تاریخ ایران

تاریخ ایران

سلسله سلاجقه تا آغاز دوره صفویه

35 جلسه صرف میر (بخش اول)

35 جلسه صرف میر (بخش اول)

عربی 1

A Better Camera 3.54 for Android +4.0

A Better Camera 3.54 for Android +4.0

دوربین عالی

PowerDirector – Video Editor FULL 16.8.0 For Android +5.0

PowerDirector – Video Editor FULL 16.8.0 For Android +5.0

ویرایش فیلم

سخنرانی استاد رائفی پور با موضوع شب قدر

سخنرانی استاد رائفی پور با موضوع شب قدر

رائفی پور - ماه مبارک رمضان

Google Gmail 2026.11.02 For Android +6.0

Google Gmail 2026.11.02 For Android +6.0

جیمیل

سخنرانی حجت الاسلام پناهیان با موضوع جایگاه مواسات در جامعه اسلامی - 3 بخش

سخنرانی حجت الاسلام پناهیان با موضوع جایگاه مواسات در جامعه اسلامی - 3 بخش

سخنرانی جایگاه مواسات در جامعه اسلامی از پناهیان

Empty Folder Cleaner 2.1.7 For Android +4.0

Empty Folder Cleaner 2.1.7 For Android +4.0

حذف فولدرهای خالی

Abelssoft Easy PDF 2026 v7.01.66068

Abelssoft Easy PDF 2026 v7.01.66068

ویرایش پی دی اف

ویژگی های والای آمنه (س)

ویژگی های والای آمنه (س)

آمنه (س) در آینه مادری

UPDF 2.1.4

UPDF 2.1.4

ویرایش پی دی اف

Handball 16

Handball 16

هندبال 16

Glimmer Full 2.0.32 for Android +4.1

Glimmer Full 2.0.32 for Android +4.1

گلیمر

Duplicate File Remover 3.10.40 Build 0

Duplicate File Remover 3.10.40 Build 0

نرم افزار شناسایی و حذف فایل های تکراری

Fast Video Downloader 4.0.0.83

Fast Video Downloader 4.0.0.83

دانلودکننده ویدئو از سایت ها

Rise of Nations - Extended Edition

Rise of Nations - Extended Edition

قیام ملل - نسخه‌ی کامل و بهبود یافته

سخنرانی مسعود عالی با موضوع باور الهی موجب صبر حسینی و زینبی شدن

سخنرانی مسعود عالی با موضوع باور الهی موجب صبر حسینی و زینبی شدن

سخنرانی باور الهی موجب صبر حسینی و زینبی شدن با مسعود عالی

آشنایی با انواع پردازنده ها(CPU)

آشنایی با انواع پردازنده ها(CPU)

آشنایی کامل با واحد پردازش مرکزی کامپیوتر

آموزش تصویری نرم افزار MASH

آموزش تصویری نرم افزار MASH

آموزش ماش

رژیم های دروغی

رژیم های دروغی

باورهای نادرست درمورد رژیم غذایی

Touring Karts + Update

Touring Karts + Update

ماشین مسابقه ای برای کامپیوتر

Malwarebytes Premium 5.8.0.391 / 2.2.1.1043

Malwarebytes Premium 5.8.0.391 / 2.2.1.1043

مالوربایتس آنتی مالور

iOnRoad 2.0.1p for Android +4.2

iOnRoad 2.0.1p for Android +4.2

برنامه ای برای جلوگیری از تصادف در حین رانندگی

مداحی تصویری آماده شده برای دهه اول ماه محرم سال 96 - شب دوم

مداحی تصویری آماده شده برای دهه اول ماه محرم سال 96 - شب دوم

مداحی تصویری برای دوم محرم 96

Udemy - Adobe Photoshop CC – Essentials Training Course

Udemy - Adobe Photoshop CC – Essentials Training Course

آموزش فتوشاپ

معرفی مشاغل و رشته های مختلف دانشگاهی

معرفی مشاغل و رشته های مختلف دانشگاهی

شناخت و آگاهی بهتر رشته های دانشگاهی

خبرنامه

با عضویت در خبرنامه، زودتر از همه باخبر باش!