سافت گذر دانشنامه نرم افزار - دانلود رایگان نرم افزار

اطلاعیه های مهم سایت اطلاعیه های مهم سایت
💐 میلاد زینت پدر حضرت زینب سلام الله علیها مبارک باد 💐
 
 
  1. جهت رفع مشکل باز شدن سایت به دلیل بلاک توسط  نود 32 این ویدیو یا این ویدیو(ورژن 9 به بالا) یا راهنمای تصویری را مشاهده کنید
  2. به مناسبت عید غدیر، در سایت https://esetupdate.ir/ تخفیف ویژه‌ای برای محصولات در نظر گرفته شده است؛ فرصت را از دست ندهید. 🌸
  3. اکانت های بروزرسانی نود32 با قیمت های مناسب به صورت یک ، سه ، شش و دوازده ماهه از اینجا قابل خرید می باشد.

نرم افزار های پرکاربرد

ثبت نام | ورود
wepido.ir

مدل‌های MoE معنای «اجرا روی GPU» را تغییر دادند؛ توصیه‌های سخت‌افزاری عقب مانده‌اند

مدل‌های MoE معنای «اجرا روی GPU» را تغییر دادند؛ توصیه‌های سخت‌افزاری عقب مانده‌اند

اجرای محلی مدل‌های زبانی بزرگ (Large Language Models) تا پیش از فراگیر شدن معماری ترکیب خبرگان (Mixture-of-Experts یا به اختصار MoE)، به یک معادله ساده اما محدودکننده گره خورده بود: هرچه مدل بزرگ‌تر، حافظه گرافیکی (VRAM) بیشتری لازم است. اما این معماری جدید، تعریف «مدلی که روی کارت گرافیک من جا می‌شود» را دگرگون کرده است.

مدل‌های متراکم و گلوگاه حافظه گرافیکی

در مدل‌های زبانی متعارف با معماری متراکم (Dense)، هنگام پردازش هر توکن، تمام پارامترهای شبکه فعال هستند. به همین دلیل کارت گرافیک باید حافظه کافی برای جای دادن کل مدل داشته باشد. اگر کاربری کارت گرافیک ضعیفی داشته باشد، می‌تواند برخی لایه‌ها را به حافظه سیستم (System Memory) منتقل کند، اما در این حالت موتور استنتاج (Inference Engine) ناچار است داده‌ها را به‌طور مداوم میان حافظه و گذرگاه PCIe جابه‌جا کند و سرعت تولید توکن به شدت افت می‌کند.

راه‌حل جایگزین، استفاده از کوانتیزاسیون (Quantization) با دقت پایین است، اما این کار توان محاسباتی مدل را به‌طور محسوسی کاهش می‌دهد. بر پایه برآوردهای رایج، یک مدل ۷ میلیارد پارامتری در کوانتیزاسیون Q4 به حدود ۴ تا ۵.۵ گیگابایت حافظه گرافیکی نیاز دارد که برای کارتی با ۸ گیگابایت حافظه کافی است. روی کارت‌های ۱۲ گیگابایتی می‌توان تا مدل‌های ۱۲ میلیارد پارامتری و حتی نمونه‌های ۱۵ میلیاردی در Q4 پیش رفت، اما فراتر از آستانه ۱۸ میلیارد پارامتر، کارت گرافیک متوسط معمولاً از عهده چنین مدل‌هایی برنمی‌آید.

معماری MoE چگونه محدودیت VRAM را دور می‌زند

مدل‌های MoE ساختاری متفاوت دارند. به جای یک شبکه پیش‌خور بزرگ (Feed-Forward Network) در هر بلوک، این مدل‌ها چندین شبکه موازی به نام «خبره» (Expert) دارند و به جای فعال‌سازی همه پارامترها برای هر توکن، یک سازوکار مسیریابی (Routing Mechanism) هر توکن را به خبره مشخصی اختصاص می‌دهد. در نتیجه تنها گروهی محدود از خبره‌ها در محاسبه هر توکن دخیل هستند و بقیه بی‌کار می‌مانند.

همین ویژگی اجازه می‌دهد بخشی از مدل روی حافظه گرافیکی و بخشی دیگر روی حافظه سیستم قرار گیرد، بدون آنکه افت شدید سرعت رخ دهد. در چنین چیدمانی می‌توان سازوکار مسیریابی، وزن‌های توجه (Attention Weights)، تعبیه‌ها (Embeddings) و خبره‌های فعال را در VRAM نگه داشت و سایر لایه‌های خبره را در حافظه سیستم مستقر کرد. البته مجموع حافظه گرافیکی و رم باید برای همه پارامترهای مدل کافی باشد، اما از آنجا که نرخ تولید توکن در این حالت تقسیم‌شده چندان آسیب نمی‌بیند، می‌توان مدل‌های بسیار حجیمی را آزمایش کرد که در معماری متراکم سنتی با سرعتی بسیار کند اجرا می‌شدند.

اعداد واقعی: از RTX 3080 Ti تا GTX 1080

در عمل، یک کارت RTX 3080 Ti با ۱۲ گیگابایت حافظه گرافیکی در کنار ۳۲ گیگابایت رم، مدل Qwen3.6-35B-A3B را با تنظیم پرچم --no-cpu-moe روی ۲۵ لایه در چارچوب llama.cpp، با سرعتی در حدود ۲۴ توکن بر ثانیه اجرا می‌کند؛ رقمی قابل توجه برای مدلی ۳۵ میلیارد پارامتری که در حالت معمول به کارت‌های گران‌قیمت نیاز دارد.

نمونه چشمگیرتر، کارت GTX 1080 با ۸ گیگابایت حافظه گرافیکی است که نه تنها از نظر حافظه محدود است، بلکه هسته‌های تنسور (Tensor Cores) نیز ندارد. با این حال، روی یک گره Proxmox مجهز به حدود ۳۲ گیگابایت حافظه DDR4، همین کارت مدل Gemma-4-26B-A4B را با سرعت حدود ۱۴ توکن بر ثانیه اجرا می‌کند که برای کارتی از نسل پاسکال (Pascal) عددی غیرمنتظره است.

کاربرد در ابزارهای بهره‌وری و آزمایشگاه خانگی

این مدل‌ها صرفاً یک آزمایش فنی نیستند و می‌توانند موتور محرک مجموعه‌ای از ابزارهای بهره‌وری باشند:

  • استفاده از نمونه Qwen3.6-35B-A3B روی RTX 3080 Ti به عنوان جایگزین Copilot در VS Code
  • ترکیب آن با Perplexica و Vane برای عیب‌یابی پروژه‌های ناکام
  • اتکای ابزارهای خودمیزبان مانند Open Notebook، Blinko و Paperless-GPT به مدل Gemma-4-26B-A4B روی GTX 1080 برای ارائه قابلیت‌های هوش مصنوعی

در مجموع، معماری MoE نشان می‌دهد که معیارهای سنتی سنجش توان سخت‌افزار برای اجرای مدل‌های زبانی دیگر پاسخگوی نیاز کاربران نیست و توصیه‌های رایج خرید کارت گرافیک باید بازنگری شوند.

نظرتان را ثبت کنید کد خبر: 55360 گروه خبری: اخبار نرم افزار منبع خبر: XDA Developers تاریخ خبر: 1405/07/18 تعداد مشاهده: 111
اخبار مرتبط با این خبر
نظر های کاربران
سرور آپدیت نود 32
پیشنهاد سافت گذر
YUMI 2.0.2.8 Universal USB Installer / Legacy 2.0.9.4 / UEFI 0.0.4.6 / exFAT 1.0.4.3

YUMI 2.0.2.8 Universal USB Installer / Legacy 2.0.9.4 / UEFI 0.0.4.6 / exFAT 1.0.4.3

بوت کردن فلش یامی

Broadcom Bluetooth Software 12.0.0.9850

Broadcom Bluetooth Software 12.0.0.9850

نرم افزار بروز رسانی درایور بلوتوث

AppLock Premium 6.3.1 for Android +5.0

AppLock Premium 6.3.1 for Android +5.0

قفل گذاری

افزایش فروش اینترنتی

افزایش فروش اینترنتی

ترفند‌های افزایش فروش آنلاین

The Meg

The Meg

مگ

Htaccess. چیست؟

Htaccess. چیست؟

آموزش هاستهای لینوکس

Bitsum Process Lasso Pro 19.0.0.94

Bitsum Process Lasso Pro 19.0.0.94

مدیریت برنامه های در حال اجرا

PCMark 2.0.3716 for Android +4.1

PCMark 2.0.3716 for Android +4.1

بنچمارک گوشی

Spider-Man 3

Spider-Man 3

مرد عنکبوتی

سیره شناسی سیاسی اهلبیت (ع) از زبان آیت الله سید احمد علم الهدی

سیره شناسی سیاسی اهلبیت (ع) از زبان آیت الله سید احمد علم الهدی

سیره شناسی سیاسی اهلبیت (ع) از زبان آیت الله سید احمد علم الهدی

Wings! Remastered Edition + Update 1

Wings! Remastered Edition + Update 1

بال‌ها - جنگ با هواپیماهای نظامی دوران جنگ جهانی اول - نسخه‌ی بازسازی‌شده

Learning Algebra

Learning Algebra

آموزش جبر

سرعت سیستم خود را افزایش دهید

سرعت سیستم خود را افزایش دهید

افزایش سرعت سیستم

طرح گرافیکی مناسبتی کیفیت بالا - شهادت امیر المؤمنین

طرح گرافیکی مناسبتی کیفیت بالا - شهادت امیر المؤمنین

پوستر کیفیت بالا شهادت امیرالمومنین

تاریخ ایران

تاریخ ایران

سلسله سلاجقه تا آغاز دوره صفویه

35 جلسه صرف میر (بخش اول)

35 جلسه صرف میر (بخش اول)

عربی 1

A Better Camera 3.54 for Android +4.0

A Better Camera 3.54 for Android +4.0

دوربین عالی

PowerDirector – Video Editor FULL 16.8.0 For Android +5.0

PowerDirector – Video Editor FULL 16.8.0 For Android +5.0

ویرایش فیلم

سخنرانی استاد رائفی پور با موضوع شب قدر

سخنرانی استاد رائفی پور با موضوع شب قدر

رائفی پور - ماه مبارک رمضان

Google Gmail 2026.11.02 For Android +6.0

Google Gmail 2026.11.02 For Android +6.0

جیمیل

سخنرانی حجت الاسلام پناهیان با موضوع جایگاه مواسات در جامعه اسلامی - 3 بخش

سخنرانی حجت الاسلام پناهیان با موضوع جایگاه مواسات در جامعه اسلامی - 3 بخش

سخنرانی جایگاه مواسات در جامعه اسلامی از پناهیان

Empty Folder Cleaner 2.1.7 For Android +4.0

Empty Folder Cleaner 2.1.7 For Android +4.0

حذف فولدرهای خالی

Abelssoft Easy PDF 2026 v7.01.66068

Abelssoft Easy PDF 2026 v7.01.66068

ویرایش پی دی اف

ویژگی های والای آمنه (س)

ویژگی های والای آمنه (س)

آمنه (س) در آینه مادری

UPDF 2.1.4

UPDF 2.1.4

ویرایش پی دی اف

Handball 16

Handball 16

هندبال 16

Glimmer Full 2.0.32 for Android +4.1

Glimmer Full 2.0.32 for Android +4.1

گلیمر

Duplicate File Remover 3.10.40 Build 0

Duplicate File Remover 3.10.40 Build 0

نرم افزار شناسایی و حذف فایل های تکراری

Fast Video Downloader 4.0.0.83

Fast Video Downloader 4.0.0.83

دانلودکننده ویدئو از سایت ها

Rise of Nations - Extended Edition

Rise of Nations - Extended Edition

قیام ملل - نسخه‌ی کامل و بهبود یافته

سخنرانی مسعود عالی با موضوع باور الهی موجب صبر حسینی و زینبی شدن

سخنرانی مسعود عالی با موضوع باور الهی موجب صبر حسینی و زینبی شدن

سخنرانی باور الهی موجب صبر حسینی و زینبی شدن با مسعود عالی

آشنایی با انواع پردازنده ها(CPU)

آشنایی با انواع پردازنده ها(CPU)

آشنایی کامل با واحد پردازش مرکزی کامپیوتر

آموزش تصویری نرم افزار MASH

آموزش تصویری نرم افزار MASH

آموزش ماش

رژیم های دروغی

رژیم های دروغی

باورهای نادرست درمورد رژیم غذایی

Touring Karts + Update

Touring Karts + Update

ماشین مسابقه ای برای کامپیوتر

Malwarebytes Premium 5.8.0.391 / 2.2.1.1043

Malwarebytes Premium 5.8.0.391 / 2.2.1.1043

مالوربایتس آنتی مالور

iOnRoad 2.0.1p for Android +4.2

iOnRoad 2.0.1p for Android +4.2

برنامه ای برای جلوگیری از تصادف در حین رانندگی

مداحی تصویری آماده شده برای دهه اول ماه محرم سال 96 - شب دوم

مداحی تصویری آماده شده برای دهه اول ماه محرم سال 96 - شب دوم

مداحی تصویری برای دوم محرم 96

Udemy - Adobe Photoshop CC – Essentials Training Course

Udemy - Adobe Photoshop CC – Essentials Training Course

آموزش فتوشاپ

معرفی مشاغل و رشته های مختلف دانشگاهی

معرفی مشاغل و رشته های مختلف دانشگاهی

شناخت و آگاهی بهتر رشته های دانشگاهی

خبرنامه

با عضویت در خبرنامه، زودتر از همه باخبر باش!