سافت گذر دانشنامه نرم افزار - دانلود رایگان نرم افزار

اطلاعیه های مهم سایت اطلاعیه های مهم سایت
💐 میلاد زینت پدر حضرت زینب سلام الله علیها مبارک باد 💐
 
 
  1. جهت رفع مشکل باز شدن سایت به دلیل بلاک توسط  نود 32 این ویدیو یا این ویدیو(ورژن 9 به بالا) یا راهنمای تصویری را مشاهده کنید
  2. به مناسبت عید غدیر، در سایت https://esetupdate.ir/ تخفیف ویژه‌ای برای محصولات در نظر گرفته شده است؛ فرصت را از دست ندهید. 🌸
  3. اکانت های بروزرسانی نود32 با قیمت های مناسب به صورت یک ، سه ، شش و دوازده ماهه از اینجا قابل خرید می باشد.

نرم افزار های پرکاربرد

ثبت نام | ورود
wepido.ir

تبدیل کارت گرافیک بیکار به سرور هوش مصنوعی خانگی برای همه دستگاه‌ها با llama.cpp

تبدیل کارت گرافیک بیکار به سرور هوش مصنوعی خانگی برای همه دستگاه‌ها با llama.cpp

بر اساس گزارش منتشرشده، یک کاربر نشان داده است که کارت گرافیک (GPU) در بسیاری از رایانه‌های شخصی بیشتر وقت خود را بیکار می‌گذراند و تنها هنگام اجرای بازی، رندر صحنه یا شبیه‌سازی فعال می‌شود. همین موضوع زمینه‌ای شده تا رایانه مجهز به RTX 4070 Ti Super به یک سرور اختصاصی هوش مصنوعی (AI Server) در خانه تبدیل شود و مدل Qwen3.6-35B-A3B روی دستگاه‌هایی اجرا شود که به‌تنهایی توان اجرای بومی آن را ندارند.

راه‌اندازی سرور محلی با یک فرمان

در این تجربه، از llama.cpp برای استنتاج محلی (Local Inference) استفاده شده است. دو پیش‌نیاز اصلی، یک نسخه نسبتاً جدید از llama.cpp با شماره ساخت b11927 و فایل مدل GGUF است. مدل انتخاب‌شده Qwen3.6-35B-A3B با نسخه کوانتیزه‌شده (Quantized) UD-IQ4_XS از Unsloth است. برای تبدیل رایانه به سرور، کافی است در PowerShell فرمان llama-server اجرا شود و پارامتر --host 0.0.0.0 به سرور دستور دهد تا به‌جای شنود فقط روی رایانه میزبان، روی شبکه خانگی نیز در دسترس باشد. پارامتر --port 8080 نیز پورت (Port) سرور را تثبیت می‌کند؛ زیرا llama.cpp قصد دارد در نسخه‌های آینده پورت پیش‌فرض را به 9931 تغییر دهد.

رابط وب داخلی (Web UI) llama.cpp هر دستگاه خانه را به یک کلاینت (Client) تبدیل می‌کند. تنظیمات پیش‌فرض llama.cpp به‌گونه‌ای است که پنجره زمینه (Context Window) را به چند شکاف تقسیم می‌کند و چند کاربر می‌توانند هم‌زمان گفت‌وگو کنند.

عملکرد کلاینت‌ها تقریباً برابر با میزبان

یکی از مزیت‌های اصلی این روش آن است که مدل از رایانه میزبان خارج نمی‌شود. سرور llama.cpp استنتاج (Inference) را روی کارت گرافیک انجام می‌دهد و پاسخ را به‌صورت متن ساده و توکن‌به‌توکن (Token) به کلاینت می‌فرستد. حتی با سرعت ۹۰ توکن بر ثانیه، پهنای باند مصرفی تنها کسری از یک مگابیت بر ثانیه است که هر شبکه وای‌فای خانگی به‌راحتی از عهده آن برمی‌آید. این روش با استریم بازی تفاوت دارد؛ زیرا در استریم بازی هر فریم به‌صورت ویدئو ارسال می‌شود، اما در اینجا فقط واژه‌ها منتقل می‌شوند.

در آزمون این کاربر، رایانه میزبان به RTX 4070 Ti Super، پردازنده Ryzen 5 7600X و 32GB حافظه DDR5 مجهز بوده است. برای بهینه‌سازی عملکرد، پارامترهای (Flag) مشخصی به کار رفته‌اند: -ngl 99 برای نگه‌داشتن بخش اصلی مدل روی حافظه ویدئویی (VRAM)، --n-cpu-moe 8 برای انتقال وزن‌های متخصص هشت لایه نخست به حافظه سیستم (System RAM)، -c 32768 برای پنجره زمینه ۳۲ هزار توکن، -np 2 برای دو شکاف گفت‌وگو، -kvu برای اشتراک زمینه میان شکاف‌ها، -fa on و --load-mode none. از آنجا که حجم مدل حدود ۱۷.۷ گیگابایت و حافظه ویدئویی کارت گرافیک ۱۶ گیگابایت است، بخشی از وزن‌های مدل ترکیبی متخصصان (Mixture-of-Experts / MoE) به حافظه سیستم منتقل شده است. در استنتاج این مدل، تنها حدود ۳ میلیارد از ۳۵ میلیارد پارامتر فعال می‌شوند و همین موضوع تقسیم وزن‌ها میان حافظه ویدئویی و حافظه سیستم را کارآمد می‌کند.

نتیجه تست سرعت در دستگاه‌های مختلف

  • میزبان با llama-bench: ۸۵.۴۹ توکن بر ثانیه
  • iPhone به‌تنهایی: ۸۸.۴۳ توکن بر ثانیه
  • M2 MacBook Air به‌تنهایی: ۸۹.۵۶ توکن بر ثانیه
  • iPhone در حالت هم‌زمان: ۵۹.۹۱ توکن بر ثانیه
  • M2 MacBook Air در حالت هم‌زمان: ۵۹.۰۱ توکن بر ثانیه

مصرف انرژی و محدودیت حافظه ویدئویی

یکی از نکات مهم این راه‌اندازی، مصرف پایین انرژی در حالت آماده‌به‌کار است. با وجود بارگذاری مدل و آماده بودن سرور، ابزار nvidia-smi مصرف کارت گرافیک را حدود ۱۴ وات ثبت کرده است؛ یعنی حدود یک‌دهم مصرف هنگام استنتاج فعال. این مقدار تنها هنگام تولید پاسخ به ۱۳۰ تا ۱۴۰ وات می‌رسد و پس از پایان ارسال پیام دوباره کاهش می‌یابد.

محدودیت اصلی، اشغال حافظه ویدئویی است. با اجرای سرور، حدود ۹۶ درصد حافظه ویدئویی کارت گرافیک اشغال می‌شود؛ یعنی ۱۵.۴ گیگابایت از ۱۶ گیگابایت و تنها حدود ۰.۶ گیگابایت آزاد می‌ماند. این رقم بسته به مدل انتخاب‌شده می‌تواند متفاوت باشد. استفاده از مدل‌های سبک‌تر یا انتقال لایه‌های بیشتری از مدل ترکیبی متخصصان به حافظه سیستم می‌تواند این فشار را کاهش دهد.

جمع‌بندی

به نظر می‌رسد بهترین حالت برای چنین راه‌اندازی، یک سرور خانگی اختصاصی و بدون نمایشگر باشد؛ به‌ویژه سروری با چند کارت گرافیک که حافظه ویدئویی آن‌ها در غیر این صورت بلااستفاده می‌ماند. با این حال، استفاده از رایانه اصلی نیز ممکن است و راه‌اندازی آن تنها به یک فرمان نیاز دارد. بسته به میزان حافظه ویدئویی، همه دستگاه‌های خانه می‌توانند به مدلی ۳۵ میلیارد پارامتری با سرعت استنتاج مناسب دسترسی پیدا کنند. این تجربه همچنین می‌تواند کاربران را به بازنگری در اشتراک ماهانه ۲۰ دلاری خدمات ابری (Cloud) ترغیب کند.

نظرتان را ثبت کنید کد خبر: 56659 گروه خبری: اخبار نرم افزار منبع خبر: XDA Developers تاریخ خبر: 1405/08/15 تعداد مشاهده: 46
اخبار مرتبط با این خبر
نظر های کاربران
سرور آپدیت نود 32
پیشنهاد سافت گذر
Encyclopaedia Britannica 2015 Ultimate Edition for Win/Mac

Encyclopaedia Britannica 2015 Ultimate Edition for Win/Mac

کاملترین دائرة المعارف (دانشنامه) علوم مختلف

رمان چارلز دیکنز

رمان چارلز دیکنز

داستان دیوید کاپرفیلد

اقدامات امام صادق (ع) در تبیین و ترویج جایگاه امام از آیت الله سیدمحمدمهدی میرباقری

اقدامات امام صادق (ع) در تبیین و ترویج جایگاه امام از آیت الله سیدمحمدمهدی میرباقری

حاج آقا سیدمحمدمهدی میرباقری با موضوع اقدامات امام صادق (ع) در تبیین و ترویج جایگاه امام

گلچین مولودی‌خوانی‌های ویژه ولادت حضرت فاطمه زهرا سلام الله علیها

گلچین مولودی‌خوانی‌های ویژه ولادت حضرت فاطمه زهرا سلام الله علیها

ولادت حضرت فاطمه زهرا

Clipboard Master 4.10.6

Clipboard Master 4.10.6

کلیپبورد مستر

9 بحث استاد محمد شجاعی

9 بحث استاد محمد شجاعی

استاد شجاعی با موضوع امانتهای زندگی من

Letasoft Sound Booster 1.12.0.541

Letasoft Sound Booster 1.12.0.541

افزایش بلندی صدا در ویندوز

حسش نیست

حسش نیست

راهنمای عملی برای افزایش کارایی شما

Video Repair Tool 5.0.4.5

Video Repair Tool 5.0.4.5

تعمیر فیلم‌های خراب

سخنرانی استاد سید محسن میرباقری با موضوع بررسی مناجات ها و لزوم حفاظت از دستاوردهای معنوی

سخنرانی استاد سید محسن میرباقری با موضوع بررسی مناجات ها و لزوم حفاظت از دستاوردهای معنوی

سخنرانی بررسی مناجات ها و ادعیه منقول از ائمه با استاد میرباقری

Adobe Edge Animate CC 2015 v6.0.0.400 x64

Adobe Edge Animate CC 2015 v6.0.0.400 x64

ادوبی ادج انیمت

Microsoft Office Mobile 16.0.15726.20196 for Android +4.0

Microsoft Office Mobile 16.0.15726.20196 for Android +4.0

نمایش و ویرایش فایلهای آفیس

سخنرانی حجت الاسلام فرحزاد با موضوع برکت حضور فاطمه معصومه (س) در قم

سخنرانی حجت الاسلام فرحزاد با موضوع برکت حضور فاطمه معصومه (س) در قم

سخنرانی برکت حضور فاطمه معصومه (س) در قم با حاج آقا فرحزاد

Paragon ExtFS for Mac 11.3.27

Paragon ExtFS for Mac 11.3.27

پاراگون پارتیشن لینوکس در مک

مجله تخصصی  برای  متخصصان و علاقه ماندان به عکاسی

مجله تخصصی برای متخصصان و علاقه ماندان به عکاسی

مجله Photography Week ژانویه 28 ؛ 2021

eRa - The Mass 320kbps

eRa - The Mass 320kbps

آلبوم عشاء ربانی از گروه ایرا

Need for Speed - No Limits 7.5.0 for Android +4.0

Need for Speed - No Limits 7.5.0 for Android +4.0

بازی نید فور اسپید

Udemy - The Complete Web Developer Course 2.0

Udemy - The Complete Web Developer Course 2.0

آموزش کامل طراحی سایت

Farm Frenzy 3

Farm Frenzy 3

مدیریت مزرعه نسخه 3

آشنایی با سیستم عامل های BSD

آشنایی با سیستم عامل های BSD

آشنایی با سیستم عامل های بی اس دی

GT Racing 2 The Real Car Experience 1.5.6g for Android +2.3

GT Racing 2 The Real Car Experience 1.5.6g for Android +2.3

بازی رانندگی

فارسی نویس ویندوز فون (ویرایش 1.0)

فارسی نویس ویندوز فون (ویرایش 1.0)

نرم افزار فارسی نویس برای سیستم عامل ویندوز فون ٧.٥ مانگو

Pi Music Player FULL 3.1.2.1  For Android +4.1

Pi Music Player FULL 3.1.2.1 For Android +4.1

پی موزیک پلیر

Pixomatic photo editor 5.15.1 For Android +6.0

Pixomatic photo editor 5.15.1 For Android +6.0

پیکسوماتیک ویرایش تصاویر

Adobe Shockwave Player 12.3.5.205 / macOS

Adobe Shockwave Player 12.3.5.205 / macOS

پخش فلش در ویندوز

Devotion

Devotion

ترسناک برای کامپیوتر

Capsized

Capsized

واژگون

BLOOD & GLORY LEGEND 2.0.2 for Android

BLOOD & GLORY LEGEND 2.0.2 for Android

خون و مبارزه

آموزش زبان کره ای و آشنایی با حروف مصوت

آموزش زبان کره ای و آشنایی با حروف مصوت

راهنمای الفبای زبان کره ای (هانگول)

NTLite 2026.10.12522 + Business / Enterprise 2.1.1.7917

NTLite 2026.10.12522 + Business / Enterprise 2.1.1.7917

برنامه ساخت ویندوز سفارشی

Coursera – Graphic Design Specialization

Coursera – Graphic Design Specialization

آموزش طراحی گرافیک

Autodesk AutoCAD Mechanical Desktop 2009 x86/x64

Autodesk AutoCAD Mechanical Desktop 2009 x86/x64

مشهورترین نرم افزار طراحی مهندسی مکانیک

Solar Shifter EX

Solar Shifter EX

عیار خورشیدی

ExDialer PRO - Dialer & Contacts 198 for Android +2.1

ExDialer PRO - Dialer & Contacts 198 for Android +2.1

شماره گیر قدرتمند + زبان فارسی

Against the Storm

Against the Storm

بازی استراتژیک و مدیریتی شهرسازی برای کامپیوتر

Google Seo Secrets

Google Seo Secrets

رازهای بهینه سازی صفحات وب

آموزش نرم افزار Adobe Premiere Pro CS3

آموزش نرم افزار Adobe Premiere Pro CS3

آشنایی با نرم افزار پریمیر

Clean Media Player 2026.2.8.1

Clean Media Player 2026.2.8.1

حذف خودکار الفاظ رکیک و محتوای نامناسب از ویدئوها

Overland Build 742

Overland Build 742

تلاش برای بقا

World of Goo 1.2 for Android

World of Goo 1.2 for Android

بازی ورد آف گو

خبرنامه

با عضویت در خبرنامه، زودتر از همه باخبر باش!