سافت گذر دانشنامه نرم افزار - دانلود رایگان نرم افزار

اطلاعیه های مهم سایت اطلاعیه های مهم سایت
💐 میلاد زینت پدر حضرت زینب سلام الله علیها مبارک باد 💐
 
 
  1. جهت رفع مشکل باز شدن سایت به دلیل بلاک توسط  نود 32 این ویدیو یا این ویدیو(ورژن 9 به بالا) یا راهنمای تصویری را مشاهده کنید
  2. به مناسبت عید غدیر، در سایت https://esetupdate.ir/ تخفیف ویژه‌ای برای محصولات در نظر گرفته شده است؛ فرصت را از دست ندهید. 🌸
  3. اکانت های بروزرسانی نود32 با قیمت های مناسب به صورت یک ، سه ، شش و دوازده ماهه از اینجا قابل خرید می باشد.

نرم افزار های پرکاربرد

ثبت نام | ورود
wepido.ir

اجرای مدل محلی هوش مصنوعی روی گرافیک مجتمع؛ آزاد ماندن GPU اختصاصی

اجرای مدل محلی هوش مصنوعی روی گرافیک مجتمع؛ آزاد ماندن GPU اختصاصی

یک تجربه کاربری در XDA Developers نشان می‌دهد چگونه می‌توان یک لپ‌تاپ قدیمی را به سرور خانگی هوش مصنوعی تبدیل کرد، بدون اینکه گرافیک اختصاصی (Discrete GPU) آن درگیر شود. در این پروژه، مدل کوچک بینایی-زبانی (Vision-Language Model) روی گرافیک مجتمع (Integrated Graphics) پردازنده اجرا شده تا کارت RTX 3050 Ti برای وظایف سنگین‌تر آزاد بماند.

از سرور خانگی تا دستیار محلی برای اسناد حساس

لپ‌تاپ Acer Nitro 5 با پردازنده Core i7-11800H، ۱۶ گیگابایت رم و کارت RTX 3050 Ti Mobile پیش‌تر به سرور خانگی همیشه‌روشن تبدیل شده بود. با این حال، نویسنده متوجه شد اعضای خانواده اسناد حساس مانند صورت‌حساب بانکی، مدارک بیمه، گزارش‌های پزشکی و قبوض را برای توضیح و خلاصه‌سازی به سرویس‌هایی مانند Gemini و ChatGPT می‌فرستند. همین موضوع انگیزه ساخت یک دستیار محلی شد که اطلاعات را از شبکه خانگی خارج نکند.

اجرای مدل روی گرافیک مجتمع با llama.cpp

برای اجرای مدل روی گرافیک مجتمع Intel UHD، از نسخه Vulkan مربوط به llama.cpp استفاده شد و دستگاه به Vulkan0 محدود شد. به این ترتیب لایه‌های مدل روی iGPU قرار گرفتند. بررسی با فرمان nvidia-smi -l 1 نیز تأیید کرد که llama.cpp در مصرف کارت RTX سهمی ندارد. مدل انتخاب‌شده LFM3-VL-2B از Liquid AI است؛ یک مدل کوچک بینایی-زبانی که می‌تواند تصاویر و اسناد را بررسی کند. برای استفاده از آن، دست‌کم بیلد (Build) شماره 11960 از llama.cpp یا جدیدتر لازم است.

دسترسی همه دستگاه‌ها از طریق شبکه محلی

پس از راه‌اندازی استنتاج (Inference)، llama.cpp به یک سرور شبکه محلی (LAN Server) تبدیل شد تا گوشی‌ها و لپ‌تاپ‌های متصل به Wi-Fi بتوانند به آن دسترسی داشته باشند. لپ‌تاپ از طریق کابل LAN متصل ماند و سایر دستگاه‌ها با یک میانبر ساده در Chrome به چت‌بات محلی دسترسی پیدا کردند. هدف اصلی نیز حفظ همین وضعیت بود: RTX 3050 Ti همچنان برای ترنسکدینگ Jellyfin و استریم بازی با Sunshine در اختیار بماند.

محدودیت‌های واقعی مدل کوچک

این مدل جایگزین ChatGPT یا Gemini نیست و توان استدلال پیچیده ندارد. سرعت تولید متن حدود ۶ توکن بر ثانیه (Tokens per Second) است. در آزمایش با یک قرارداد اجاره‌نامه اسکن‌شده دو صفحه‌ای، ۷۰۹۸ توکن ورودی و ۲۵۲ توکن خروجی پردازش شد؛ پردازش مقدماتی (Prefill) حدود ۳۳.۳ توکن بر ثانیه، زمان تا نخستین توکن (TTFT) حدود ۲۱۳ ثانیه، تولید (Decode) حدود ۶.۱۱ توکن بر ثانیه و زمان کل پاسخ حدود ۲۵۴ ثانیه بود.

  • مدل به‌طور مستقیم فایل PDF را پردازش نمی‌کند و اسناد باید ابتدا به تصویر تبدیل یا اسکرین‌شات شوند.
  • سرعت پایین برای استفاده تعاملی چندان مناسب نیست، اما برای دستیار پس‌زمینه و پردازش گاه‌به‌گاه اسناد حساس کافی است.
  • مزیت اصلی، نگه‌داشتن اطلاعات در شبکه محلی و آزاد ماندن گرافیک اختصاصی برای وظایف دیگر است.

به گفته نویسنده، این راهکار برای همه کاربران منطقی نیست و هدف آن کسب امتیاز عملکردی نیست؛ بلکه یک سرویس کوچک و کم‌هزینه است که برای یک خانه، حریم خصوصی بیشتری فراهم می‌کند. در این حالت، کندی مدل در برابر امنیت و کنترل داده‌ها پذیرفتنی است.

نظرتان را ثبت کنید کد خبر: 56757 گروه خبری: اخبار نرم افزار منبع خبر: XDA Developers تاریخ خبر: 1405/08/21 تعداد مشاهده: 24
اخبار مرتبط با این خبر
نظر های کاربران
سرور آپدیت نود 32
پیشنهاد سافت گذر
Your Smart Cleaner Pro 4.0 For Android +4.1

Your Smart Cleaner Pro 4.0 For Android +4.1

پاک سازی هوشمند

4 جلسه سخنرانی دکتر رفیعی با موضوع پیام های اخلاقی در نامه های امام حسین(ع)

4 جلسه سخنرانی دکتر رفیعی با موضوع پیام های اخلاقی در نامه های امام حسین(ع)

سخنرانی پیام های اخلاقی در نامه های امام حسین(ع) با ناصر رفیعی

Eclipse IDE for Enterprise Java Developers / Eclipse IDE for C/C++ Developers 2025-09

Eclipse IDE for Enterprise Java Developers / Eclipse IDE for C/C++ Developers 2025-09

نرم افزار محیط برنامه نویسی جاوا و C/C++

Xara Web Designer+ 25.0.1.71944

Xara Web Designer+ 25.0.1.71944

طراحی سایت

آموزش شبکه در VMware WorkStation

آموزش شبکه در VMware WorkStation

آموزش شبکه در وی ام ویر

آموختن و یادگیری

آموختن و یادگیری

مطالعه با کیفیت و ماندگار

فضائل ابن شاذان

فضائل ابن شاذان

صد فضیلت از فضائل امیر المومنین و اهل بیت علیهم السلام

تحریفات در واقعه تاریخی کربلا

تحریفات در واقعه تاریخی کربلا

Husaynian Epic

گلچین مولودی ولادت حضرت ابالفضل (علیه السلام)

گلچین مولودی ولادت حضرت ابالفضل (علیه السلام)

ولادت حضزت عباس علیه السلام

Listary Pro 6.3.5.94

Listary Pro 6.3.5.94

نرم افزار جستجوی پیشرفته فایل ها

زندگانی ابومخنف

زندگانی ابومخنف

ابومِخنَف تاریخ‌نگار شیعه

InShot Video Editor 2.175.1517 For Android +7.0

InShot Video Editor 2.175.1517 For Android +7.0

ویرایش گر عکس اینشات

آرایش و پوشش

آرایش و پوشش

آرایشگری

گلچین سخنرانی وفات جضرت زینب س

گلچین سخنرانی وفات جضرت زینب س

سخنرانی وفات حضرت زینب

Shield Antivirus Pro 5.5.0

Shield Antivirus Pro 5.5.0

آنتی ویروس شیلد

طریقه اشتراک  اینترنت از طریق وایرلس

طریقه اشتراک اینترنت از طریق وایرلس

آموزش اشتراک گذاری اینترنت بین لپ تاپ و گوشی موبایل از طریق Wireless

EaseUS Data Recovery Wizard Technician 17.0.0.0 Build 20231121 + WinPE / macOS

EaseUS Data Recovery Wizard Technician 17.0.0.0 Build 20231121 + WinPE / macOS

بازیابی فایل ها و پارتیشن ها

Chess 2 - The Sequel

Chess 2 - The Sequel

شطرنج 2 - دنباله

Acronis Backup Advanced 11.7.50230 + Bootable ISO

Acronis Backup Advanced 11.7.50230 + Bootable ISO

اکرونیس بکاپ ریکاوری

Aiseesoft Blu-ray Player 6.7.76

Aiseesoft Blu-ray Player 6.7.76

پخش کننده بلوری

آموزش بازاریابی شبکه‌های اجتماعی

آموزش بازاریابی شبکه‌های اجتماعی

تبلیغات در شبکه‌ اجتماعی

Pegasun System Utilities 8.4 Multilingual

Pegasun System Utilities 8.4 Multilingual

بهینه ساز ویندوز

System Mechanic Ultimate Defense 27.1.1.5

System Mechanic Ultimate Defense 27.1.1.5

بهینه ساز ویندوز سیستم مکانیک

گام به گام Entity Framework 4.0 And ASP.NET Web Forms

گام به گام Entity Framework 4.0 And ASP.NET Web Forms

آموزش ASP.NET Web

Handball 16

Handball 16

هندبال 16

آشنایی با داعش

آشنایی با داعش

ISIS tragedy

Cabela's Dangerous Hunts 2013

Cabela's Dangerous Hunts 2013

شکارهای خطرناک 2013

Faces 4.0

Faces 4.0

قویترین نرم افزار چهره نگاری (مورد استفاده نیروهای پلیس و امنیتی مانند FBI، CIA و ارتش ایالات متحده)

O&O ShutUp10 Premium Edition 3.7.1143

O&O ShutUp10 Premium Edition 3.7.1143

تنظیمات حریم خصوصی ویندوز 10 و 11

XnRetro Pro 1.86 for Android +2.2

XnRetro Pro 1.86 for Android +2.2

افکت گذاری تصاویر

سلامت الکترونیک

سلامت الکترونیک

آشنایی با سلامت و الکترونیک

کنترل ویندوز 10 را بدست بگیرید

کنترل ویندوز 10 را بدست بگیرید

آموزش ویندوز 10 و ترفندهای آن

سخنرانی حجت الاسلام جعفر ناصری با موضوع تکیه بر صبر و مدیریت هوای نفس

سخنرانی حجت الاسلام جعفر ناصری با موضوع تکیه بر صبر و مدیریت هوای نفس

حاج آقا جعفر ناصری با موضوع تکیه بر صبر و مدیریت هوای نفس

Harry Potter 4

Harry Potter 4

هری پاتر برای کامپیوتر

Trial-Reset 4.0 Final Fixed

Trial-Reset 4.0 Final Fixed

تریال ریست

آموزش تصویری PSpice

آموزش تصویری PSpice

آموزش پی اس پایس

Murder on the Orient Express

Murder on the Orient Express

هرکول پوآرو

Sonic Jump 2.0.3 for Android +2.3

Sonic Jump 2.0.3 for Android +2.3

بازی جدید سونیک برای تمامی پردازنده های گرافیکی

Autodesk Inventor Pro 2014 SP1 + SP2 x86/x64

Autodesk Inventor Pro 2014 SP1 + SP2 x86/x64

قویترین نرم افزار مدلینگ و جایگزین Mechanical Desktop

LipseUI 1.8 for Android +4.0

LipseUI 1.8 for Android +4.0

آیکون اندروید

خبرنامه

با عضویت در خبرنامه، زودتر از همه باخبر باش!