سافت گذر دانشنامه نرم افزار - دانلود رایگان نرم افزار

اطلاعیه های مهم سایت اطلاعیه های مهم سایت
💐 میلاد زینت پدر حضرت زینب سلام الله علیها مبارک باد 💐
 
 
  1. جهت رفع مشکل باز شدن سایت به دلیل بلاک توسط  نود 32 این ویدیو یا این ویدیو(ورژن 9 به بالا) یا راهنمای تصویری را مشاهده کنید
  2. به مناسبت عید غدیر، در سایت https://esetupdate.ir/ تخفیف ویژه‌ای برای محصولات در نظر گرفته شده است؛ فرصت را از دست ندهید. 🌸
  3. اکانت های بروزرسانی نود32 با قیمت های مناسب به صورت یک ، سه ، شش و دوازده ماهه از اینجا قابل خرید می باشد.

نرم افزار های پرکاربرد

ثبت نام | ورود
wepido.ir

رزبری‌پای ۵ با مدل‌های هوش مصنوعی لبه، جایگزین مدل‌های ابری در نیمی از پروژه‌ها

رزبری‌پای ۵ با مدل‌های هوش مصنوعی لبه، جایگزین مدل‌های ابری در نیمی از پروژه‌ها

وقتی صحبت از اجرای محلی مدل‌های هوش مصنوعی می‌شود، معمولاً سرورهای حجیم مجهز به کارت‌های گرافیک قدرتمند به ذهن می‌آید. اما تجربه‌های عملی نشان می‌دهد مدل‌های زبانی بزرگ (Large Language Models) با ده‌ها میلیارد پارامتر تنها گزینه برای برآورده کردن نیازهای بهره‌وری نیستند. بسته به نوع وظیفه، حتی یک رزبری‌پای ۵ به عنوان یک برد تک‌برد (Single-Board Computer) هم می‌تواند ابزارهای هوش مصنوعی لبه (Edge AI) مفیدی را اجرا کند.

Gemma 4 E2B و E4B روی رزبری‌پای ۵

مدل‌های کم‌پارامتر معمولاً به توان استدلال محدود و تمایل به ورود به حلقه‌های توهم (Hallucination) در پاسخ به حتی پرسش‌های ساده شهرت دارند. با این حال، خانواده Gemma 4 استثناست. مدل‌های E2B و E4B در این خانواده می‌توانند در برابر اپلیکیشن‌های بهره‌وری متعارف عمل کنند.

این مدل‌ها معماری ویژه‌ای دارند: هر لایه رمزگشایی جدول تعبیه‌سازی اختصاصی (Per-Layer Embedding Table) دارد تا به جای محاسبات پیچیده برای هر پرس‌وجو، جست‌وجوی سریع انجام شود. E2B در مجموع ۵.۱ میلیارد پارامتر دارد اما تنها ۲.۳ میلیارد پارامتر محاسباتی فعال دارد. E4B نیز با ۸ میلیارد پارامتر کل، در استنتاج فعال مانند مدلی با ۴.۵ میلیارد پارامتر رفتار می‌کند.

با موتور استنتاج llama.cpp، یک رزبری‌پای ۵ با ۸ گیگابایت رم می‌تواند Gemma 4 E2B را با سرعت ۵.۸ تا ۶.۵ توکن بر ثانیه (tokens/second) اجرا کند؛ آن هم در حالی که فایل پروجکتور چندوجهی (Multi-Modal Projector) برای تشخیص تصویر فعال است. Gemma 4 E4B کندتر است و روی این برد تنها ۲.۵ تا ۳ توکن بر ثانیه تولید می‌کند.

این سرعت برای گفت‌وگوی معمولی یا کدنویسی پیچیده کافی نیست، اما برای خلاصه‌سازی نشانک‌های Karakeep، انجام اسکن OCR روی Paperless-GPT یا برچسب‌گذاری خودکار یادداشت‌های Blinko بیش از اندازه کافی است. به این ترتیب، یک نمونه Gemma 4 E4B یا حتی E2B روی رزبری‌پای ۵ می‌تواند جای ChatGPT و دیگر پلتفرم‌های ابری را در این وظایف بگیرد.

Needle 3؛ مدل تخصصی برای فراخوانی ابزار و خودکارسازی

Cactus Compute Needle 3 یکی از مدل‌های تازه‌ای است که روی رزبری‌پای ۵ آزمایش شده و به روشی محبوب برای اجرای وظایف هوش مصنوعی روی این برد تبدیل شده است. این مدل یک LLM همه‌منظوره نیست؛ قابلیت گفت‌وگو و تولید متن باز را کنار می‌گذارد و به عنوان مدلی تخصصی فقط برای فراخوانی ابزار (Tool Calls)، استخراج فیلدهای داده و ساخت تعبیه‌های متنی (Text Embeddings) عمل می‌کند.

Needle 3 حداکثر ۱۲۱ میلیون پارامتر دارد و به لطف طراحی لایه‌ای، می‌توان زیرشبکه‌هایی با عمق کمتر را برای صرفه‌جویی در منابع روی دستگاه‌های بسیار کم‌رم، از جمله میکروکنترلرها، مستقر کرد. این مدل روی رزبری‌پای زیرو نسل اول به دلیل معماری پردازنده قدیمی اجرا نشد، اما روی رزبری‌پای ۵ عملکرد خوبی دارد.

در یک آزمایش، یک فایل پایتون ساده برای اتصال Needle 3 به Home Assistant و کنترل یک پریز هوشمند ساخته شد. پس از دادن اسکریپت به نمونه Needle 3 با هر ۲۰ لایه و اجرای یک پرس‌وجوی گفت‌وگویی برای روشن کردن پریز، مدل بلافاصله خودکارسازی درست را اجرا کرد؛ با نرخ رمزگشایی ۲۸۰.۲ توکن بر ثانیه و مقدار پیش‌پرکردن (Prefill) برابر ۹۹۶.۴ توکن بر ثانیه. فرمان‌های مدیریت Docker و دیگر فراخوانی‌های ابزار Home Assistant نیز تا زمانی که تنظیمات پایتون درست بود، بی‌مشکل کار کردند. استفاده از آن به آسانی LLMها نیست، اما برای کسانی که حاضرند کد پایتون سفارشی بنویسند، ترکیب رزبری‌پای و Needle 3 گزینه‌ای کارآمد برای خودکارسازی‌های مبتنی بر هوش مصنوعی است.

مدل‌های Embedding و YOLO

رزبری‌پای همچنین می‌تواند به عنوان گره ثانویه سرور خانگی، مدل‌های تعبیه‌سازی (Embedding Models) را اجرا کند. این مدل‌ها متن و تصویر را به بردارهای عددی تبدیل می‌کنند و ورودی‌های مشابه را در فضای چندبعدی کنار هم قرار می‌دهند. اپلیکیشن‌هایی که از تولید افزوده با بازیابی (Retrieval-Augmented Generation) پشتیبانی می‌کنند، از این نگاشت‌های برداری برای تزریق زمینه اضافی به LLM استفاده می‌کنند تا پاسخ‌ها دقیق‌تر شوند و احتمال توهم کاهش یابد.

در یک آزمایشگاه خانگی، Paperless-ngx، Open Notebook و Blinko برای دریافت اطلاعات از اسناد و یادداشت‌ها به مدل‌های Embedding وابسته‌اند. کاربر گاهی از nomic-embed-1.5 روی رزبری‌پای ۵ برای ساخت این نگاشت‌های برداری استفاده می‌کرده است. همچنین کیت هوش مصنوعی رزبری‌پای (Raspberry Pi AI Kit) از LLMهای معمول پشتیبانی نمی‌کند، اما می‌تواند YOLOv8 را برای تشخیص اشیاء (Object Detection) ساده در تصاویر دوربین‌های امنیتی و سرور Frigate اجرا کند.

نظرتان را ثبت کنید کد خبر: 56001 گروه خبری: اخبار نرم افزار منبع خبر: XDA Developers تاریخ خبر: 1405/07/30 تعداد مشاهده: 67
اخبار مرتبط با این خبر
نظر های کاربران
سرور آپدیت نود 32
پیشنهاد سافت گذر
Google Maps 26.42.02.997557324 For Android +8.0

Google Maps 26.42.02.997557324 For Android +8.0

گوگل مپس

Portable Diner Dash 2

Portable Diner Dash 2

سرعت عمل در رستوران 2 نسخه پورتابل

ولایت امیر المومنین علیه السلام

ولایت امیر المومنین علیه السلام

خطابه‌های آیت‌ الله العظمی وحید خراسانی

Chronicle Keepers - The Dreaming Garden

Chronicle Keepers - The Dreaming Garden

نگهبانان تاریخ - باغ رویایی

Search Duplicate File 4.119 for Android +2.2.3

Search Duplicate File 4.119 for Android +2.2.3

جستجوی فایل تکراری

The Occupation + Updates

The Occupation + Updates

معمایی

R-Studio 9.5 Build 191861 Technician + Network + BootCD + WinPE

R-Studio 9.5 Build 191861 Technician + Network + BootCD + WinPE

آر استودیو

9 جلسه شرح فرازهایی از دعای ابوحمزه ثمالی از حجت الاسلام والمسلمین سید عبدالله فاطمی نیا

9 جلسه شرح فرازهایی از دعای ابوحمزه ثمالی از حجت الاسلام والمسلمین سید عبدالله فاطمی نیا

حاج آقا فاطمی نیا با موضوع شرح فرازهایی از دعای ابوحمزه ثمالی

BlueStacks 5.22.288.1014

BlueStacks 5.22.288.1014

بلواستکس

Ashampoo Driver Updater 2.6.2

Ashampoo Driver Updater 2.6.2

آپدیت خودکار درایورها

XAMPP 8.2.12 Win/Mac/Linux + add-ons

XAMPP 8.2.12 Win/Mac/Linux + add-ons

شبیه ساز وب Local بر روی ویندوز

همراه بانک پاسارگاد 12.3.1 برای اندروید

همراه بانک پاسارگاد 12.3.1 برای اندروید

همراه بانک پاسارگاد

بررسی و رد شبهات زیارت عاشورا

بررسی و رد شبهات زیارت عاشورا

اهمیت زیارت عاشورا در نزد شیعیان

Pinball FX2 - Star Wars Pinball Rogue One

Pinball FX2 - Star Wars Pinball Rogue One

پین بال اف ایکس جنگ ستارگان

کلیدهای میانبر متداول در ویندوز

کلیدهای میانبر متداول در ویندوز

کلید میانبر ویندوز

CBT Nuggets - Microsoft SharePoint Server 2013 70-331

CBT Nuggets - Microsoft SharePoint Server 2013 70-331

فیلم آموزش مایکروسافت شِـیرپوینت سـروِر 2013 - آزمون 331-70

Pop-Up Card Designer 4.0.0

Pop-Up Card Designer 4.0.0

طراحی کارت سه‌بعدی پاپ‌آپ

پیام رسان گپ 12.8.2 برای اندروید

پیام رسان گپ 12.8.2 برای اندروید

گپ

نخستین گزارش مستند از نهضت عاشورا

نخستین گزارش مستند از نهضت عاشورا

مقتل الحسین علیه السلام تالیف ابی مخنف

Adobe Illustrator CC 17.0.0 / 2014 v18.0.0 + Portable

Adobe Illustrator CC 17.0.0 / 2014 v18.0.0 + Portable

نسخه CC بهترین نرم افزار طراحی تصاویر به صورت وکتور

آموزش نرم افزار اتوکد 2012

آموزش نرم افزار اتوکد 2012

آشنایی با نرم افزار AutoCAD 2012

راهکارها و ابزارهای فرهنگی

راهکارها و ابزارهای فرهنگی

دیپلماسی فرهنگی و جایگاه آن در سیاست خارجی کشورها

Portable Adobe Premiere Pro CS4 v4.2.1

Portable Adobe Premiere Pro CS4 v4.2.1

نسخه پرتابل قویترین و حرفه ای ترین نرم افزار ویرایش و میکس و مونتاژ فیلم

InfiniteSkills – Learning Revit Structure 2014

InfiniteSkills – Learning Revit Structure 2014

فیلم آموزش نرم افزار مهندسی رِویـت استراکچر 2014

آموزش نرم افزار معماری LUMION

آموزش نرم افزار معماری LUMION

لیمون

Clean Widgets 4.4 for Android

Clean Widgets 4.4 for Android

ویجت اندروید

آموزش نرم افزار دایرباستر در لینوکس

آموزش نرم افزار دایرباستر در لینوکس

نرم افزار Dirbuster

تبدیل عکس و PDF به Word latest version

تبدیل عکس و PDF به Word latest version

تبدیل عکس و PDF به Word

Enter the Gungeon - A Farewell to Arms

Enter the Gungeon - A Farewell to Arms

اکشن دوبعدی برای کامپیوتر

MixBooth 2.2 for Android +2.3

MixBooth 2.2 for Android +2.3

نرم افزار فوق العاده ترکیب تصاویر

راز داوینچی یا کُد داوینچی

راز داوینچی یا کُد داوینچی

قسمت دوم از سه‌گانهٔ براون

چهل روایت در مورد امام زمان علیه السلام

چهل روایت در مورد امام زمان علیه السلام

ماءِ مَعین تالیف حجت الاسلام والمسلمین هاشمی نژاد

Gravity Ghost

Gravity Ghost

سرگردان در کهکشان

آشنایی با بیش از 5000 اصطلاح ورزشی

آشنایی با بیش از 5000 اصطلاح ورزشی

دیکشنری لغات و اصطلاحات ورزشی

معرفی نرم افزار Idrisi 32

معرفی نرم افزار Idrisi 32

معرفی ایدریسی 32

Hellbound

Hellbound

اکشن تفنگی برای کامپیوتر

قدم بعدی در راه تکامل شخصی

قدم بعدی در راه تکامل شخصی

تغییراتی ضروری در جهان درون خود

طراحی الگوریتم

طراحی الگوریتم

مقدمه ای بر طراحی و تحلیل الگوریتم ها

OPUS Rocket of Whispers

OPUS Rocket of Whispers

فکری و معمایی

نظریه فطری بودن دین

نظریه فطری بودن دین

علل پیدایش دین

خبرنامه

با عضویت در خبرنامه، زودتر از همه باخبر باش!