سافت گذر دانشنامه نرم افزار - دانلود رایگان نرم افزار

اطلاعیه های مهم سایت اطلاعیه های مهم سایت
💐 میلاد زینت پدر حضرت زینب سلام الله علیها مبارک باد 💐
 
 
  1. جهت رفع مشکل باز شدن سایت به دلیل بلاک توسط  نود 32 این ویدیو یا این ویدیو(ورژن 9 به بالا) یا راهنمای تصویری را مشاهده کنید
  2. به مناسبت عید غدیر، در سایت https://esetupdate.ir/ تخفیف ویژه‌ای برای محصولات در نظر گرفته شده است؛ فرصت را از دست ندهید. 🌸
  3. اکانت های بروزرسانی نود32 با قیمت های مناسب به صورت یک ، سه ، شش و دوازده ماهه از اینجا قابل خرید می باشد.

نرم افزار های پرکاربرد

ثبت نام | ورود
wepido.ir

رزبری‌پای ۵ با مدل‌های هوش مصنوعی لبه، جایگزین مدل‌های ابری در نیمی از پروژه‌ها

رزبری‌پای ۵ با مدل‌های هوش مصنوعی لبه، جایگزین مدل‌های ابری در نیمی از پروژه‌ها

وقتی صحبت از اجرای محلی مدل‌های هوش مصنوعی می‌شود، معمولاً سرورهای حجیم مجهز به کارت‌های گرافیک قدرتمند به ذهن می‌آید. اما تجربه‌های عملی نشان می‌دهد مدل‌های زبانی بزرگ (Large Language Models) با ده‌ها میلیارد پارامتر تنها گزینه برای برآورده کردن نیازهای بهره‌وری نیستند. بسته به نوع وظیفه، حتی یک رزبری‌پای ۵ به عنوان یک برد تک‌برد (Single-Board Computer) هم می‌تواند ابزارهای هوش مصنوعی لبه (Edge AI) مفیدی را اجرا کند.

Gemma 4 E2B و E4B روی رزبری‌پای ۵

مدل‌های کم‌پارامتر معمولاً به توان استدلال محدود و تمایل به ورود به حلقه‌های توهم (Hallucination) در پاسخ به حتی پرسش‌های ساده شهرت دارند. با این حال، خانواده Gemma 4 استثناست. مدل‌های E2B و E4B در این خانواده می‌توانند در برابر اپلیکیشن‌های بهره‌وری متعارف عمل کنند.

این مدل‌ها معماری ویژه‌ای دارند: هر لایه رمزگشایی جدول تعبیه‌سازی اختصاصی (Per-Layer Embedding Table) دارد تا به جای محاسبات پیچیده برای هر پرس‌وجو، جست‌وجوی سریع انجام شود. E2B در مجموع ۵.۱ میلیارد پارامتر دارد اما تنها ۲.۳ میلیارد پارامتر محاسباتی فعال دارد. E4B نیز با ۸ میلیارد پارامتر کل، در استنتاج فعال مانند مدلی با ۴.۵ میلیارد پارامتر رفتار می‌کند.

با موتور استنتاج llama.cpp، یک رزبری‌پای ۵ با ۸ گیگابایت رم می‌تواند Gemma 4 E2B را با سرعت ۵.۸ تا ۶.۵ توکن بر ثانیه (tokens/second) اجرا کند؛ آن هم در حالی که فایل پروجکتور چندوجهی (Multi-Modal Projector) برای تشخیص تصویر فعال است. Gemma 4 E4B کندتر است و روی این برد تنها ۲.۵ تا ۳ توکن بر ثانیه تولید می‌کند.

این سرعت برای گفت‌وگوی معمولی یا کدنویسی پیچیده کافی نیست، اما برای خلاصه‌سازی نشانک‌های Karakeep، انجام اسکن OCR روی Paperless-GPT یا برچسب‌گذاری خودکار یادداشت‌های Blinko بیش از اندازه کافی است. به این ترتیب، یک نمونه Gemma 4 E4B یا حتی E2B روی رزبری‌پای ۵ می‌تواند جای ChatGPT و دیگر پلتفرم‌های ابری را در این وظایف بگیرد.

Needle 3؛ مدل تخصصی برای فراخوانی ابزار و خودکارسازی

Cactus Compute Needle 3 یکی از مدل‌های تازه‌ای است که روی رزبری‌پای ۵ آزمایش شده و به روشی محبوب برای اجرای وظایف هوش مصنوعی روی این برد تبدیل شده است. این مدل یک LLM همه‌منظوره نیست؛ قابلیت گفت‌وگو و تولید متن باز را کنار می‌گذارد و به عنوان مدلی تخصصی فقط برای فراخوانی ابزار (Tool Calls)، استخراج فیلدهای داده و ساخت تعبیه‌های متنی (Text Embeddings) عمل می‌کند.

Needle 3 حداکثر ۱۲۱ میلیون پارامتر دارد و به لطف طراحی لایه‌ای، می‌توان زیرشبکه‌هایی با عمق کمتر را برای صرفه‌جویی در منابع روی دستگاه‌های بسیار کم‌رم، از جمله میکروکنترلرها، مستقر کرد. این مدل روی رزبری‌پای زیرو نسل اول به دلیل معماری پردازنده قدیمی اجرا نشد، اما روی رزبری‌پای ۵ عملکرد خوبی دارد.

در یک آزمایش، یک فایل پایتون ساده برای اتصال Needle 3 به Home Assistant و کنترل یک پریز هوشمند ساخته شد. پس از دادن اسکریپت به نمونه Needle 3 با هر ۲۰ لایه و اجرای یک پرس‌وجوی گفت‌وگویی برای روشن کردن پریز، مدل بلافاصله خودکارسازی درست را اجرا کرد؛ با نرخ رمزگشایی ۲۸۰.۲ توکن بر ثانیه و مقدار پیش‌پرکردن (Prefill) برابر ۹۹۶.۴ توکن بر ثانیه. فرمان‌های مدیریت Docker و دیگر فراخوانی‌های ابزار Home Assistant نیز تا زمانی که تنظیمات پایتون درست بود، بی‌مشکل کار کردند. استفاده از آن به آسانی LLMها نیست، اما برای کسانی که حاضرند کد پایتون سفارشی بنویسند، ترکیب رزبری‌پای و Needle 3 گزینه‌ای کارآمد برای خودکارسازی‌های مبتنی بر هوش مصنوعی است.

مدل‌های Embedding و YOLO

رزبری‌پای همچنین می‌تواند به عنوان گره ثانویه سرور خانگی، مدل‌های تعبیه‌سازی (Embedding Models) را اجرا کند. این مدل‌ها متن و تصویر را به بردارهای عددی تبدیل می‌کنند و ورودی‌های مشابه را در فضای چندبعدی کنار هم قرار می‌دهند. اپلیکیشن‌هایی که از تولید افزوده با بازیابی (Retrieval-Augmented Generation) پشتیبانی می‌کنند، از این نگاشت‌های برداری برای تزریق زمینه اضافی به LLM استفاده می‌کنند تا پاسخ‌ها دقیق‌تر شوند و احتمال توهم کاهش یابد.

در یک آزمایشگاه خانگی، Paperless-ngx، Open Notebook و Blinko برای دریافت اطلاعات از اسناد و یادداشت‌ها به مدل‌های Embedding وابسته‌اند. کاربر گاهی از nomic-embed-1.5 روی رزبری‌پای ۵ برای ساخت این نگاشت‌های برداری استفاده می‌کرده است. همچنین کیت هوش مصنوعی رزبری‌پای (Raspberry Pi AI Kit) از LLMهای معمول پشتیبانی نمی‌کند، اما می‌تواند YOLOv8 را برای تشخیص اشیاء (Object Detection) ساده در تصاویر دوربین‌های امنیتی و سرور Frigate اجرا کند.

نظرتان را ثبت کنید کد خبر: 56001 گروه خبری: اخبار نرم افزار منبع خبر: XDA Developers تاریخ خبر: 1405/07/30 تعداد مشاهده: 68
اخبار مرتبط با این خبر
نظر های کاربران
سرور آپدیت نود 32
پیشنهاد سافت گذر
Etcher 1.19.19

Etcher 1.19.19

ساخت دیسک و فلش مموری قابل بوت

JSON Buddy 7.4.4

JSON Buddy 7.4.4

ساخت، ویرایش و مدیریت فایل های جیسون

Murderous Pursuits + Updates

Murderous Pursuits + Updates

اکشن

All-In-One Toolbox Pro 8.3.0 for Android +2.0

All-In-One Toolbox Pro 8.3.0 for Android +2.0

جعبه ابزار

Electrical calculations Pro 7.10.1 For Android +2.3

Electrical calculations Pro 7.10.1 For Android +2.3

ماشین حساب رشته برق

آشنایی با تاریخ پهلوی

آشنایی با تاریخ پهلوی

خاطرات محرمانه اسداله علم

Caravan War 3.0.3 For Android +4.0.3

Caravan War 3.0.3 For Android +4.0.3

جنگ کاروان ها

داده های دیجیتال

داده های دیجیتال

یک مبنا در ارتباطات دیجیتال

همراه بام ملی 4.27.1.639 برای اندروید

همراه بام ملی 4.27.1.639 برای اندروید

همراه بام بانک ملی

Uconomix uMark  6.4

Uconomix uMark 6.4

واترمارک تصاویر

Fall of the Titanic

Fall of the Titanic

کشتی تایتانیک

عجیب‌ترین و احمقانه‌ترین ایده‌های ساختن در ماه

عجیب‌ترین و احمقانه‌ترین ایده‌های ساختن در ماه

زندگی در ماه

آموزش ساختمان داده ها

آموزش ساختمان داده ها

ساختمان داده ها

Alexander the Great

Alexander the Great

اسکندر

Infinite Mini Golf

Infinite Mini Golf

گلف برای کامپیوتر

دانشنامه علمی فارسی زبان ویکی ساده wikisade

دانشنامه علمی فارسی زبان ویکی ساده wikisade

ویکی ساده

دشمنان امیر المومنین و ائمه‌ معصومین علیهم السلام  در قرآن

دشمنان امیر المومنین و ائمه‌ معصومین علیهم السلام در قرآن

آیات کفار و منافقین در قرآن

Udemy - Cell Phone Repair - iPhone 3GS

Udemy - Cell Phone Repair - iPhone 3GS

تعمیرات تلفن همراه - گوشی آیفون 3GS

سخنرانی های آیت الله شهید مطهری بخش هفتم

سخنرانی های آیت الله شهید مطهری بخش هفتم

Morteza Motahari

Encyclopaedia Britannica 2015 Ultimate Edition for Win/Mac

Encyclopaedia Britannica 2015 Ultimate Edition for Win/Mac

کاملترین دائرة المعارف (دانشنامه) علوم مختلف

آموزش نرم افزار Power Designer

آموزش نرم افزار Power Designer

آموزش پاور دیزاینر

تقیه از دیدگاه مذاهب و فرقه های اسلامی غیرشیعی

تقیه از دیدگاه مذاهب و فرقه های اسلامی غیرشیعی

دیدگاه مذاهب و فرقه های اسلامی غیرشیعی درباره تقیه

Lynda - Lighting a Video Interview

Lynda - Lighting a Video Interview

فیلم آموزش نورپردازی صحیح برای تصویربرداری از مصاحبه‌‌ی ویدئویی

تاریخ ایران

تاریخ ایران

سلسله سلاجقه تا آغاز دوره صفویه

Russia World Cup 2018 Instrumental 128kbps + 320Kbps

Russia World Cup 2018 Instrumental 128kbps + 320Kbps

آهنگ های جام جهانی 2018

Dead Cells: Return to Castlevania v20.06.2023

Dead Cells: Return to Castlevania v20.06.2023

دد سلز

ASTRO File Manager Pro 5.0.0 / 8.10.1 for Android +2.3

ASTRO File Manager Pro 5.0.0 / 8.10.1 for Android +2.3

مدیریت فایل استرو

InfiniteSkills - HTML5 Audio And Video

InfiniteSkills - HTML5 Audio And Video

فیلم آموزش قرار دادن و سازماندهی صوت و ویدئو در صفحات وب تحت اچ‌تی‌ام‌ال5

Microsoft ISA Server 2006 Enterprise / Standard Edition + SP1

Microsoft ISA Server 2006 Enterprise / Standard Edition + SP1

نسخه 2006 فایروال مایکروسافت برای ویندوزهای سرور

Yahoo Mail 26.42.0 For Android +9.0

Yahoo Mail 26.42.0 For Android +9.0

ایمیل یاهو

SWF Player - Flash File Viewer 1.72 for Android +2.2

SWF Player - Flash File Viewer 1.72 for Android +2.2

اجرای فایلهای فلش در اندروید

FunCam 4.5 for Android +2.2

FunCam 4.5 for Android +2.2

ایجاد افکت های زیبا بر روی تصاویر

امامت حضرت بقیة‌الله و نقش سازندة عقیده به امامت آن حضرت علیه السلام

امامت حضرت بقیة‌الله و نقش سازندة عقیده به امامت آن حضرت علیه السلام

مهدویت پرسش‌ها و پاسخ‌ها

Immortal Redneck - Infinite Tower

Immortal Redneck - Infinite Tower

اکشن شوتر سه بعدی

MAGIX Sequoia Pro 17.3.0 + Contents

MAGIX Sequoia Pro 17.3.0 + Contents

ویرایش صدا

MultiDrive 1.2

MultiDrive 1.2

کلون‌سازی و پشتیبان‌گیری دیسک

GnuCash 5.14

GnuCash 5.14

حسابداری

Digital Tutors – Introduction to Softimage 2014

Digital Tutors – Introduction to Softimage 2014

فیلم آموزش مبانی نرم افزار سافت ایمیج 2014

Microsoft Windows 7 latest version

Microsoft Windows 7 latest version

دانلود آخرین نسخه ویندوز

Callistics 2.7.1 Premium for Android +2.3

Callistics 2.7.1 Premium for Android +2.3

گزارش تماس، پیام، دیتا

خبرنامه

با عضویت در خبرنامه، زودتر از همه باخبر باش!