سافت گذر دانشنامه نرم افزار - دانلود رایگان نرم افزار

اطلاعیه های مهم سایت اطلاعیه های مهم سایت
💐 میلاد زینت پدر حضرت زینب سلام الله علیها مبارک باد 💐
 
 
  1. جهت رفع مشکل باز شدن سایت به دلیل بلاک توسط  نود 32 این ویدیو یا این ویدیو(ورژن 9 به بالا) یا راهنمای تصویری را مشاهده کنید
  2. به مناسبت عید غدیر، در سایت https://esetupdate.ir/ تخفیف ویژه‌ای برای محصولات در نظر گرفته شده است؛ فرصت را از دست ندهید. 🌸
  3. اکانت های بروزرسانی نود32 با قیمت های مناسب به صورت یک ، سه ، شش و دوازده ماهه از اینجا قابل خرید می باشد.

نرم افزار های پرکاربرد

ثبت نام | ورود
wepido.ir

مدل هوش مصنوعی ۲۹ مگابایتی Needle 3 روی رزبری پای ۵ بدون AI HAT

مدل هوش مصنوعی ۲۹ مگابایتی Needle 3 روی رزبری پای ۵ بدون AI HAT

در دنیای هوش مصنوعی لبه (Edge AI)، اجرای مدل‌های زبانی روی سخت‌افزارهای کم‌توان همیشه چالش‌برانگیز است. اما مدل Needle 3 از شرکت Cactus Compute نشان می‌دهد که می‌توان با تنها ۲۹ مگابایت حافظه، رزبری پای ۵ را به یک ابزار خودکارسازی توانمند تبدیل کرد؛ آن هم بدون نیاز به سخت‌افزار جانبی AI HAT.

Needle 3 چیست و چه تفاوتی با LLMهای معمول دارد؟

مدل‌های زبانی بزرگ (LLM) معمولاً برای پاسخ‌دهی در رابط چت به میلیاردها پارامتر نیاز دارند. همین موضوع باعث می‌شود حتی مدل‌های سبک ۳ تا ۴ میلیارد پارامتری نیز روی سیستم‌هایی مانند رزبری پای با سرعت کمتر از ۱۰ توکن بر ثانیه اجرا شوند. در مقابل، Needle 3 قابلیت چت عمومی را کنار گذاشته و بر وظایف سطح ماشین تمرکز می‌کند.

  • فراخوانی ابزار (Tool Calling) برای سرویس‌های مختلف
  • تبدیل داده‌های بدون ساختار به قالب JSON
  • تولید فضای برداری (Vector Space) از ورودی‌های متنی

این سه قابلیت به Needle 3 اجازه می‌دهد بدون سربار محاسباتی معمول چت‌بات‌ها، وظایف متداول هوش مصنوعی را انجام دهد. معماری نردبانی قابل برش (Sliceable Ladder Architecture) این مدل نیز امکان انتخاب زیرشبکه‌هایی از ۲ تا ۲۰ لایه را بر اساس توان سیستم فراهم می‌کند.

اجرا روی رزبری پای ۵ و DietPi

در این آزمایش، از رزبری پای ۵ مدل ۸ گیگابایتی استفاده شده است. برای سیستم‌عامل، ابتدا Raspberry Pi OS Lite مدنظر بود، اما به دلیل ردپای کوچک‌تر DietPi، این توزیع انتخاب شد. تلاش برای اجرای Needle 3 روی رزبری پای زیرو نسل اول به دلیل عدم پشتیبانی مدل از معماری قدیمی ARMv6 با خطا مواجه شد.

راه‌اندازی روی رزبری پای ۵ نسبتاً ساده بود. ابتدا بسته‌های لازم با دستور sudo apt install -y python3-venv python3-pip git نصب شدند. سپس یک محیط مجازی پایتون (Python Virtual Environment) با دستور python3 -m venv ~/needle-env ایجاد و با source ~/needle-env/bin/activate فعال شد. در ادامه، محیط اجرایی با pip install cactus-needle دریافت شد و پس از چند تلاش، نصب بسته‌های تکمیلی مانند numpy، sentencepiece، jax، flax، requests و python-dotenv نیز انجام گرفت.

ساخت مدل با دستور needle build --platform linux-arm64 --layers 20 --out ./pi بدون مشکل انجام شد. برای پرچم --layers هر ۲۰ لایه انتخاب شد، اما در صورت استفاده از یک میکروکنترلر ضعیف‌تر می‌توان تعداد لایه‌ها را تا ۲ کاهش داد.

اتصال به Home Assistant و فراخوانی ابزار

یکی از جذاب‌ترین بخش‌های Needle 3، قابلیت فراخوانی ابزار است. این مدل با سرویس‌های خودمیزبان (Self-Hosted) نیز کار می‌کند و مستندات رسمی، خودکارسازی خانه هوشمند محلی را یکی از کاربردهای آن معرفی کرده است. برای اتصال به Home Assistant، فایل .needle-ha.env با آدرس سرور و یک توکن دسترسی طولانی‌مدت (Long-Lived Access Token) ساخته شد.

سپس با یک اسکریپت پایتون، ابزاری برای کنترل یک پریز هوشمند (Smart Plug) تعریف شد. اجرای این اسکریپت باعث می‌شود Needle 3 درخواست کاربر را دریافت کند و ابزار مناسب را فراخوانی کند. در آزمایش انجام‌شده، مدل بدون مشکل دستور را درک کرد و دستگاه بی‌درنگ روشن شد.

از نظر عملکرد، ترکیب رزبری پای ۵ و Needle 3 توانست نرخ رمزگشایی (Decode Rate) ۲۸۰.۲ توکن بر ثانیه و نرخ پیش‌پردازش (Prefill Rate) ۹۹۶.۴ توکن بر ثانیه را ثبت کند که برای وظایف هوش مصنوعی لبه بسیار چشمگیر است.

قابلیت سفارشی‌سازی و کاربردهای آینده

در حال حاضر Needle 3 تنها یک اقدام ساده را انجام می‌دهد، اما بخش اصلی ماجرا زمانی آغاز می‌شود که ابزارهای بیشتری به فایل پایتون اضافه شوند. می‌توان ابزارهایی برای دستگاه‌های هوشمند متعارف، ماژول‌های حسگر، محصولات اینترنت اشیای DIY مبتنی بر ESP32 و حتی سرویس‌های متن‌باز (FOSS) که Home Assistant آن‌ها را به عنوان موجودیت (Entity) می‌شناسد، تعریف کرد.

همچنین می‌توان Home Assistant را کنار گذاشت و از Needle 3 برای تحلیل اسناد، ایمیل‌ها و صفحات گسترده استفاده کرد. حتی می‌توان با رویکرد داکر (Docker)، جنبه‌های مختلف یک ایستگاه کاری خودمیزبان را در اختیار این مدل لبه قرار داد. البته ساخت کد لازم برای همه این ابزارها زمان‌بر است، اما عملکرد فوق‌العاده Needle 3 این تلاش اضافه را توجیه می‌کند.

در مجموع، Needle 3 با وجود نیاز به تنظیمات پایتون، یک مدل هوش مصنوعی فوق‌سبک و کارآمد برای خودکارسازی محلی روی رزبری پای ۵ است؛ مدلی که بدون AI HAT و با حداقل منابع، کارهای تخصصی را به سرانجام می‌رساند.

نظرتان را ثبت کنید کد خبر: 55417 گروه خبری: اخبار نرم افزار منبع خبر: XDA Developers تاریخ خبر: 1405/07/19 تعداد مشاهده: 85
اخبار مرتبط با این خبر
نظر های کاربران
سرور آپدیت نود 32
پیشنهاد سافت گذر
SnapTube 7.69.1.76903901 For Android +5.0

SnapTube 7.69.1.76903901 For Android +5.0

دانلود فیلم از یوتیوب و 15 سایت دیگر

تفسیر صوتی سوره زلزال و عادیات

تفسیر صوتی سوره زلزال و عادیات

تفسیر سوره عادیات از حجت الاسلام قرائتی

مداحی حاج مهدی اکبری سال 98

مداحی حاج مهدی اکبری سال 98

محرم شب اول تا شام غریبان اکبری

آموزش ویندوزفون

آموزش ویندوزفون

Windows Phone

Battle Fleet 2 Atlantic Campaign

Battle Fleet 2 Atlantic Campaign

نبرد کشتی‌های جنگی 2 - عملیات اقیانوس اطلس

Parking Car 2.1 for Android

Parking Car 2.1 for Android

پارکینگ ماشین ها برای آندروید

آموزش نرم افزار DVD Lab Pro 2.5

آموزش نرم افزار DVD Lab Pro 2.5

آموزش دی وی دی لب پرو

Learning travel marketing, tourism economics

Learning travel marketing, tourism economics

آشنایی با صنعت توریسم و گردشگری تجاری

Real Heroes Firefighter HD v1.02

Real Heroes Firefighter HD v1.02

شبیه‌ساز آتش‌نشانی

آموزش Microsoft Azure

آموزش Microsoft Azure

مایکروسافت آژور

آموزش برنامه نویسی به زبان اسمبلی

آموزش برنامه نویسی به زبان اسمبلی

آشنایی با برنامه نویسی به زبان Assembly برای کامپیوترهای شخصی

Symantec Endpoint Protection 14.5.172.0000 Full Win/Mac/Linux

Symantec Endpoint Protection 14.5.172.0000 Full Win/Mac/Linux

سیمانتک آنتی ویروس

Stardock Start8 v1.56 / Start10 v1.0

Stardock Start8 v1.56 / Start10 v1.0

بهترین نرم افزار بازگشت منوی استارت ویندوز 8

Udemy - Adobe Illustrator CC - Advanced Training Course

Udemy - Adobe Illustrator CC - Advanced Training Course

آموزش ادوبی ایلاستریتور سطح پیشرفته

AutoPlay Media Studio 9.0.1 + Portable

AutoPlay Media Studio 9.0.1 + Portable

بهترین برنامه برای ساخت اتوران‌های حرفه ای

آموزش ماکرو مدیا فلش

آموزش ماکرو مدیا فلش

آشنایی با نرم افزار Flash Macromedia

مجله تخصصی موتورسیکلت

مجله تخصصی موتورسیکلت

مجله Australian Motorcycle News سوم دسامبر 2020

Daddy Was A Thief 2.2.0 for Android +2.3

Daddy Was A Thief 2.2.0 for Android +2.3

بازی فرار مجرم!

Snapclear 2.1.0 (x64)

Snapclear 2.1.0 (x64)

حذف پس‌ زمینه عکس با هوش مصنوعی

Udemy - 100 Days of Code: The Complete Python Pro Bootcamp

Udemy - 100 Days of Code: The Complete Python Pro Bootcamp

آموزش پایتون

17 جلسه کنترل ذهن در مسیر تقرّب از حجت الاسلام والمسلمین پناهیان

17 جلسه کنترل ذهن در مسیر تقرّب از حجت الاسلام والمسلمین پناهیان

حاج آقا پناهیان با موضوع کنترل ذهن در مسیر تقرّب

رمزبان بانک ملی نسخه 2.1.1 برای اندروید 4.2+

رمزبان بانک ملی نسخه 2.1.1 برای اندروید 4.2+

رمز بان

Story about the garish sun and arid soil of the Hindoo

Story about the garish sun and arid soil of the Hindoo

افسانه های هند

هفته‌نامه افق 682

هفته‌نامه افق 682

افق حوزه 682

مکالمات حسنیه

مکالمات حسنیه

حسنیه

آشنایی با سیستم عامل IOS

آشنایی با سیستم عامل IOS

آموزش آی او اس

پیام رسان آی گپ iGap نسخه 5.2.1 برای اندروید

پیام رسان آی گپ iGap نسخه 5.2.1 برای اندروید

آی گپ اندروید

تلاوت معروف استاد شحات محمد انور سوره مبارکه حمد

تلاوت معروف استاد شحات محمد انور سوره مبارکه حمد

تلاوت تصویری شحات انور سوره حمد

F1 2014

F1 2014

فرمول یک 2014

آخرین روزهای زندگی استالین

آخرین روزهای زندگی استالین

Secrets of Stalin's death

قوانین پیمان زناشویی

قوانین پیمان زناشویی

احکام ازدواج در اسلام

Foxit PDF Editor Pro ( PhantomPDF ) 2026.2.1.39815 / 14.0.8.33807

Foxit PDF Editor Pro ( PhantomPDF ) 2026.2.1.39815 / 14.0.8.33807

ویرایش پی دی اف

Elden Ring Nightreign + Updates

Elden Ring Nightreign + Updates

الدن رینگ نایترین

Alpha Runner

Alpha Runner

دونده‌ی آلفا

تلاوت مجلسی استاد حاج احمد ابوالقاسمی سوره مبارکه انفطار

تلاوت مجلسی استاد حاج احمد ابوالقاسمی سوره مبارکه انفطار

تلاوت ابوالقاسمی سوره انفطار

امنیت در سیستم عامل ویندوز ۱۰

امنیت در سیستم عامل ویندوز ۱۰

امنیت ویندوز ۱۰

5 جلسه تأثیر دین در زندگی از حجت الاسلام والمسلمین پناهیان

5 جلسه تأثیر دین در زندگی از حجت الاسلام والمسلمین پناهیان

حاج آقا پناهیان با موضوع تأثیر دین در زندگی

فیلم مستند فروشنده کاری از گروه مستندسازی فانوس فردا

فیلم مستند فروشنده کاری از گروه مستندسازی فانوس فردا

فیلم مستند فروشنده

صلوات و ثمرات آن

صلوات و ثمرات آن

کتاب صلوات و ثمرات آن

اعجاز پیام قرآن

اعجاز پیام قرآن

معجزه قرآن

خبرنامه

با عضویت در خبرنامه، زودتر از همه باخبر باش!