سافت گذر دانشنامه نرم افزار - دانلود رایگان نرم افزار

اطلاعیه های مهم سایت اطلاعیه های مهم سایت
💐 میلاد زینت پدر حضرت زینب سلام الله علیها مبارک باد 💐
 
 
  1. جهت رفع مشکل باز شدن سایت به دلیل بلاک توسط  نود 32 این ویدیو یا این ویدیو(ورژن 9 به بالا) یا راهنمای تصویری را مشاهده کنید
  2. به مناسبت عید غدیر، در سایت https://esetupdate.ir/ تخفیف ویژه‌ای برای محصولات در نظر گرفته شده است؛ فرصت را از دست ندهید. 🌸
  3. اکانت های بروزرسانی نود32 با قیمت های مناسب به صورت یک ، سه ، شش و دوازده ماهه از اینجا قابل خرید می باشد.

نرم افزار های پرکاربرد

ثبت نام | ورود
wepido.ir

مدل هوش مصنوعی ۲۹ مگابایتی Needle 3 روی رزبری پای ۵ بدون AI HAT

مدل هوش مصنوعی ۲۹ مگابایتی Needle 3 روی رزبری پای ۵ بدون AI HAT

در دنیای هوش مصنوعی لبه (Edge AI)، اجرای مدل‌های زبانی روی سخت‌افزارهای کم‌توان همیشه چالش‌برانگیز است. اما مدل Needle 3 از شرکت Cactus Compute نشان می‌دهد که می‌توان با تنها ۲۹ مگابایت حافظه، رزبری پای ۵ را به یک ابزار خودکارسازی توانمند تبدیل کرد؛ آن هم بدون نیاز به سخت‌افزار جانبی AI HAT.

Needle 3 چیست و چه تفاوتی با LLMهای معمول دارد؟

مدل‌های زبانی بزرگ (LLM) معمولاً برای پاسخ‌دهی در رابط چت به میلیاردها پارامتر نیاز دارند. همین موضوع باعث می‌شود حتی مدل‌های سبک ۳ تا ۴ میلیارد پارامتری نیز روی سیستم‌هایی مانند رزبری پای با سرعت کمتر از ۱۰ توکن بر ثانیه اجرا شوند. در مقابل، Needle 3 قابلیت چت عمومی را کنار گذاشته و بر وظایف سطح ماشین تمرکز می‌کند.

  • فراخوانی ابزار (Tool Calling) برای سرویس‌های مختلف
  • تبدیل داده‌های بدون ساختار به قالب JSON
  • تولید فضای برداری (Vector Space) از ورودی‌های متنی

این سه قابلیت به Needle 3 اجازه می‌دهد بدون سربار محاسباتی معمول چت‌بات‌ها، وظایف متداول هوش مصنوعی را انجام دهد. معماری نردبانی قابل برش (Sliceable Ladder Architecture) این مدل نیز امکان انتخاب زیرشبکه‌هایی از ۲ تا ۲۰ لایه را بر اساس توان سیستم فراهم می‌کند.

اجرا روی رزبری پای ۵ و DietPi

در این آزمایش، از رزبری پای ۵ مدل ۸ گیگابایتی استفاده شده است. برای سیستم‌عامل، ابتدا Raspberry Pi OS Lite مدنظر بود، اما به دلیل ردپای کوچک‌تر DietPi، این توزیع انتخاب شد. تلاش برای اجرای Needle 3 روی رزبری پای زیرو نسل اول به دلیل عدم پشتیبانی مدل از معماری قدیمی ARMv6 با خطا مواجه شد.

راه‌اندازی روی رزبری پای ۵ نسبتاً ساده بود. ابتدا بسته‌های لازم با دستور sudo apt install -y python3-venv python3-pip git نصب شدند. سپس یک محیط مجازی پایتون (Python Virtual Environment) با دستور python3 -m venv ~/needle-env ایجاد و با source ~/needle-env/bin/activate فعال شد. در ادامه، محیط اجرایی با pip install cactus-needle دریافت شد و پس از چند تلاش، نصب بسته‌های تکمیلی مانند numpy، sentencepiece، jax، flax، requests و python-dotenv نیز انجام گرفت.

ساخت مدل با دستور needle build --platform linux-arm64 --layers 20 --out ./pi بدون مشکل انجام شد. برای پرچم --layers هر ۲۰ لایه انتخاب شد، اما در صورت استفاده از یک میکروکنترلر ضعیف‌تر می‌توان تعداد لایه‌ها را تا ۲ کاهش داد.

اتصال به Home Assistant و فراخوانی ابزار

یکی از جذاب‌ترین بخش‌های Needle 3، قابلیت فراخوانی ابزار است. این مدل با سرویس‌های خودمیزبان (Self-Hosted) نیز کار می‌کند و مستندات رسمی، خودکارسازی خانه هوشمند محلی را یکی از کاربردهای آن معرفی کرده است. برای اتصال به Home Assistant، فایل .needle-ha.env با آدرس سرور و یک توکن دسترسی طولانی‌مدت (Long-Lived Access Token) ساخته شد.

سپس با یک اسکریپت پایتون، ابزاری برای کنترل یک پریز هوشمند (Smart Plug) تعریف شد. اجرای این اسکریپت باعث می‌شود Needle 3 درخواست کاربر را دریافت کند و ابزار مناسب را فراخوانی کند. در آزمایش انجام‌شده، مدل بدون مشکل دستور را درک کرد و دستگاه بی‌درنگ روشن شد.

از نظر عملکرد، ترکیب رزبری پای ۵ و Needle 3 توانست نرخ رمزگشایی (Decode Rate) ۲۸۰.۲ توکن بر ثانیه و نرخ پیش‌پردازش (Prefill Rate) ۹۹۶.۴ توکن بر ثانیه را ثبت کند که برای وظایف هوش مصنوعی لبه بسیار چشمگیر است.

قابلیت سفارشی‌سازی و کاربردهای آینده

در حال حاضر Needle 3 تنها یک اقدام ساده را انجام می‌دهد، اما بخش اصلی ماجرا زمانی آغاز می‌شود که ابزارهای بیشتری به فایل پایتون اضافه شوند. می‌توان ابزارهایی برای دستگاه‌های هوشمند متعارف، ماژول‌های حسگر، محصولات اینترنت اشیای DIY مبتنی بر ESP32 و حتی سرویس‌های متن‌باز (FOSS) که Home Assistant آن‌ها را به عنوان موجودیت (Entity) می‌شناسد، تعریف کرد.

همچنین می‌توان Home Assistant را کنار گذاشت و از Needle 3 برای تحلیل اسناد، ایمیل‌ها و صفحات گسترده استفاده کرد. حتی می‌توان با رویکرد داکر (Docker)، جنبه‌های مختلف یک ایستگاه کاری خودمیزبان را در اختیار این مدل لبه قرار داد. البته ساخت کد لازم برای همه این ابزارها زمان‌بر است، اما عملکرد فوق‌العاده Needle 3 این تلاش اضافه را توجیه می‌کند.

در مجموع، Needle 3 با وجود نیاز به تنظیمات پایتون، یک مدل هوش مصنوعی فوق‌سبک و کارآمد برای خودکارسازی محلی روی رزبری پای ۵ است؛ مدلی که بدون AI HAT و با حداقل منابع، کارهای تخصصی را به سرانجام می‌رساند.

نظرتان را ثبت کنید کد خبر: 55417 گروه خبری: اخبار نرم افزار منبع خبر: XDA Developers تاریخ خبر: 1405/07/19 تعداد مشاهده: 86
اخبار مرتبط با این خبر
نظر های کاربران
سرور آپدیت نود 32
پیشنهاد سافت گذر
FIFA Street for PlayStation 3 + Xbox 360

FIFA Street for PlayStation 3 + Xbox 360

فوتبال خیابانی فیفا استریت

Ashampoo 3D CAD Architecture 12.0.0

Ashampoo 3D CAD Architecture 12.0.0

نقشه کشی پبشرفته

Fantasy Swamp 1.03 for Android

Fantasy Swamp 1.03 for Android

باتلاق فانتزی

کسب و کار موفق

کسب و کار موفق

انسان موفق

Brick Game Simulator 1.24 for Android

Brick Game Simulator 1.24 for Android

بازی آتاری دستی

تفکرات هیتلر

تفکرات هیتلر

My War

Train Simulator 2016

Train Simulator 2016

شبیه‌ساز قطار 2016

سخنرانی حجت الاسلام همتی  با موضوع چگونه فرزندان خود را عاقل تربیت کنیم؟

سخنرانی حجت الاسلام همتی با موضوع چگونه فرزندان خود را عاقل تربیت کنیم؟

سخنرانی چگونه فرزندان خود را عاقل تربیت کنیم؟ با حاج آقا همتی

سخنرانی های حجت الاسلام پناهیان

سخنرانی های حجت الاسلام پناهیان

حجت الاسلام پناهیان سال اخیر

آموزش لینوکس (Linux)

آموزش لینوکس (Linux)

آموزش لینوکس 2

Sony PC Companion

Sony PC Companion

نرم افزار مدیریت گوشی ها سونی و سونی اریکسون

SunnyCapturer 5.0.1

SunnyCapturer 5.0.1

عکسبرداری از صفحه نمایش

سخنرانی حجت الاسلام انصاریان درباره زندگی آگاهانه

سخنرانی حجت الاسلام انصاریان درباره زندگی آگاهانه

سخنرانی حجت الاسلام انصاریان درباره زندگی آگاهانه

وکالت رسمی و غیر رسمی

وکالت رسمی و غیر رسمی

وکالت نامه عادی یا وکالتنامه ضمن سند عادی

آموزش شیءگرایی در سی پلاس پلاس

آموزش شیءگرایی در سی پلاس پلاس

شی گرایی در ++C

ترتیل کل قرآن کریم با صدای استاد محمد صدیق منشاوی

ترتیل کل قرآن کریم با صدای استاد محمد صدیق منشاوی

ترتیل قرآن - منشاوی

Office 2013 SP1 Pro Plus Latest Version

Office 2013 SP1 Pro Plus Latest Version

آفیس 2013 کامل

Forever Skies + Update v1.2.2.43949

Forever Skies + Update v1.2.2.43949

بازی سبک بقا برای کامپیوتر

Skype 8.150.0.125 Win/Mac/Linux + Portable

Skype 8.150.0.125 Win/Mac/Linux + Portable

اسکایپ

HSX Pocktium AI 1.2.8

HSX Pocktium AI 1.2.8

هوش مصنوعی آفلاین

سخنرانی حجت الاسلام عزیزالله رزاقی با موضوع طول عمر امام زمان (عج) - 2 جلسه

سخنرانی حجت الاسلام عزیزالله رزاقی با موضوع طول عمر امام زمان (عج) - 2 جلسه

سخنرانی طول عمر امام زمان (عج) با عزیزالله رزاقی

آموزش cmd

آموزش cmd

آموزش روان و مصور کار در محیط cmd ویندوز

Haghol Haghigh for Android

Haghol Haghigh for Android

زندگی نامه، احادیث، سخنان، حکایات، درباره حضرت امام حسن مجتبی -علیه السلام-

سخنرانی حجت الاسلام پناهیان درباره ذکر

سخنرانی حجت الاسلام پناهیان درباره ذکر

سخنرانی حجت الاسلام پناهیان با موضوع یاد خدا

Train Sim World 3

Train Sim World 3

شبیه ساز قطار برای کامپیوتر

Autodesk AutoCAD 2012 SP2 x86/x64

Autodesk AutoCAD 2012 SP2 x86/x64

نسخه 2012 قدرتمندترین برنامه نقشه‌کشی ویرایش 32 بیتی و 64 بیتی

Shrek Forever After

Shrek Forever After

شرک برای همیشه

Microsoft Windows 7 latest version

Microsoft Windows 7 latest version

دانلود دانلود آخرین نسخه ویندوز

بازی آفتابه نسخهٔ 1.4.3 برای اندروید 2.1+

بازی آفتابه نسخهٔ 1.4.3 برای اندروید 2.1+

بازی سرگرم کننده حدس عبارت از روی عکس

Darkest Dungeon + Update v16708

Darkest Dungeon + Update v16708

تاریک ترین سیاه چال

Beginning ASP.NET 4.5.1 in Csharp and VB

Beginning ASP.NET 4.5.1 in Csharp and VB

آموزش ASP.NET

Asphalt 7: Heat 1.1.2h for Android

Asphalt 7: Heat 1.1.2h for Android

آسفالت 7

Terragen Professional 4.7.19

Terragen Professional 4.7.19

طراحی و رندرینگ محیط های طبیعی زمین

سلسله مباحث استاد شجاعی قسمت چهارم

سلسله مباحث استاد شجاعی قسمت چهارم

مباحث شجاعی

Caynax Alarm Clock PRO 10.0.4 PRO for Android +4.0

Caynax Alarm Clock PRO 10.0.4 PRO for Android +4.0

زنگ هشدار کینکس

تاج الموالید :  قسمت مربوط به امام صادق علیه السلام

تاج الموالید : قسمت مربوط به امام صادق علیه السلام

تاج الموالید

CorelDRAW Graphics Suite 2026 27.2.0.135 / 2025 26.2.0.170 / 2024  / 2023 / 2022 / 2021 / 2020 /2019/ macOS 2021.5

CorelDRAW Graphics Suite 2026 27.2.0.135 / 2025 26.2.0.170 / 2024 / 2023 / 2022 / 2021 / 2020 /2019/ macOS 2021.5

قویترین نرم افزار برای طراحی های گرافیکی

Crazy Machines 2 Happy New Year Bundle Edition

Crazy Machines 2 Happy New Year Bundle Edition

ماشین‌های معیوب 2 - نسخه ارتقا یافته سال نو

آسان شدن سختیها با احساس حضور خدا از حجت الاسلام والمسلمین سیدمحمدمهدی میرباقری - 4 جلسه

آسان شدن سختیها با احساس حضور خدا از حجت الاسلام والمسلمین سیدمحمدمهدی میرباقری - 4 جلسه

حاج آقا سیدمحمدمهدی میرباقری با موضوع آسان شدن سختیها با احساس حضور خدا

سخنان شهید سردار سلیمانی برای رزمندگان در جبهه نبرد با داعش

سخنان شهید سردار سلیمانی برای رزمندگان در جبهه نبرد با داعش

سرلشکر حاج قاسم سلیمانی

خبرنامه

با عضویت در خبرنامه، زودتر از همه باخبر باش!