هوش مصنوعی محلی (Local AI) امروز بسیار ساده‌تر از گذشته قابل آزمایش است، اما بیشتر فهرست‌های پیشنهادی همچنان به همان چند ابزار محبوب محدود می‌مانند. تجربه کار با پروژه‌های گوناگون نشان می‌دهد شمار قابل‌توجهی از گزینه‌های متن‌باز (Open Source) کوچک‌تر وجود دارند که هر یک هدف متفاوتی را دنبال می‌کنند و همین تفاوت، بررسی آن‌ها را جذاب می‌سازد.
برخی از این ابزارها شکافی مشخص را در یک راه‌اندازی محلی پر می‌کنند و برخی دیگر شیوه‌های کاملاً تازه‌ای برای تعامل با هوش مصنوعی ارائه می‌دهند. در ادامه پنج پروژه کمترشناخته‌شده معرفی می‌شوند که می‌توانند به ساخت محیطی انعطاف‌پذیرتر برای هوش مصنوعی محلی کمک کنند.
KoboldCpp؛ خانه‌ای سبک برای مدل‌های محلی
KoboldCpp به این دلیل جلب توجه می‌کند که در مقایسه با بسیاری از ابزارهای هوش مصنوعی محلی، بسیار ساده‌تر به نظر می‌رسد. این برنامه‌ای سبک است که حول llama.cpp ساخته شده، اما برای شروع کار نیازی به فرایند نصب پیچیده یا فهرست بلندی از وابستگی‌ها (Dependencies) ندارد. کاربر می‌تواند آن را دانلود کند، به یک مدل سازگار اشاره دهد و با کمترین تنظیمات، یک محیط هوش مصنوعی محلی را اجرا کند.
رابط کاربری این ابزار در درجه نخست برای تولید متن (Text Generation) طراحی شده است، اما تنظیمات کافی برای تغییر رفتار مدل بر اساس نوع کار وجود دارد. این برنامه از استنتاج (Inference) روی پردازنده مرکزی (CPU) و پردازنده گرافیکی (GPU) پشتیبانی می‌کند، بنابراین می‌توان بسته به سخت‌افزار در دسترس، مدل‌های مختلفی را آزمایش کرد.
Tabby؛ دستیار کدنویسی خصوصی روی سیستم شخصی
Tabby برای کسانی است که می‌خواهند هوش مصنوعی محلی را وارد جریان کاری برنامه‌نویسی خود کنند، بدون آنکه به یک دستیار کدنویسی ابری (Cloud-based) وابسته شوند. این ابزار به‌صورت خودمیزبان (Self-hosted) عمل می‌کند و قابلیت‌هایی مانند تکمیل خودکار کد (Code Completion) و پیشنهادهای کدنویسی را مستقیماً در محیط توسعه فراهم می‌سازد.
کاربر می‌تواند آن را به ویرایشگر کد خود متصل کند و هنگام نوشتن یا تغییر کد از آن بهره ببرد، بدون آنکه مدام به پنجره چت هوش مصنوعی جداگانه‌ای سوئیچ کند. کنترل بر مدل‌هایی که در پس‌زمینه اجرا می‌شوند نیز انعطاف بیشتری برای هماهنگ‌سازی ابزار با سخت‌افزار موجود ایجاد می‌کند. پیشنهادها همیشه بی‌نقص نیستند و بازبینی آن‌ها پیش از استفاده ضروری است، اما مزیت اصلی Tabby آن است که کمک هوش مصنوعی را در حین توسعه، روی سیستم خود کاربر نگه می‌دارد.
Khoj؛ به‌کارگیری دانش شخصی
Khoj زمانی بهترین کارایی را دارد که کاربر بخواهد هوش مصنوعی محلی به بخشی از جریان کاری دانش شخصی‌اش تبدیل شود، نه صرفاً یک چت‌بات دیگر. با این ابزار می‌توان یادداشت‌ها، اسناد و سایر اطلاعات را از یک رابط واحد جست‌وجو کرد و یافتن موارد ذخیره‌شده در طول زمان را ساده‌تر ساخت.
نکته کاربردی این است که Khoj با اطلاعات موجود کاربر کار می‌کند و نیازی به کپی و بازچسباندن همه محتوا در یک گفت‌وگو ندارد. این ابزار از پشتیبان‌های مختلف هوش مصنوعی (AI Backends) پشتیبانی می‌کند، بنابراین می‌توان آن را به مدل‌های در حال اجرا روی سیستم شخصی متصل کرد. پرسش به زبان طبیعی و دریافت پاسخ بر پایه مجموعه اطلاعات شخصی، تجربه‌ای کاربردی‌تر از باز کردن یک مدل محلی و آغاز یک چت خالی فراهم می‌کند.
Whisper.cpp؛ تبدیل گفتار به متن محلی بدون دردسر
Whisper.cpp راهی ساده برای افزودن قابلیت تبدیل گفتار به متن (Speech-to-Text) به مجموعه هوش مصنوعی محلی است، بدون وابستگی به سرویس‌های برخط رونویسی. این ابزار پیاده‌سازی سبکی از مدل Whisper شرکت OpenAI است که به‌صورت محلی اجرا می‌شود و بنابراین نیازی به ارسال فایل‌های صوتی به سرویس ابری ندارد.
از ضبط‌های صوتی کوتاه تا فایل‌های صوتی طولانی‌تر را می‌توان با آن پردازش کرد؛ انتخاب مدل و سخت‌افزار تعیین‌کننده سرعت و کیفیت خواهد بود. این ابزار روی پلتفرم‌های مختلف کار می‌کند و همین موضوع، استفاده از یک روش یکسان روی چند دستگاه را آسان‌تر می‌سازد. کیفیت رونویسی برای بسیاری از کارهای روزمره کافی است و پردازش محلی نیز حریم خصوصی جریان کاری را حفظ می‌کند.
AgenticSeek؛ وقتی هوش مصنوعی محلی دست به کار می‌شود
بیشتر ابزارهای هوش مصنوعی محلی برای پاسخ دادن به یک درخواست (Prompt) و انتظار برای درخواست بعدی طراحی شده‌اند، اما AgenticSeek رویکرد متفاوتی دارد: کاربر یک هدف را تعیین می‌کند و سیستم مراحل لازم را پیش می‌برد. این ابزار می‌تواند کارهایی مانند مرور وب، کدنویسی و تعامل با ابزارهای مختلف را انجام دهد، بنابراین جریان کار بیشتر به همکاری با یک دستیار شباهت دارد تا گفت‌وگو با یک مدل.
AgenticSeek با مدل‌های میزبانی‌شده به‌صورت محلی نیز کار می‌کند و به‌خوبی در یک راه‌اندازی متمرکز بر حریم خصوصی جای می‌گیرد. با این حال، نظارت بر اقدامات آن همچنان اهمیت دارد، به‌ویژه هنگامی که یک وظیفه شامل چند مرحله یا منابع بیرونی باشد؛ زیرا جریان‌های کاری عامل‌محور (Agentic) می‌توانند رفتاری متفاوت از یک چت ساده داشته باشند.
اکوسیستم محلی، گزینه‌های بیشتری از آنچه تصور می‌کنید دارد
ساخت یک مجموعه هوش مصنوعی محلی به معنای محدود ماندن به همان چند ابزار محبوبی نیست که همه پیشنهاد می‌کنند. اکوسیستم متن‌باز در حال رشدی وجود دارد که پروژه‌های آن برای نیازها و جریان‌های کاری بسیار متفاوتی طراحی شده‌اند. برخی از این ابزارها بی‌درنگ با راه‌اندازی کاربر هماهنگ می‌شوند و برخی دیگر به آزمایش بیشتری نیاز دارند؛ و همین تنوع، بخشی از جذابیت این حوزه است.