اجرای هوش مصنوعی به‌صورت محلی روی رایانه شخصی، دیگر صرفاً در اختیار کاربران حرفه‌ای نیست. بر اساس یک راهنمای عملی، با نصب یک اپلیکیشن رایگان و دانلود یک مدل زبانی بزرگ (Large Language Model) می‌توان در حدود پنج دقیقه یک عامل هوش مصنوعی محلی را روی ویندوز راه‌اندازی کرد.
چرا هوش مصنوعی محلی؟
در اجرای محلی، مدل هوش مصنوعی روی خود رایانه میزبانی می‌شود و پردازش‌ها به سرورهای ابری ارسال نمی‌شوند. این روش مزایایی مانند حفظ حریم خصوصی، امکان استفاده آفلاین و حذف نگرانی درباره مصرف توکن (Token) یا هزینه اشتراک دارد. البته مدل‌های محلی معمولاً از مدل‌های ابری پیشرفته ضعیف‌ترند و عملکرد آن‌ها به سخت‌افزار رایانه وابسته است.
پیش‌نیازهای سخت‌افزاری
برای اجرای محلی هوش مصنوعی، وجود یک پردازنده گرافیکی (GPU) قدرتمند بسیار مهم‌تر از پردازنده مرکزی (CPU) است. قرار گرفتن کامل مدل در حافظه اختصاصی گرافیک (VRAM) بهترین عملکرد را تضمین می‌کند.
- مدل‌های کوچک با ۳ تا ۸ میلیارد پارامتر: حداقل ۸ گیگابایت VRAM
- مدل‌های متوسط با ۸ تا ۱۴ میلیارد پارامتر: حدود ۱۲ گیگابایت VRAM
- مدل‌های بزرگ با ۳۰ میلیارد پارامتر یا بیشتر: نیازمند ایستگاه کاری (Workstation) یا حافظه یکپارچه (Unified Memory)
اجرای مدل فقط روی CPU نیز ممکن است، اما سرعت آن به‌مراتب کمتر خواهد بود. کاربران رایانه‌های گیمینگ معمولاً به دلیل داشتن GPU قوی، شرایط بهتری برای این کار دارند.
سه گام راه‌اندازی در ویندوز
۱. نصب LM Studio
LM Studio یک اپلیکیشن رایگان برای دانلود، مدیریت و اجرای مدل‌های زبانی محلی است. این نرم‌افزار روی ویندوز (x86 و ARM)، لینوکس و مک‌اواس اجرا می‌شود و رابط کاربری مدرن و ساده‌ای دارد. فایل نصب را می‌توان از وب‌سایت رسمی LM Studio دریافت کرد.
۲. دانلود مدل هوش مصنوعی
پس از نصب، باید یک مدل هوش مصنوعی را از داخل خود اپلیکیشن انتخاب و دانلود کنید. قابلیت جست‌وجوی مدل (Model Search) در LM Studio مدل‌های پیشنهادی را نمایش می‌دهد و برچسب‌هایی مانند سازگاری و عملکرد را در اختیار کاربر قرار می‌دهد. برای کاربران تازه‌کار، مدل‌های ۷ یا ۸ میلیارد پارامتر مناسب‌ترند؛ مدل‌های سنگین‌تر مانند مدل ۲۷ میلیارد پارامتری Qwen به سخت‌افزار قوی‌تری نیاز دارند.
۳. بارگذاری مدل و شروع گفتگو
بعد از پایان دانلود، کافی است در LM Studio روی دکمه Chat در گوشه بالا سمت چپ کلیک کنید و سپس گزینه «Select a model to load» را انتخاب کنید. با انتخاب مدل و سپری شدن چند لحظه برای بارگذاری، امکان گفتگو با عامل هوش مصنوعی به‌صورت محلی فراهم می‌شود.
محدودیت‌ها و نکات تکمیلی
مدل‌های محلی برای کارهای سبک مانند گفتگو، تولید تصویر، مطالعه و خلاصه‌سازی مناسب‌اند، اما کاربران پیشرفته ممکن است همچنان به سرویس‌های ابری و اشتراک‌های پرداختی نیاز داشته باشند. همچنین واحد پردازش عصبی (NPU) در برخی لپ‌تاپ‌های جدید می‌تواند مدل‌های سبک‌تر را اجرا کند، هرچند نسل اول این واحدها قدرت محدودی دارند.
اپلیکیشن Copilot در ویندوز ۱۱ برای پاسخ‌دهی به اینترنت وابسته است، اما برخی ابزارهای Copilot+ مانند Recall و Studio Effects از NPU رایانه برای پردازش محلی استفاده می‌کنند. در مجموع، راه‌اندازی هوش مصنوعی محلی با LM Studio برای بسیاری از کاربران ویندوزی که رایانه‌ای نسبتاً مدرن دارند، فرآیندی ساده و در دسترس است.