با افزایش توان مدل‌های با وزن باز (Open-weight Models)، این پرسش برای بسیاری از کاربران مطرح شده است که آیا می‌توان بدون پرداخت هزینه ماهانه اشتراک‌های هوش مصنوعی، نتایج مشابهی گرفت یا خیر. یک کاربر در تجربه خود تلاش کرده است اشتراک‌های ChatGPT و Claude را با هوش مصنوعی محلی (Local AI) جایگزین کند و هزینه‌ها را کاهش دهد؛ اما نتیجه دقیقاً آن چیزی نبود که انتظار داشت.
برنامه اولیه: حذف اشتراک‌های ChatGPT و Claude
او پرداخت هم‌زمان هزینه دو سرویس هوش مصنوعی را هزینه‌ای قابل اجتناب می‌دانست. به نظر او، وقتی مدل‌های با وزن باز روزبه‌روز توانمندتر می‌شوند، ادامه پرداخت برای دو سرویس جداگانه منطقی نبود. از آنجا که پیش‌تر با نرم‌افزارهای خودمیزبان (Self-hosted Software) آزمایش کرده بود، اجرای هوش مصنوعی روی رایانه شخصی را گام طبیعی بعدی دید: توقف پرداخت اشتراک، استفاده از سخت‌افزاری که از قبل داشت و کنترل بیشتر بر نحوه دسترسی به هوش مصنوعی.
راه‌اندازی آسان‌تر از انتظار با Ollama و Open WebUI
راه‌اندازی اولیه هوش مصنوعی محلی ساده‌تر از تصور او بود. او از Ollama برای دانلود و اجرای مدل‌ها روی رایانه شخصی استفاده کرد و بدون درگیری با پیکربندی پیچیده، مدل‌ها را اجرا کرد. جابه‌جایی میان مدل‌ها نیز تنها با دریافت و بارگذاری مدلی دیگر انجام می‌شد.
او همچنین Open WebUI را نصب کرد تا یک رابط چت آشنا در مرورگر داشته باشد. این ابزار تعامل با مدل‌های محلی را به استفاده از یک چت‌بات معمولی نزدیک‌تر می‌کرد و کار با آن را از ابزارهای خط فرمان (Command-line Tools) جدا می‌ساخت.
- اجرای مدل‌های مختلف روی سیستم مجهز به RTX 5070
- آزمایش مدل‌ها بدون ثبت‌نام در سرویس جدید
- عدم نگرانی درباره محدودیت‌های مصرف در طرح‌های اشتراکی
- راه‌اندازی سریع و ساده نسبت به انتظار اولیه
هزینه‌های پنهان اجرای هوش مصنوعی محلی
بزرگ‌ترین شگفتی این بود که اجرای هوش مصنوعی محلی کاملاً رایگان نیست. او از قبل رایانه شخصی داشت و برای سخت‌افزار جدید هزینه نکرد، اما اجرای مدل‌ها هزینه‌های جاری داشت. کارت گرافیک RTX 5070 در بارهای کاری سنگین برق بیشتری مصرف می‌کند و نشست‌های مکرر هوش مصنوعی می‌تواند هزینه برق را افزایش دهد.
هزینه زمان نیز مطرح بود: دانلود مدل‌های مختلف، بررسی نیازمندی‌ها و یافتن مدل مناسب برای هر نیاز زمان‌بر بود. مدل‌های بزرگ‌تر منابع سیستم بیشتری مصرف می‌کردند و اجرای هم‌زمان برنامه‌های سنگین دیگر را دشوارتر می‌ساختند. این هزینه‌ها به‌تنهایی چشمگیر به نظر نمی‌رسیدند، اما صرفه‌جویی را کمتر از تصور اولیه می‌کردند؛ او هزینه اشتراک را حذف کرده بود، ولی هزینه دسترسی به هوش مصنوعی را کاملاً از میان برنداشته بود.
محدودیت‌ها در جایگزینی کامل هوش مصنوعی ابری
محدودیت اصلی زمانی آشکار شد که او خواست برای همه کارها به مدل‌های محلی تکیه کند. این مدل‌ها بسیاری از درخواست‌های ساده را خوب انجام می‌دادند، اما وقتی به استدلال دقیق‌تر یا پاسخ‌های ظریف‌تر نیاز بود، نتایج همیشه یکدست نبود. گاهی لازم بود پرامپت (Prompt) را چند بار بازنویسی کند یا خروجی را پیش از استفاده بررسی و تأیید کند.
تفاوت در پیروی از دستورهای پیچیده نیز محسوس بود. پاسخی که با ChatGPT یا Claude اصلاح کمی نیاز داشت، در استفاده از جایگزین محلی ممکن بود کار دستی بیشتری طلب کند. این تلاش اضافه، به‌ویژه هنگام انجام سریع یک کار، اهمیت داشت. جابه‌جایی مداوم میان مدل‌ها تا یافتن مدل مناسب برای هر درخواست نیز بخشی از هدف اولیه را از بین می‌برد؛ او به دنبال جایگزینی کاربردی بود، نه مدیریت یک ابزار پیچیده دیگر.
رسیدن به جریان کاری ترکیبی
در نهایت او تلاش برای جایگزینی کامل همه سرویس‌های پرداختی با مدل محلی را کنار گذاشت و به بررسی این موضوع پرداخت که برای هر کار کدام گزینه منطقی‌تر است. هوش مصنوعی محلی را برای درخواست‌هایی نگه داشت که نتایج خوبی می‌داد و لازم نبود هر پرامپت به سرویس خارجی فرستاده شود. برای کارهای سنگین‌تر نیز در صورت توجیه تفاوت کیفیت خروجی، حاضر بود از هوش مصنوعی ابری (Cloud AI) استفاده کند.
این روش به او اجازه داد فقط برای پرهیز از پرداخت ماهانه، کیفیت را فدا نکند. او همچنین می‌توانست درباره نیاز واقعی به هر دو اشتراک بازاندیشی کند، به‌جای آنکه به‌طور خودکار آنها را تمدید کند. تجربه او نشان داد نرم‌افزار رایگان ارزشمند است، اما ارزش واقعی آن به میزان تناسب با جریان کاری (Workflow) بستگی دارد.
نتیجه‌گیری: رایگان همیشه ارزان‌تر نیست
آزمایش هوش مصنوعی محلی به او کمک کرد ظرفیت سخت‌افزار خود را بهتر بشناسد و کنترل بیشتری بر تنظیمات هوش مصنوعی داشته باشد. اما این تجربه یک نکته مهم را روشن کرد: پرهیز از اشتراک لزوماً به معنای صرفه‌جویی در هزینه نیست. سخت‌افزار، برق، زمان و کیفیت نتایج همگی در تصمیم‌گیری درباره ارزش پرداخت اهمیت دارند.
به کاربرانی که چنین تغییری را در نظر دارند توصیه شده است صرفاً به دلیل رایگان بودن مدل‌های محلی، اشتراک‌های خود را لغو نکنند. بهتر است ابتدا مدل‌های محلی را در کنار ابزارهای فعلی آزمایش کنند؛ ممکن است هوش مصنوعی محلی تمام نیاز آنها را برآورده کند یا ترکیبی از ابزارهای رایگان و پرداختی منطقی‌تر باشد.