گزارش XDA Developers نشان می‌دهد یک مدل استدلالی (Reasoning Model) کوچک با نام Qwythos 9B توانسته است روی یک کارت گرافیک ۸ گیگابایتی اجرا شود و بخشی از کارهای روزمره‌ای را که کاربران معمولاً به Claude می‌سپارند، پوشش دهد. این مدل رایگان از آزمایشگاه Empero AI ارائه شده و ادعا می‌کند از گفت‌وگوهای مدل‌های قدرتمند Anthropic آموخته است.
Qwythos 9B چیست و چه ادعایی دارد؟
Qwythos 9B یک مدل استدلالی رایگان از Empero AI است. نسخه‌ای که در این آزمایش استفاده شده v2 است؛ نسخه‌ای پاک‌سازی‌شده پس از انتشار اولیه که عادت گیر کردن در تکرار را برطرف می‌کند. مدل استدلالی به این معناست که پیش از پاسخ دادن، مسئله را در یک بلوک جداگانه می‌سنجد و ابزار اجرای مدل احتمالاً امکان روشن یا خاموش کردن این حالت تفکر (Thinking) را در اختیار کاربر می‌گذارد.
این مدل بر پایه Qwen3.5 9B ساخته شده است؛ یکی از مدل‌های کوچک تیم Qwen شرکت علی‌بابا که پیش از ورود Empero می‌توانست تصاویر و اسناد طولانی را پردازش کند. بر اساس ادعای سازنده، Qwythos با بیش از ۵۰۰ میلیون توکن از گفت‌وگوهای Claude Mythos و Claude Fable آموزش دیده است. در این زمینه گفته شده Fable 5 و Mythos 5 در واقع یک مدل Anthropic هستند و Mythos تنها در اختیار گروه کوچکی از شرکای تأییدشده قرار گرفته است؛ بنابراین هدف این بوده که یک مدل کوچک، شیوه حل مسئله یک مدل بسیار بزرگ‌تر را بیاموزد.
با این حال، داده استدلال مرحله‌به‌مرحله با ابزار خود Empero به نام rethink تولید شده است؛ بنابراین بخش مرتبط با Claude بیشتر به سبک پاسخ‌دهی مربوط می‌شود تا کپی مستقیم فرایند فکری. Empero همچنین نگفته است داده Mythos را چگونه به دست آورده و این موضوع با توجه به موضع علنی Anthropic درباره مقابله با آزمایشگاه‌هایی که پاسخ‌های Claude را برای آموزش مدل‌های خود برداشت می‌کنند، همچنان مبهم است.
Empero این مدل را برای ریاضی، علوم، توضیحات پزشکی و امنیت سایبری هدف‌گذاری کرده و آن را عامدانه بدون سانسور ساخته است. کدنویسی آن کمی ضعیف‌تر از مدل پایه Qwen است و سازنده می‌پذیرد که Qwythos بدون جست‌وجوی وب می‌تواند با اطمینان اطلاعات نادرست ارائه دهد.
اجرا روی کارت گرافیک ۸ گیگابایتی
آزمایش با کارت گرافیک RTX 3070 و ۸ گیگابایت حافظه ویدئویی (VRAM) انجام شده است. کوانت Q4_K_M از Qwythos v2 از طریق LM Studio بارگیری شد و حجم آن کمی کمتر از ۷ گیگابایت بود. بسته به تعداد لایه‌هایی که به پردازنده سپرده می‌شد، زمینه (Context) میان ۱۰ تا ۳۰ هزار توکن در دسترس قرار می‌گرفت.
پس از اجرا، سرعت حدود ۲۰ تا ۲۲ توکن بر ثانیه (Tokens per Second) بود و بیشتر پاسخ‌ها در کمتر از یک ثانیه شروع به نمایش می‌گذاشتند. در عمل، اجرای مدل با زمینه ۱۴ هزار توکن به‌راحتی ممکن بود. اشاره به یک میلیون توکن روی کارت گرافیک در واقع به سخت‌افزار سروری مربوط می‌شود، نه مصرف معمول روی یک GPU خانگی.
دلیل سازگاری مناسب مدل با سخت‌افزار محدود به ساختار Qwen 3.5 بازمی‌گردد. بیشتر مدل‌ها حافظه جاری گفت‌وگو را در هر بلوک نگه می‌دارند و این حافظه هرچه گفت‌وگو طولانی‌تر شود، VRAM بیشتری می‌خورد. Qwen 3.5 این کار را فقط در یک‌چهارم بلوک‌های خود انجام می‌دهد و بقیه بلوک‌ها حافظه‌ای با اندازه ثابت دارند.
در عمل چه کارهایی را از Claude برمی‌آورد؟
در یکی از آزمون‌ها، یک پازل زمان سفر با جریمه ترافیک مطرح شد. Qwythos با حالت تفکر خاموش، هر مرحله را پیش برد و در کمتر از یک ثانیه پاسخ درست یعنی ساعت ۹:۱۲ را داد؛ اما زمان حرکت متفاوتی را که در ابتدای پرسش آمده بود نادیده گرفت.
توضیحات با روشن بودن حالت تفکر بهتر شد. برای نمونه، توضیح علمی درباره علت افت انرژی پس از نوشیدن قهوه، مدل ۲۸ ثانیه فکر کرد و سپس فرایند را به‌طور دقیق شرح داد. با خاموش بودن تفکر، پاسخ‌ها کمی آزادتر شد؛ توضیح مبتدی درباره هوش مصنوعی محلی از محدودیت کلمه فراتر رفت و تشبیه آن، GPU را ابتدا کتابخانه و سپس چیزی خواند که کتاب‌ها را می‌خواند.
اطلاعات روزمره معمولاً نقطه ضعف مدل‌های کوچک آفلاین است. وقتی از Qwythos آخرین نسخه LM Studio پرسیده شد، به‌جای ساختن پاسخ، صادقانه اعلام کرد به اینترنت دسترسی ندارد. اینجا اهمیت فراخوانی ابزار (Tool-Calling) آشکار می‌شود؛ برای دسترسی به اطلاعات به‌روز باید از MCP یا ابزار دیگری برای اتصال وب استفاده کرد. مدل پایه Qwen3.5 9B در بنچمارک BFCL-V4 که توانایی استفاده از ابزار را می‌سنجد، امتیاز ۶۶.۱ درصد گرفته است. Empero می‌گوید Qwythos هنگام دسترسی به جست‌وجوی وب، هر هفت پرسش آزمون خودش را درست پاسخ داده است. در این آزمایش نیز پس از فعال کردن Brave Search MCP، پرسش مربوطه درست پاسخ داده شد.
بینایی (Vision) ضعیف‌ترین بخش بود؛ موضوعی که با توجه به عدم آموزش و آزمایش این قابلیت توسط Empero منطقی به نظر می‌رسد. وقتی اسکرین‌شاتی از یک اپ طراحی‌شده به مدل داده شد و بازخورد طراحی خواسته شد، پیشنهادها بد نبودند اما کلی بودند و برخی از آن‌ها بیشتر شبیه حدس به نظر می‌رسیدند.
جمع‌بندی: چه چیزی هنوز به ابر می‌ماند؟
در مجموع، Qwythos می‌تواند بخش قابل‌توجهی از کارهای کوچک مانند مسائل منطقی و توضیح‌ها را بر عهده بگیرد. نویسنده XDA آن را روی رایانه شخصی خود نگه می‌دارد و پیش‌بینی می‌کند به‌دلیل توانایی در توضیح‌ها، مدل‌های Gemma را کمتر استفاده کند. مسیردهی این کارهای پایه به Qwythos به صرفه‌جویی در محدودیت نرخ (Rate Limit) Claude هم کمک می‌کند. با این حال، این مدل از عهده کدنویسی و طراحی به‌خوبی برنمی‌آید و این وظایف همچنان به Claude سپرده خواهند شد.