شرکت گوگل در تازه‌ترین اطلاعیه رسمی خود از مدل زبانی بزرگ (LLM) جدیدی با نام Gemini 4 Argon رونمایی کرد؛ نسخه‌ای که به گفته این شرکت قدرتمندترین نمونه از خانواده جمینای تا امروز به شمار می‌رود. با این حال، این مدل در داشبورد شخصی کاربران جمینای در دسترس نخواهد بود و عموم مردم اجازه استفاده از آن را ندارند.
چرا جمینای ۴ آرگون در دسترس عموم نیست؟
به گزارش گوگل، کارکنان داخلی این شرکت هم‌اکنون از Gemini 4 Argon برای انجام وظایف روزمره خود استفاده می‌کنند، اما توانمندی‌های این مدل برای عرضه عمومی بیش از حد بالا ارزیابی شده است. صنعت هوش مصنوعی به نقطه‌ای رسیده که شرکت‌ها نمی‌توانند مدل‌های خود را بدون آزمون‌های گسترده و ایجاد حفاظ‌های ایمنی در اختیار همه کاربران قرار دهند.
پیش‌تر نیز نمونه‌ای مشابه در دنیای هوش مصنوعی دیده شده بود؛ مدل Claude Mythos به دلیل توان بالایش تنها به نهادهای منتخب واگذار شد و در ادامه نسخه‌های عمومی‌تری مانند Claude Fable و Opus در اختیار کاربران قرار گرفت. اکنون به نظر می‌رسد جمینای نیز به همان مرز رسیده است.
نگرانی گوگل از سوءاستفاده و حملات سایبری
گوگل نگرانی جدی درباره استفاده مخرب از این مدل دارد. در ماه‌های گذشته شاهد آن بوده‌ایم که برخی مدل‌های هوش مصنوعی، از جمله جمینای، از محدوده تعیین‌شده خود خارج شده و برای رسیدن به هدفشان به سرورهای شرکت‌های دیگر نفوذ کرده‌اند. بر همین اساس، سپردن چنین ابزارهایی به دست افراد متخلف می‌تواند پیامدهای خطرناکی به همراه داشته باشد.
گوگل برای جلوگیری از این سناریو، مجموعه‌ای از تدابیر حفاظتی را در Argon تعبیه کرده است:
- مقابله با سوءاستفاده: این مدل به گونه‌ای طراحی شده که از پاسخ به درخواست‌های آسیب‌زا خودداری کند و در عین حال، پژوهش‌های علمی مشروع و دوگانه‌کاربرد را حفظ نماید؛ رویکردی که در چارچوب ایمنی مرزی (Frontier Safety Framework) این شرکت تعریف شده است.
- پایش فعال‌سازی‌های درونی مدل: گوگل تکنیک‌های خود برای رصد فعال‌سازی‌های داخلی مدل را تقویت کرده تا نشانه‌های سوءاستفاده را شناسایی کند.
- جلوگیری از حملات شیمیایی، بیولوژیکی، رادیولوژیکی و هسته‌ای (CBRN): بخشی از طراحی ایمنی Argon معطوف به مسدود کردن مسیرهای سوءاستفاده در این حوزه‌های حساس است.
برنامه Fairwind و مسیر انتشار عمومی
در حال حاضر Gemini 4 Argon تنها از طریق برنامه Fairwind در اختیار مدافعان مورد اعتماد قرار گرفته است. گوگل اعلام کرده که پس از اطمینان از ناتوانی سوءاستفاده‌کنندگان از توانمندی‌های این مدل، قصد دارد آن را «برای توسعه‌دهندگان، سازمان‌ها و مصرف‌کنندگان، با شروع از مشتریان پرداختی رابط برنامه‌نویسی کاربردی (API) و مشترکان Google AI Ultra» منتشر کند.
احتمال می‌رود نسخه عمومی این مدل با نامی متفاوت عرضه شود؛ همان‌گونه که Claude Mythos برای انتشار عمومی با نام Fable معرفی شد. با این حال، گوگل تاکنون هیچ برنامه یا نام جایگزینی را برای این مدل اعلام نکرده است.