سافت گذر دانشنامه نرم افزار - دانلود رایگان نرم افزار

همه دسته بندی ها

منو
جستجو
اطلاعیه های مهم سایت اطلاعیه های مهم سایت
💐 میلاد زینت پدر حضرت زینب سلام الله علیها مبارک باد 💐
 
 
  1. سافت گذر لباس نو به تن کرده😍(فعلا آزمایشی)
  2. 🔰جایگزین مناسب Kaspersky خرید لایسنس نود 32
  3. جهت رفع مشکل باز شدن سایت به دلیل بلاک توسط  نود 32 این ویدیو یا این ویدیو(ورژن 9 به بالا) یا راهنمای تصویری را مشاهده کنید
  4. اکانت های بروزرسانی نود32 با قیمت های مناسب به صورت یک ، سه ، شش و دوازده ماهه از اینجا قابل خرید می باشد.

نرم افزار های پرکاربرد

ثبت نام | ورود

هوش مصنوعی

کاهش چشمگیر تاخیر مدل‌های زبانی با ویژگی جدید Predicted Outputs

تاخیر یکی از مشکلات اساسی در بسیاری از کاربردهای مدل‌های زبانی بزرگ (LLM) است. در سناریوهایی مانند پیشنهادات کد و ویرایش اسناد طولانی، تاخیر می‌تواند تجربه کلی کاربر را تحت تاثیر قرار دهد. فرض کنید کاربری می‌خواهد پاراگراف آخر یک سند دو صفحه‌ای را بازنویسی کند. بهتر است که سند بازنویسی‌ شده فوراً ظاهر شود، چون تغییر تنها شامل یک پاراگراف است. اما APIهای فعلی مدل‌های زبانی بزرگ نیاز به بازتولید کل سند دارند که باعث تاخیر قابل توجهی برای کاربران می‌شود.

 

کاهش چشمگیر تاخیر مدل‌های زبانی با ویژگی جدید Predicted Outputs

 

OpenAI اکنون در تلاش است این مشکل را با ویژگی جدیدی به نام Predicted Outputs حل کند. این ویژگی می‌تواند در مواردی استفاده شود که بیشتر خروجی مدل زبانی از پیش مشخص است. وظایفی مانند ویرایش اسناد یا بازنویسی کد می‌توانند با این ویژگی بهبود یابند. Predicted Outputs با استفاده از روشی به نام رمزگشایی پیش‌ گویی (speculative decoding) محتوای شناخته‌ شده را رد می‌کند و تکرارها را بسیار سریع‌تر می‌کند.

توسعه‌ دهندگان می‌توانند با ارائه محتوای موجود به عنوان پیش‌ گویی، تاخیر را بطور قابل توجهی کاهش دهند. با این کار، کل محتوا با سرعت بسیار بیشتری بازتولید می‌شود.

OpenAI این ویژگی را با تعدادی از شرکای خارجی خود آزمایش کرد و نتایج بسیار مثبتی حاصل شد. به عنوان مثال، طبق معیارهای داخلی تیم Microsoft GitHub، استفاده از Predicted Outputs در وظایف Copilot Workspace منجر به افزایش سرعت ۵.۸ برابری شد.

تیم Exponent نیز به آزمایش و بهبود این API کمک کرد و اذعان داشتند که Predicted Outputs بسیار سریع عمل می‌کند و تجربه کاری فوق‌ العاده‌ای را برای توسعه‌ دهندگان فراهم می‌آورد. Exponent اعلام کرد که برای دسترسی زودهنگام به این ویژگی می‌توانید در Exponent ثبت‌نام کنید.

 

محدودیت‌ها در استفاده از Predicted Outputs:

  1. این ویژگی تنها برای مدل‌های سری GPT-4o و GPT-4o-mini پشتیبانی می‌شود و مدل‌های جدیدتر o1 شامل این قابلیت نیستند.
  2. همچنین پارامترهای زیر در زمان استفاده از Predicted Outputs پشتیبانی نمی‌شوند:
    1. مقادیر n بیشتر از ۱
    2. logprobs
    3. presence_penalty بالاتر از ۰
    4. frequency_penalty بالاتر از ۰
    5. گزینه‌های صوتی
    6. سایر حالت‌ها (تنها حالت متنی پشتیبانی می‌شود)
    7. max_completion_tokens
    8. ابزارها - فراخوانی توابع پشتیبانی نمی‌شود

 

با وجود محدودیت‌ها، ویژگی Predicted Outputs از پتانسیل بالایی برخوردار است و به ایجاد ابزارهای سریع‌تر و کارآمدتر با پشتیبانی از مدل‌های زبانی بزرگ کمک می‌کند.

نظرتان را ثبت کنید کد خبر: 51422 گروه خبری: هوش مصنوعی منبع خبر: سافت گذر تاریخ خبر: 1403/08/16 تعداد مشاهده: 799
اخبار مرتبط با این خبر
نظر های کاربران
سرور آپدیت نود 32
پیشنهاد سافت گذر
زندگی روزانه مردم ایران

زندگی روزانه مردم ایران

مطالعه زندگی روزمره ایرانیان

Dragon Wars

Dragon Wars

جدال اژدها

Nihilumbra

Nihilumbra

سایه‌ی هیچ

Clockwork Empires

Clockwork Empires

امپراطوری های مکانیکی

مکان های دیدنی شهر شوشتر

مکان های دیدنی شهر شوشتر

سازه های آبی شوشتر - Shooshtar

تلاوت مجلسی استاد سید محسن موسوی بلده سوره مبارکه نصر

تلاوت مجلسی استاد سید محسن موسوی بلده سوره مبارکه نصر

تلاوت سید محسن موسوی بلده سوره نصر

آموزش اکسل

آموزش اکسل

آشنایی با Excel سریع و آسان

Adobe Animate CC 2018 v18.0.1.115 x64 / Mac / Portable + 2017

Adobe Animate CC 2018 v18.0.1.115 x64 / Mac / Portable + 2017

تولید و ویرایش انیمیشن ادوب انیمیت

خلاصه روان شناسی عمومی اثر اتکینسون

خلاصه روان شناسی عمومی اثر اتکینسون

روان شناسی عمومی اثر اتکینسون

راههای تقویت حافظه

راههای تقویت حافظه

آشنایی با انواع حافظه و روشهای یادگیری

AK Notepad 2.4.6 for Android

AK Notepad 2.4.6 for Android

دفترچه یادداشت

Matchstick Puzzles 11.16.2.2.1082 for Android

Matchstick Puzzles 11.16.2.2.1082 for Android

بازی با کبریت ها

زیارت اربعین و تکلیف شیعیان از زبان آیت الله سید احمد علم الهدی

زیارت اربعین و تکلیف شیعیان از زبان آیت الله سید احمد علم الهدی

زیارت اربعین و تکلیف شیعیان از زبان آیت الله سید احمد علم الهدی

Neon Flower Pro 1.0.4 for Android

Neon Flower Pro 1.0.4 for Android

گلهای نورانی زیبا

سخنرانی حجت الاسلام حسن عرفان با موضوع بیان نکات و سنت های عید نوروز و نگاه دین مبین اسلام

سخنرانی حجت الاسلام حسن عرفان با موضوع بیان نکات و سنت های عید نوروز و نگاه دین مبین اسلام

حاج آقا حسن عرفان با موضوع بیان نکات و سنت های عید نوروز

ناگفته های پیشرفته در ویندوز XP شماره دو

ناگفته های پیشرفته در ویندوز XP شماره دو

ترفندهای کمیاب و کاربردی Windows Explorer

Total War ROME II Emperor Edition + Update v2.2.0 Incl DLC

Total War ROME II Emperor Edition + Update v2.2.0 Incl DLC

جدیدترین، کامل‌ترین و بهبودیافته‌ترین نسخه از بازی Total War ROME II دارای تمامی آپدیت‌ها و دی‌ال‌سی‌های منتشر شده تاکنون

Passware Kit Forensic 2017.4.0 x86/x64

Passware Kit Forensic 2017.4.0 x86/x64

بیرون کشیدن پسورد کیت فورنسیک

کاشکی می آمدی

کاشکی می آمدی

چیستی انتظار

Arma Tactics

Arma Tactics

تاکتیک‌های نظامی

خبرنامه

با عضویت در خبرنامه، زودتر از همه باخبر باش!