سافت گذر دانشنامه نرم افزار - دانلود رایگان نرم افزار

همه دسته بندی ها

منو
جستجو
اطلاعیه های مهم سایت اطلاعیه های مهم سایت
💐 میلاد زینت پدر حضرت زینب سلام الله علیها مبارک باد 💐
 
 

💐 میلاد حضرت بقیة الله الاعظم حضرت مهدی صاحب الزمان عج الله تعالی فرجه مبارک باد 💐

  1. جهت رفع مشکل باز شدن سایت به دلیل بلاک توسط  نود 32 این ویدیو یا این ویدیو(ورژن 9 به بالا) یا راهنمای تصویری را مشاهده کنید
  2. اکانت های بروزرسانی نود32 با قیمت های مناسب به صورت یک ، سه ، شش و دوازده ماهه از اینجا قابل خرید می باشد.

نرم افزار های پرکاربرد

ثبت نام | ورود

هوش مصنوعی

کاهش چشمگیر تاخیر مدل‌های زبانی با ویژگی جدید Predicted Outputs

تاخیر یکی از مشکلات اساسی در بسیاری از کاربردهای مدل‌های زبانی بزرگ (LLM) است. در سناریوهایی مانند پیشنهادات کد و ویرایش اسناد طولانی، تاخیر می‌تواند تجربه کلی کاربر را تحت تاثیر قرار دهد. فرض کنید کاربری می‌خواهد پاراگراف آخر یک سند دو صفحه‌ای را بازنویسی کند. بهتر است که سند بازنویسی‌ شده فوراً ظاهر شود، چون تغییر تنها شامل یک پاراگراف است. اما APIهای فعلی مدل‌های زبانی بزرگ نیاز به بازتولید کل سند دارند که باعث تاخیر قابل توجهی برای کاربران می‌شود.

 

کاهش چشمگیر تاخیر مدل‌های زبانی با ویژگی جدید Predicted Outputs

 

OpenAI اکنون در تلاش است این مشکل را با ویژگی جدیدی به نام Predicted Outputs حل کند. این ویژگی می‌تواند در مواردی استفاده شود که بیشتر خروجی مدل زبانی از پیش مشخص است. وظایفی مانند ویرایش اسناد یا بازنویسی کد می‌توانند با این ویژگی بهبود یابند. Predicted Outputs با استفاده از روشی به نام رمزگشایی پیش‌ گویی (speculative decoding) محتوای شناخته‌ شده را رد می‌کند و تکرارها را بسیار سریع‌تر می‌کند.

توسعه‌ دهندگان می‌توانند با ارائه محتوای موجود به عنوان پیش‌ گویی، تاخیر را بطور قابل توجهی کاهش دهند. با این کار، کل محتوا با سرعت بسیار بیشتری بازتولید می‌شود.

OpenAI این ویژگی را با تعدادی از شرکای خارجی خود آزمایش کرد و نتایج بسیار مثبتی حاصل شد. به عنوان مثال، طبق معیارهای داخلی تیم Microsoft GitHub، استفاده از Predicted Outputs در وظایف Copilot Workspace منجر به افزایش سرعت ۵.۸ برابری شد.

تیم Exponent نیز به آزمایش و بهبود این API کمک کرد و اذعان داشتند که Predicted Outputs بسیار سریع عمل می‌کند و تجربه کاری فوق‌ العاده‌ای را برای توسعه‌ دهندگان فراهم می‌آورد. Exponent اعلام کرد که برای دسترسی زودهنگام به این ویژگی می‌توانید در Exponent ثبت‌نام کنید.

 

محدودیت‌ها در استفاده از Predicted Outputs:

  1. این ویژگی تنها برای مدل‌های سری GPT-4o و GPT-4o-mini پشتیبانی می‌شود و مدل‌های جدیدتر o1 شامل این قابلیت نیستند.
  2. همچنین پارامترهای زیر در زمان استفاده از Predicted Outputs پشتیبانی نمی‌شوند:
    1. مقادیر n بیشتر از ۱
    2. logprobs
    3. presence_penalty بالاتر از ۰
    4. frequency_penalty بالاتر از ۰
    5. گزینه‌های صوتی
    6. سایر حالت‌ها (تنها حالت متنی پشتیبانی می‌شود)
    7. max_completion_tokens
    8. ابزارها - فراخوانی توابع پشتیبانی نمی‌شود

 

با وجود محدودیت‌ها، ویژگی Predicted Outputs از پتانسیل بالایی برخوردار است و به ایجاد ابزارهای سریع‌تر و کارآمدتر با پشتیبانی از مدل‌های زبانی بزرگ کمک می‌کند.

نظرتان را ثبت کنید کد خبر: 51422 گروه خبری: هوش مصنوعی منبع خبر: سافت گذر تاریخ خبر: 1403/08/16 تعداد مشاهده: 980
اخبار مرتبط با این خبر
نظر های کاربران
سرور آپدیت نود 32
پیشنهاد سافت گذر
Joe Danger 2 The Movie + Update 1

Joe Danger 2 The Movie + Update 1

جو خطر 2 - نسخه سینمایی

Airflow 3.3.7

Airflow 3.3.7

پخش ویدیو

Lynda - First Look: Java 9

Lynda - First Look: Java 9

آموزش جاوا

عزّت و اقتدار حضرت زینب (س) از زبان آیت الله سید احمد علم الهدی

عزّت و اقتدار حضرت زینب (س) از زبان آیت الله سید احمد علم الهدی

عزّت و اقتدار حضرت زینب (س) از زبان آیت الله سید احمد علم الهدی

LiveIRIB 2.1 for Android +2.2

LiveIRIB 2.1 for Android +2.2

برنامه رسمی صدا و سیما برای پخش زنده شبکه های تلویزیونی و رادیو

Sound & Voice Recorder - ASR Premium 87 for Android +2.3

Sound & Voice Recorder - ASR Premium 87 for Android +2.3

ضبط صدا

ریشه های عدم بصیرت از زبان آیت الله مصباح یزدی

ریشه های عدم بصیرت از زبان آیت الله مصباح یزدی

ریشه های عدم بصیرت از زبان آیت الله مصباح یزدی

آموزش نصب Apache2 – PHP 5 – MySQL 5 تحت ویندوز

آموزش نصب Apache2 – PHP 5 – MySQL 5 تحت ویندوز

آموزش آپاچی2 - پی اچ پی - مای اس کیو ال5

The Ultimate Lightroom Preset Collection

The Ultimate Lightroom Preset Collection

مجموعه کامل و بی نظیر تنظیمات آماده برای فتوشاپ و لایتروم

Command And Conquer 4 Tiberian Twilight

Command And Conquer 4 Tiberian Twilight

نسخه جدید بازی استراتژیک جنرالز

GooCubelets 2

GooCubelets 2

مکعب‌های ژله‌ای 2

Windows 10 AIO 22H2 Build 19045.5487 February 2025

Windows 10 AIO 22H2 Build 19045.5487 February 2025

ویندوز 10

CloudPlayer by doubleTwist Full 1.5.4 for Android +4.1

CloudPlayer by doubleTwist Full 1.5.4 for Android +4.1

کلود پلیر

Neon Snake 1.0 for Android

Neon Snake 1.0 for Android

بازی مار

Fortra Automate 2024 v24.1.0.51

Fortra Automate 2024 v24.1.0.51

خودکارسازی وظایف

Auslogics BoostSpeed 14.0

Auslogics BoostSpeed 14.0

بوست اسپید

Viva Zapata

Viva Zapata

زنده باد زاپاتا

راهنمای A-Z برای غذا به عنوان دارو

راهنمای A-Z برای غذا به عنوان دارو

غذا به عنوان دارو

هدایت مسیر ذهنی به سوی روشنی

هدایت مسیر ذهنی به سوی روشنی

تمرینی برای داشتن ذهنی آرام و تقویت انگیزه و روح انسان

Resktop 1.0.0.33

Resktop 1.0.0.33

رسکتاپ

آموزش RFID

آموزش RFID

آموزش آر اف آی دی

Oxford Collocations Dictionary 2nd Edition 2009

Oxford Collocations Dictionary 2nd Edition 2009

فرهنگ لغت آکسفورد شامل عبارات دو یا چند کلمه ای و ترکیبی (کالوکیشن)

RIDE 5: Special Edition

RIDE 5: Special Edition

موتورسواری برای کامپیوتر

Unlimited Call Log 3.1.1 for Android +4.0

Unlimited Call Log 3.1.1 for Android +4.0

شماره گیر و گزارش تماس

راهنمای جامع نرم افزار ESET Smart Security

راهنمای جامع نرم افزار ESET Smart Security

راهنمای ایست اسمارت سکوریتی

Ocean HD 1.8.1 for Android +2.3

Ocean HD 1.8.1 for Android +2.3

اعماق اقیانوس

Blackfaun

Blackfaun

بلک فان

Super Speed Cleaner 1.6.8 for Android +4.0.3

Super Speed Cleaner 1.6.8 for Android +4.0.3

بهینه ساز سوپر اسپید

Lynda - TypeScript Essential Training

Lynda - TypeScript Essential Training

فیلم آموزش اصول کار با تایپ‌اسکریپت

InfiniteSkills - Advanced Microsoft Access 2013 Training Video

InfiniteSkills - Advanced Microsoft Access 2013 Training Video

فیلم آموزش سطح پیشرفته‌ی مایکروسافت اکسس 2013

Animated Weather Widget&Clock 6.7.1.5f1 for Android +4.0

Animated Weather Widget&Clock 6.7.1.5f1 for Android +4.0

ویجت آب و هوا

KeePassXC 2.7.10

KeePassXC 2.7.10

مدیریت پسورد

سخنرانی حجت الاسلام پناهیان درباره اخلاص

سخنرانی حجت الاسلام پناهیان درباره اخلاص

سخنرانی حجت الاسلام پناهیان با موضوع اخلاص

5 جلسه تأثیر دین در زندگی از حجت الاسلام والمسلمین پناهیان

5 جلسه تأثیر دین در زندگی از حجت الاسلام والمسلمین پناهیان

حاج آقا پناهیان با موضوع تأثیر دین در زندگی

COMSOL Multiphysics 6.1.282 / 5.6.0.401 / 5.1.3 Win/Mac/Linux

COMSOL Multiphysics 6.1.282 / 5.6.0.401 / 5.1.3 Win/Mac/Linux

کامسول مولتی‌ فیزیکس

Sketch Guru 1.4.2 for Android

Sketch Guru 1.4.2 for Android

طراحی با رنگ ها

آشنایی با داعش

آشنایی با داعش

ISIS tragedy

بهداشت روان موضوعی فراتر از فقدان یا نبود بیماری روانی

بهداشت روان موضوعی فراتر از فقدان یا نبود بیماری روانی

اهمیت حفظ سلامت روانی خود

JP Software CMDebug 33.00.9

JP Software CMDebug 33.00.9

اشکال‌زدایی اسکریپت‌های دسته‌ای

Buzz Aldrin's Space Program Manager

Buzz Aldrin's Space Program Manager

بـاز آلدرین - شبیه‌ساز مدیریت سفر به فضا

خبرنامه

با عضویت در خبرنامه، زودتر از همه باخبر باش!