سافت گذر دانشنامه نرم افزار - دانلود رایگان نرم افزار

همه دسته بندی ها

منو
جستجو
اطلاعیه های مهم سایت اطلاعیه های مهم سایت
💐 میلاد زینت پدر حضرت زینب سلام الله علیها مبارک باد 💐
 
 

💐 میلاد حضرت بقیة الله الاعظم حضرت مهدی صاحب الزمان عج الله تعالی فرجه مبارک باد 💐

  1. جهت رفع مشکل باز شدن سایت به دلیل بلاک توسط  نود 32 این ویدیو یا این ویدیو(ورژن 9 به بالا) یا راهنمای تصویری را مشاهده کنید
  2. اکانت های بروزرسانی نود32 با قیمت های مناسب به صورت یک ، سه ، شش و دوازده ماهه از اینجا قابل خرید می باشد.

نرم افزار های پرکاربرد

ثبت نام | ورود

هوش مصنوعی

کاهش چشمگیر تاخیر مدل‌های زبانی با ویژگی جدید Predicted Outputs

تاخیر یکی از مشکلات اساسی در بسیاری از کاربردهای مدل‌های زبانی بزرگ (LLM) است. در سناریوهایی مانند پیشنهادات کد و ویرایش اسناد طولانی، تاخیر می‌تواند تجربه کلی کاربر را تحت تاثیر قرار دهد. فرض کنید کاربری می‌خواهد پاراگراف آخر یک سند دو صفحه‌ای را بازنویسی کند. بهتر است که سند بازنویسی‌ شده فوراً ظاهر شود، چون تغییر تنها شامل یک پاراگراف است. اما APIهای فعلی مدل‌های زبانی بزرگ نیاز به بازتولید کل سند دارند که باعث تاخیر قابل توجهی برای کاربران می‌شود.

 

کاهش چشمگیر تاخیر مدل‌های زبانی با ویژگی جدید Predicted Outputs

 

OpenAI اکنون در تلاش است این مشکل را با ویژگی جدیدی به نام Predicted Outputs حل کند. این ویژگی می‌تواند در مواردی استفاده شود که بیشتر خروجی مدل زبانی از پیش مشخص است. وظایفی مانند ویرایش اسناد یا بازنویسی کد می‌توانند با این ویژگی بهبود یابند. Predicted Outputs با استفاده از روشی به نام رمزگشایی پیش‌ گویی (speculative decoding) محتوای شناخته‌ شده را رد می‌کند و تکرارها را بسیار سریع‌تر می‌کند.

توسعه‌ دهندگان می‌توانند با ارائه محتوای موجود به عنوان پیش‌ گویی، تاخیر را بطور قابل توجهی کاهش دهند. با این کار، کل محتوا با سرعت بسیار بیشتری بازتولید می‌شود.

OpenAI این ویژگی را با تعدادی از شرکای خارجی خود آزمایش کرد و نتایج بسیار مثبتی حاصل شد. به عنوان مثال، طبق معیارهای داخلی تیم Microsoft GitHub، استفاده از Predicted Outputs در وظایف Copilot Workspace منجر به افزایش سرعت ۵.۸ برابری شد.

تیم Exponent نیز به آزمایش و بهبود این API کمک کرد و اذعان داشتند که Predicted Outputs بسیار سریع عمل می‌کند و تجربه کاری فوق‌ العاده‌ای را برای توسعه‌ دهندگان فراهم می‌آورد. Exponent اعلام کرد که برای دسترسی زودهنگام به این ویژگی می‌توانید در Exponent ثبت‌نام کنید.

 

محدودیت‌ها در استفاده از Predicted Outputs:

  1. این ویژگی تنها برای مدل‌های سری GPT-4o و GPT-4o-mini پشتیبانی می‌شود و مدل‌های جدیدتر o1 شامل این قابلیت نیستند.
  2. همچنین پارامترهای زیر در زمان استفاده از Predicted Outputs پشتیبانی نمی‌شوند:
    1. مقادیر n بیشتر از ۱
    2. logprobs
    3. presence_penalty بالاتر از ۰
    4. frequency_penalty بالاتر از ۰
    5. گزینه‌های صوتی
    6. سایر حالت‌ها (تنها حالت متنی پشتیبانی می‌شود)
    7. max_completion_tokens
    8. ابزارها - فراخوانی توابع پشتیبانی نمی‌شود

 

با وجود محدودیت‌ها، ویژگی Predicted Outputs از پتانسیل بالایی برخوردار است و به ایجاد ابزارهای سریع‌تر و کارآمدتر با پشتیبانی از مدل‌های زبانی بزرگ کمک می‌کند.

نظرتان را ثبت کنید کد خبر: 51422 گروه خبری: هوش مصنوعی منبع خبر: سافت گذر تاریخ خبر: 1403/08/16 تعداد مشاهده: 979
اخبار مرتبط با این خبر
نظر های کاربران
سرور آپدیت نود 32
پیشنهاد سافت گذر
بانگ اذان استاد پرهیزگار

بانگ اذان استاد پرهیزگار

اذان استاد پرهیزگار

Batman Ninja

Batman Ninja

بتمن

سخنرانی حجت الاسلام انصاریان با موضوع اهلبیت (ع) و خصوصیات مومنان و شیعیان واقعی - 2 جلسه

سخنرانی حجت الاسلام انصاریان با موضوع اهلبیت (ع) و خصوصیات مومنان و شیعیان واقعی - 2 جلسه

حاج آقا انصاریان با موضوع اهلبیت (ع) و خصوصیات مومنان و شیعیان واقعی

Nuance OmniPage Ultimate 19.6 / 19.0 / X R04 for Mac

Nuance OmniPage Ultimate 19.6 / 19.0 / X R04 for Mac

امنی پیج

فوریت‌های طب ایرانی (سنتی) 14 جلدی

فوریت‌های طب ایرانی (سنتی) 14 جلدی

پزشکی سنتی - پزشکی ایرانی

Mozilla Firefox 130.0 Portable

Mozilla Firefox 130.0 Portable

فایرفاکس پرتابل

Strike Vector EX

Strike Vector EX

هواپیمای جنگی

Farm Story 1.9.6 for Android

Farm Story 1.9.6 for Android

مزرعه اینترنتی

Lynda - Bootstrap Layouts - Responsive Single-Page Design

Lynda - Bootstrap Layouts - Responsive Single-Page Design

فیلم آموزش طرح‌بندی‌های بوت‌استرپ - طراحی سایت تک‌صفحه‌ای واکنش‌گرا

آموزش تصویری  Xilisoft DVD Ripper Platinum

آموزش تصویری Xilisoft DVD Ripper Platinum

آموزش ایکسیلی سافت دی وی دی ریپر

Pluralsight - System Center 2012 R2 - Advanced Virtual Machine Provisioning

Pluralsight - System Center 2012 R2 - Advanced Virtual Machine Provisioning

فیلم آموزش سیستم سنتر 2012 آر‌2 - تأمین و تنظیم پیشرفته‌ی ماشین مجازی

Ultra GPS Logger 3.196 for Android +9.0

Ultra GPS Logger 3.196 for Android +9.0

ردیاب جی پی اس

Udemy - The Ultimate Drawing Course - Beginner to Advanced

Udemy - The Ultimate Drawing Course - Beginner to Advanced

آموزش کامل طراحی

Worms W.M.D with Update v1.2

Worms W.M.D with Update v1.2

کرم‌ها

مداحی حاج مهدی رسولی سال 97

مداحی حاج مهدی رسولی سال 97

مداحی رسولی سال 97

R-Tools R-Drive Image 7.3 Build 7303 + BootCD

R-Tools R-Drive Image 7.3 Build 7303 + BootCD

پشتیبان‌گیری و بازیابی سریع

توصیه حضرت رضا (ع) برای روزهای پایانی ماه شعبان و وداع با ماه شعبان

توصیه حضرت رضا (ع) برای روزهای پایانی ماه شعبان و وداع با ماه شعبان

دعاى شب آخر شعبان و شب اول رمضان

خاطرات ع‍ب‍دال‍رض‍ا ه‍وش‍ن‍گ‌ م‍ه‍دوی‌

خاطرات ع‍ب‍دال‍رض‍ا ه‍وش‍ن‍گ‌ م‍ه‍دوی‌

پهلوی دوم محمدرضا شاه

Office Tab Enterprise 14.50

Office Tab Enterprise 14.50

تب در نرم افزارهای آفیس

Kaspersky Total Security Offline Update

Kaspersky Total Security Offline Update

آپدیت آفلاین کسپرسکی توتال سکیوریتی

تقویت پوست صورت

تقویت پوست صورت

ساخت و فروش انواع ماسک صورت

1001Jigsaw - Earth Chronicles 4

1001Jigsaw - Earth Chronicles 4

هزار و یک پازل - تاریخچه‌ی زمین 4

FIA European Truck Racing Championship

FIA European Truck Racing Championship

رانندگی با کامیون

سخنرانی حجت الاسلام پناهیان با موضوع آثار تربیتی و اجتماعی خوف از خدا - 11 جلسه

سخنرانی حجت الاسلام پناهیان با موضوع آثار تربیتی و اجتماعی خوف از خدا - 11 جلسه

سخنرانی آثار تربیتی و اجتماعی خوف از خدا پناهیان

.A.V

.A.V

A V

تشخیص بیماری‌ها از طریق پوست

تشخیص بیماری‌ها از طریق پوست

درمان از طریق پوست

Pluralsight - ASP.NET Security Secrets Revealed

Pluralsight - ASP.NET Security Secrets Revealed

فیلم آموزش راه‌کارهای اسرارآمیز افزایش امنیت در ASP.NET

مجله تخصصی برای علاقه مندان به صنعت خودرو و ماشین اسپورت

مجله تخصصی برای علاقه مندان به صنعت خودرو و ماشین اسپورت

مجله Road & Track فوریه و مارس 2021

Learning Adobe Dreamweaver CS5

Learning Adobe Dreamweaver CS5

آموزش ادوب دیریم ویور سی اس 5

Locked-in syndrome

Locked-in syndrome

نشانگان قفل‌شدگی

King Oddball v1.2.5.3

King Oddball v1.2.5.3

پادشاه عجیب و غریب

Sonic & SEGA All-Stars Racing 1.0.1 for Android

Sonic & SEGA All-Stars Racing 1.0.1 for Android

بازی پیست مسابقه سونیک

تربیت در خانواده و جامعه

تربیت در خانواده و جامعه

تربیت اسلامی

GoldenDict 1.6.4 for Android +4.4

GoldenDict 1.6.4 for Android +4.4

فرهنگ لغت گولدن

Exif Pilot 6.23

Exif Pilot 6.23

ویرایش عکس های اگزیف

مداحی حاج محمد رضا طاهری سال 96

مداحی حاج محمد رضا طاهری سال 96

محرم شب اول تا شام غریبان طاهری

CATIA P3 V5-6R2014 (V5R24) GA x86/x64 + Documentation + SP4

CATIA P3 V5-6R2014 (V5R24) GA x86/x64 + Documentation + SP4

قدرتمند ترین نرم افزار طراحی، مهندسی و ساخت با کمک رایانه

Morphine

Morphine

مورفین

Mosaique 1.4.3 for Android

Mosaique 1.4.3 for Android

بازی با موزاییک های رنگی

Age of Zombies 1.2.82 for Android +2.3

Age of Zombies 1.2.82 for Android +2.3

بازی عصر زامبی ها

خبرنامه

با عضویت در خبرنامه، زودتر از همه باخبر باش!