سافت گذر دانشنامه نرم افزار - دانلود رایگان نرم افزار

همه دسته بندی ها

منو
جستجو
اطلاعیه های مهم سایت اطلاعیه های مهم سایت
💐 میلاد زینت پدر حضرت زینب سلام الله علیها مبارک باد 💐
 
 

💐 میلاد حضرت بقیة الله الاعظم حضرت مهدی صاحب الزمان عج الله تعالی فرجه مبارک باد 💐

  1. جهت رفع مشکل باز شدن سایت به دلیل بلاک توسط  نود 32 این ویدیو یا این ویدیو(ورژن 9 به بالا) یا راهنمای تصویری را مشاهده کنید
  2. اکانت های بروزرسانی نود32 با قیمت های مناسب به صورت یک ، سه ، شش و دوازده ماهه از اینجا قابل خرید می باشد.

نرم افزار های پرکاربرد

ثبت نام | ورود

هوش مصنوعی

کاهش چشمگیر تاخیر مدل‌های زبانی با ویژگی جدید Predicted Outputs

تاخیر یکی از مشکلات اساسی در بسیاری از کاربردهای مدل‌های زبانی بزرگ (LLM) است. در سناریوهایی مانند پیشنهادات کد و ویرایش اسناد طولانی، تاخیر می‌تواند تجربه کلی کاربر را تحت تاثیر قرار دهد. فرض کنید کاربری می‌خواهد پاراگراف آخر یک سند دو صفحه‌ای را بازنویسی کند. بهتر است که سند بازنویسی‌ شده فوراً ظاهر شود، چون تغییر تنها شامل یک پاراگراف است. اما APIهای فعلی مدل‌های زبانی بزرگ نیاز به بازتولید کل سند دارند که باعث تاخیر قابل توجهی برای کاربران می‌شود.

 

کاهش چشمگیر تاخیر مدل‌های زبانی با ویژگی جدید Predicted Outputs

 

OpenAI اکنون در تلاش است این مشکل را با ویژگی جدیدی به نام Predicted Outputs حل کند. این ویژگی می‌تواند در مواردی استفاده شود که بیشتر خروجی مدل زبانی از پیش مشخص است. وظایفی مانند ویرایش اسناد یا بازنویسی کد می‌توانند با این ویژگی بهبود یابند. Predicted Outputs با استفاده از روشی به نام رمزگشایی پیش‌ گویی (speculative decoding) محتوای شناخته‌ شده را رد می‌کند و تکرارها را بسیار سریع‌تر می‌کند.

توسعه‌ دهندگان می‌توانند با ارائه محتوای موجود به عنوان پیش‌ گویی، تاخیر را بطور قابل توجهی کاهش دهند. با این کار، کل محتوا با سرعت بسیار بیشتری بازتولید می‌شود.

OpenAI این ویژگی را با تعدادی از شرکای خارجی خود آزمایش کرد و نتایج بسیار مثبتی حاصل شد. به عنوان مثال، طبق معیارهای داخلی تیم Microsoft GitHub، استفاده از Predicted Outputs در وظایف Copilot Workspace منجر به افزایش سرعت ۵.۸ برابری شد.

تیم Exponent نیز به آزمایش و بهبود این API کمک کرد و اذعان داشتند که Predicted Outputs بسیار سریع عمل می‌کند و تجربه کاری فوق‌ العاده‌ای را برای توسعه‌ دهندگان فراهم می‌آورد. Exponent اعلام کرد که برای دسترسی زودهنگام به این ویژگی می‌توانید در Exponent ثبت‌نام کنید.

 

محدودیت‌ها در استفاده از Predicted Outputs:

  1. این ویژگی تنها برای مدل‌های سری GPT-4o و GPT-4o-mini پشتیبانی می‌شود و مدل‌های جدیدتر o1 شامل این قابلیت نیستند.
  2. همچنین پارامترهای زیر در زمان استفاده از Predicted Outputs پشتیبانی نمی‌شوند:
    1. مقادیر n بیشتر از ۱
    2. logprobs
    3. presence_penalty بالاتر از ۰
    4. frequency_penalty بالاتر از ۰
    5. گزینه‌های صوتی
    6. سایر حالت‌ها (تنها حالت متنی پشتیبانی می‌شود)
    7. max_completion_tokens
    8. ابزارها - فراخوانی توابع پشتیبانی نمی‌شود

 

با وجود محدودیت‌ها، ویژگی Predicted Outputs از پتانسیل بالایی برخوردار است و به ایجاد ابزارهای سریع‌تر و کارآمدتر با پشتیبانی از مدل‌های زبانی بزرگ کمک می‌کند.

نظرتان را ثبت کنید کد خبر: 51422 گروه خبری: هوش مصنوعی منبع خبر: سافت گذر تاریخ خبر: 1403/08/16 تعداد مشاهده: 978
اخبار مرتبط با این خبر
نظر های کاربران
سرور آپدیت نود 32
پیشنهاد سافت گذر
تلاوت مجلسی استاد شحات محمد انور سوره مبارکه اخلاص

تلاوت مجلسی استاد شحات محمد انور سوره مبارکه اخلاص

تلاوت شحات محمد انور سوره اخلاص

Football Club Simulator 18

Football Club Simulator 18

مدیریت فوتبال

I Gladiator 1.13.1.23383 for Android +2.3

I Gladiator 1.13.1.23383 for Android +2.3

بازی گلادیاتور

آموزش نرم افزار CorelDRAW X4

آموزش نرم افزار CorelDRAW X4

آموزش کورل دراو ایکس4

Broadsword - Age of Chivalry

Broadsword - Age of Chivalry

شمشیر - عصر دلاوری

مجله تخصصی موتورسیکلت

مجله تخصصی موتورسیکلت

مجله Australian Motorcycle News سوم دسامبر 2020

Titan Souls

Titan Souls

ارواح تایتان

10 جلسه گناه چیست؟ توبه چگونه است؟ از حجت الاسلام والمسلمین پناهیان

10 جلسه گناه چیست؟ توبه چگونه است؟ از حجت الاسلام والمسلمین پناهیان

حاج آقا پناهیان با موضوع گناه چیست؟ توبه چگونه است؟

InstallAware Studio Admin X13 30.07.00.2021 / X12 / X11

InstallAware Studio Admin X13 30.07.00.2021 / X12 / X11

ساخت نصب کننده برنامه ها

12 Monkeys

12 Monkeys

۱۲ میمون

Autodesk AutoCAD 2017 SP1 x86/x64 + LT 2017 / Mac 2017.2 + SP1 x86/x64

Autodesk AutoCAD 2017 SP1 x86/x64 + LT 2017 / Mac 2017.2 + SP1 x86/x64

برنامه نقشه‌کشی اتو کد

Forsk Atoll 3.3.2 build 7383 + 3.1.2 build 4478 Portable + Documents

Forsk Atoll 3.3.2 build 7383 + 3.1.2 build 4478 Portable + Documents

بهینه سازی شبکه های اپراتورهای وایرلس فورسک اتول

Footej Camera Premium 2021.5.3 For Android +5.0

Footej Camera Premium 2021.5.3 For Android +5.0

فوتج

How to raise successful kids — without over-parenting by Julie Lythcott-Haims | TED Talks

How to raise successful kids — without over-parenting by Julie Lythcott-Haims | TED Talks

روش تربیت صحیح فرزندان

ANSYS Products 15.0.7 x64

ANSYS Products 15.0.7 x64

انسیس

دوره آموزش ویدئویی نرم‌افزار Word به زبان فارسی

دوره آموزش ویدئویی نرم‌افزار Word به زبان فارسی

آموزش ورد

Cold Waters

Cold Waters

استراتژیک جنگی

ضرب المثل های انگلیسی

ضرب المثل های انگلیسی

آشنایی با ضرب المثل های انگلیسی

آشنایی با لینوکس فدورا

آشنایی با لینوکس فدورا

کاربرد Linux Fedora در شبکه های کامپیوتری

Planet Coaster Complete Edition

Planet Coaster Complete Edition

مدیریت شهربازی

Fishdom 3 Collector's Edition

Fishdom 3 Collector's Edition

نسخه سوم از سری بازی محبوب و جذاب Fishdom

Tengami

Tengami

تِنگامی

Windows 11 24H2 Build 26100.3194 RTM MSDN VL February 2025

Windows 11 24H2 Build 26100.3194 RTM MSDN VL February 2025

ویندوز 11

آموزش و فواید خودشناسی

آموزش و فواید خودشناسی

چطور خود را بشناسیم و اصلاً شناختن خودمان چه مزایایی دارد؟

LeoMoon JalaliTray 1.0.0 Win/Mac/Linux

LeoMoon JalaliTray 1.0.0 Win/Mac/Linux

لئومون تقویم جلالی

Bus Parking 3D 1.7.7 for Android +2.3

Bus Parking 3D 1.7.7 for Android +2.3

بازی پارک اتوبوس

SiSoftware Sandra Business / Personal / Tech Support (Engineer) 2016.03.22.20

SiSoftware Sandra Business / Personal / Tech Support (Engineer) 2016.03.22.20

بهترین برنامه برای بدست آوردن مشخصات دقیق سیستم و تست قطعات و مقایسه با نتایج استاندارد

سخنرانی های آیت الله شهید مطهری بخش چهارم

سخنرانی های آیت الله شهید مطهری بخش چهارم

Shahid Motahari

Sleep as Android 20250220 for Android +7.0

Sleep as Android 20250220 for Android +7.0

آلارم و مدیریت خواب

SuperStars V8 Racing

SuperStars V8 Racing

مسابقه ی ماشین های 8 سیلندر

QuickSurface 2025 v7.0.14 (x64)

QuickSurface 2025 v7.0.14 (x64)

معکوس مدل های سه بعدی

QTranslate 6.10.0 + Portable

QTranslate 6.10.0 + Portable

ترجمه آنلاین متن

SoundCloud Music & Audio 2025.03.03 For Android +8.0

SoundCloud Music & Audio 2025.03.03 For Android +8.0

ساند کلاد

Systat 2015 Suite

Systat 2015 Suite

نرم افزاری حرفه ای جهت رسم نمودار و آنالیز داده ها

Pluralsight - CSS3 In-Depth

Pluralsight - CSS3 In-Depth

فیلم آموزش کامل سی‌اس‌اس3

OMEN Gaming Hub 1101.2302.3.0

OMEN Gaming Hub 1101.2302.3.0

برنامه افزایش کارایی بازی های کامپیوتری

Whisper 9.6.0 for Android +4.0

Whisper 9.6.0 for Android +4.0

دیوار نویس

Stellar 2D

Stellar 2D

ستاره‌وار

MediaVault 5.2.2 for Android

MediaVault 5.2.2 for Android

مخفی کردن تصاویر و ویدئوها

گلچین سخنرانی وفات حضرت خدیجه (سلام الله علیها)

گلچین سخنرانی وفات حضرت خدیجه (سلام الله علیها)

گلچین سخنرانی پیرامون حضرت خدیجه

خبرنامه

با عضویت در خبرنامه، زودتر از همه باخبر باش!