سافت گذر دانشنامه نرم افزار - دانلود رایگان نرم افزار

همه دسته بندی ها

منو
جستجو
اطلاعیه های مهم سایت اطلاعیه های مهم سایت
💐 میلاد زینت پدر حضرت زینب سلام الله علیها مبارک باد 💐
 
 
  1. سافت گذر لباس نو به تن کرده😍(فعلا آزمایشی)
  2. 🔰جایگزین مناسب Kaspersky خرید لایسنس نود 32
  3. جهت رفع مشکل باز شدن سایت به دلیل بلاک توسط  نود 32 این ویدیو یا این ویدیو(ورژن 9 به بالا) یا راهنمای تصویری را مشاهده کنید
  4. اکانت های بروزرسانی نود32 با قیمت های مناسب به صورت یک ، سه ، شش و دوازده ماهه از اینجا قابل خرید می باشد.

نرم افزار های پرکاربرد

ثبت نام | ورود

هوش مصنوعی

کاهش چشمگیر تاخیر مدل‌های زبانی با ویژگی جدید Predicted Outputs

تاخیر یکی از مشکلات اساسی در بسیاری از کاربردهای مدل‌های زبانی بزرگ (LLM) است. در سناریوهایی مانند پیشنهادات کد و ویرایش اسناد طولانی، تاخیر می‌تواند تجربه کلی کاربر را تحت تاثیر قرار دهد. فرض کنید کاربری می‌خواهد پاراگراف آخر یک سند دو صفحه‌ای را بازنویسی کند. بهتر است که سند بازنویسی‌ شده فوراً ظاهر شود، چون تغییر تنها شامل یک پاراگراف است. اما APIهای فعلی مدل‌های زبانی بزرگ نیاز به بازتولید کل سند دارند که باعث تاخیر قابل توجهی برای کاربران می‌شود.

 

کاهش چشمگیر تاخیر مدل‌های زبانی با ویژگی جدید Predicted Outputs

 

OpenAI اکنون در تلاش است این مشکل را با ویژگی جدیدی به نام Predicted Outputs حل کند. این ویژگی می‌تواند در مواردی استفاده شود که بیشتر خروجی مدل زبانی از پیش مشخص است. وظایفی مانند ویرایش اسناد یا بازنویسی کد می‌توانند با این ویژگی بهبود یابند. Predicted Outputs با استفاده از روشی به نام رمزگشایی پیش‌ گویی (speculative decoding) محتوای شناخته‌ شده را رد می‌کند و تکرارها را بسیار سریع‌تر می‌کند.

توسعه‌ دهندگان می‌توانند با ارائه محتوای موجود به عنوان پیش‌ گویی، تاخیر را بطور قابل توجهی کاهش دهند. با این کار، کل محتوا با سرعت بسیار بیشتری بازتولید می‌شود.

OpenAI این ویژگی را با تعدادی از شرکای خارجی خود آزمایش کرد و نتایج بسیار مثبتی حاصل شد. به عنوان مثال، طبق معیارهای داخلی تیم Microsoft GitHub، استفاده از Predicted Outputs در وظایف Copilot Workspace منجر به افزایش سرعت ۵.۸ برابری شد.

تیم Exponent نیز به آزمایش و بهبود این API کمک کرد و اذعان داشتند که Predicted Outputs بسیار سریع عمل می‌کند و تجربه کاری فوق‌ العاده‌ای را برای توسعه‌ دهندگان فراهم می‌آورد. Exponent اعلام کرد که برای دسترسی زودهنگام به این ویژگی می‌توانید در Exponent ثبت‌نام کنید.

 

محدودیت‌ها در استفاده از Predicted Outputs:

  1. این ویژگی تنها برای مدل‌های سری GPT-4o و GPT-4o-mini پشتیبانی می‌شود و مدل‌های جدیدتر o1 شامل این قابلیت نیستند.
  2. همچنین پارامترهای زیر در زمان استفاده از Predicted Outputs پشتیبانی نمی‌شوند:
    1. مقادیر n بیشتر از ۱
    2. logprobs
    3. presence_penalty بالاتر از ۰
    4. frequency_penalty بالاتر از ۰
    5. گزینه‌های صوتی
    6. سایر حالت‌ها (تنها حالت متنی پشتیبانی می‌شود)
    7. max_completion_tokens
    8. ابزارها - فراخوانی توابع پشتیبانی نمی‌شود

 

با وجود محدودیت‌ها، ویژگی Predicted Outputs از پتانسیل بالایی برخوردار است و به ایجاد ابزارهای سریع‌تر و کارآمدتر با پشتیبانی از مدل‌های زبانی بزرگ کمک می‌کند.

نظرتان را ثبت کنید کد خبر: 51422 گروه خبری: هوش مصنوعی منبع خبر: سافت گذر تاریخ خبر: 1403/08/16 تعداد مشاهده: 798
اخبار مرتبط با این خبر
نظر های کاربران
سرور آپدیت نود 32
پیشنهاد سافت گذر
Autodesk AutoCAD 2013 SP2 / LT SP1.1 x86/x64 + Portable

Autodesk AutoCAD 2013 SP2 / LT SP1.1 x86/x64 + Portable

نسخه 2013 قدرتمندترین برنامه نقشه‌کشی ویرایش 32 و 64 بیتی

تلاوت مجلسی استاد شحات محمد انور سوره مبارکه آل عمران

تلاوت مجلسی استاد شحات محمد انور سوره مبارکه آل عمران

تلاوت شحات محمد انور سوره آل عمران

Stellar Repair for Video 6.8.0.1

Stellar Repair for Video 6.8.0.1

تعمیر ویدئوهای خراب

Udemy - Expert Advisor Programming in MQL5 Part 1: Fundamentals

Udemy - Expert Advisor Programming in MQL5 Part 1: Fundamentals

آموزش برنامه نویسی MQL5

Space Invaders Extreme

Space Invaders Extreme

مهاجمان فضایی

Blackfaun

Blackfaun

بلک فان

Kings of Kung Fu

Kings of Kung Fu

پادشاهان کونگ فو

PicFrame 3.7.5 for Android +4.1

PicFrame 3.7.5 for Android +4.1

قاب تصویر

PDMS 12.0 SP5 / SP6.25

PDMS 12.0 SP5 / SP6.25

نرم افزار طراحی سیستم های تاسیساتی برای واحد های نفتی و پتروشیمی

آموزش تصویری کار با پاورپوینت 2007 و 2010

آموزش تصویری کار با پاورپوینت 2007 و 2010

آموزش پاورپوینت

چشم بندی

چشم بندی

اسرار ساده چشم بندی

مکّی یا مدنی بودن سوره قدر

مکّی یا مدنی بودن سوره قدر

تاریخ‌گذاری سوره قدر

Lynda - Code Clinic - Java

Lynda - Code Clinic - Java

فیلم آموزشی لیندا رفع انواع مشکلات در زبان برنامه‌نویسی جاوا

سوگ سروده هایی برای دو شهید کربلا جناب علی اکبر و علی اصغر علیهما السلام

سوگ سروده هایی برای دو شهید کربلا جناب علی اکبر و علی اصغر علیهما السلام

دو شهید کربلا جناب علی اکبر و علی اصغر علیهما السلام

Wikidroid 5.0.3 for Android

Wikidroid 5.0.3 for Android

نرم افزار آنلاین دانشنامه ویکی پدیا

مداح حاج محمود کریمی

مداح حاج محمود کریمی

مداحی حاج محمود کریمی قربان

Crimsonland 1.9.9

Crimsonland 1.9.9

کریمسو لند

Returnal + Updates

Returnal + Updates

بهترین بازی اکشن تیراندازی برای کامپیوتر

Bandizip Professional 7.32 / macOS

Bandizip Professional 7.32 / macOS

باندی زیپ

Do It Later 4.4.2 for Android +4.4

Do It Later 4.4.2 for Android +4.4

بعدا انجام بده

خبرنامه

با عضویت در خبرنامه، زودتر از همه باخبر باش!