سافت گذر دانشنامه نرم افزار - دانلود رایگان نرم افزار

همه دسته بندی ها

منو
جستجو
اطلاعیه های مهم سایت اطلاعیه های مهم سایت
💐 میلاد زینت پدر حضرت زینب سلام الله علیها مبارک باد 💐
 
 

💐 میلاد حضرت بقیة الله الاعظم حضرت مهدی صاحب الزمان عج الله تعالی فرجه مبارک باد 💐

  1. جهت رفع مشکل باز شدن سایت به دلیل بلاک توسط  نود 32 این ویدیو یا این ویدیو(ورژن 9 به بالا) یا راهنمای تصویری را مشاهده کنید
  2. اکانت های بروزرسانی نود32 با قیمت های مناسب به صورت یک ، سه ، شش و دوازده ماهه از اینجا قابل خرید می باشد.

نرم افزار های پرکاربرد

ثبت نام | ورود

هوش مصنوعی

کاهش چشمگیر تاخیر مدل‌های زبانی با ویژگی جدید Predicted Outputs

تاخیر یکی از مشکلات اساسی در بسیاری از کاربردهای مدل‌های زبانی بزرگ (LLM) است. در سناریوهایی مانند پیشنهادات کد و ویرایش اسناد طولانی، تاخیر می‌تواند تجربه کلی کاربر را تحت تاثیر قرار دهد. فرض کنید کاربری می‌خواهد پاراگراف آخر یک سند دو صفحه‌ای را بازنویسی کند. بهتر است که سند بازنویسی‌ شده فوراً ظاهر شود، چون تغییر تنها شامل یک پاراگراف است. اما APIهای فعلی مدل‌های زبانی بزرگ نیاز به بازتولید کل سند دارند که باعث تاخیر قابل توجهی برای کاربران می‌شود.

 

کاهش چشمگیر تاخیر مدل‌های زبانی با ویژگی جدید Predicted Outputs

 

OpenAI اکنون در تلاش است این مشکل را با ویژگی جدیدی به نام Predicted Outputs حل کند. این ویژگی می‌تواند در مواردی استفاده شود که بیشتر خروجی مدل زبانی از پیش مشخص است. وظایفی مانند ویرایش اسناد یا بازنویسی کد می‌توانند با این ویژگی بهبود یابند. Predicted Outputs با استفاده از روشی به نام رمزگشایی پیش‌ گویی (speculative decoding) محتوای شناخته‌ شده را رد می‌کند و تکرارها را بسیار سریع‌تر می‌کند.

توسعه‌ دهندگان می‌توانند با ارائه محتوای موجود به عنوان پیش‌ گویی، تاخیر را بطور قابل توجهی کاهش دهند. با این کار، کل محتوا با سرعت بسیار بیشتری بازتولید می‌شود.

OpenAI این ویژگی را با تعدادی از شرکای خارجی خود آزمایش کرد و نتایج بسیار مثبتی حاصل شد. به عنوان مثال، طبق معیارهای داخلی تیم Microsoft GitHub، استفاده از Predicted Outputs در وظایف Copilot Workspace منجر به افزایش سرعت ۵.۸ برابری شد.

تیم Exponent نیز به آزمایش و بهبود این API کمک کرد و اذعان داشتند که Predicted Outputs بسیار سریع عمل می‌کند و تجربه کاری فوق‌ العاده‌ای را برای توسعه‌ دهندگان فراهم می‌آورد. Exponent اعلام کرد که برای دسترسی زودهنگام به این ویژگی می‌توانید در Exponent ثبت‌نام کنید.

 

محدودیت‌ها در استفاده از Predicted Outputs:

  1. این ویژگی تنها برای مدل‌های سری GPT-4o و GPT-4o-mini پشتیبانی می‌شود و مدل‌های جدیدتر o1 شامل این قابلیت نیستند.
  2. همچنین پارامترهای زیر در زمان استفاده از Predicted Outputs پشتیبانی نمی‌شوند:
    1. مقادیر n بیشتر از ۱
    2. logprobs
    3. presence_penalty بالاتر از ۰
    4. frequency_penalty بالاتر از ۰
    5. گزینه‌های صوتی
    6. سایر حالت‌ها (تنها حالت متنی پشتیبانی می‌شود)
    7. max_completion_tokens
    8. ابزارها - فراخوانی توابع پشتیبانی نمی‌شود

 

با وجود محدودیت‌ها، ویژگی Predicted Outputs از پتانسیل بالایی برخوردار است و به ایجاد ابزارهای سریع‌تر و کارآمدتر با پشتیبانی از مدل‌های زبانی بزرگ کمک می‌کند.

نظرتان را ثبت کنید کد خبر: 51422 گروه خبری: هوش مصنوعی منبع خبر: سافت گذر تاریخ خبر: 1403/08/16 تعداد مشاهده: 990
اخبار مرتبط با این خبر
نظر های کاربران
سرور آپدیت نود 32
پیشنهاد سافت گذر
از چشمه تا دریا : مجموعه خاطرات درباره استاد شهید مرتضی مطهری

از چشمه تا دریا : مجموعه خاطرات درباره استاد شهید مرتضی مطهری

مجموعه خاطرات درباره استاد شهید مرتضی مطهری

Inspire Art AI Image Generator 1.2.2

Inspire Art AI Image Generator 1.2.2

خلق آثار هنری با هوش مصنوعی

I, Gladiator

I, Gladiator

من گلادیاتورم

Rescue HQ - The Tycoon

Rescue HQ - The Tycoon

بهترین بازی های استراتژیک برای کامپیوتر

SD Maid Pro 5.6.3 for Android +5.0

SD Maid Pro 5.6.3 for Android +5.0

مدیریت فضای گوشی

Folder Protect 2.1.0

Folder Protect 2.1.0

محافظت از پوشه ها و برنامه ها فولدر پروتکت

سخنرانی مسعود عالی با موضوع چرا ائمه بعد از امام حسین (ع) قیام دیگری چون عاشورا به پا نکردند؟

سخنرانی مسعود عالی با موضوع چرا ائمه بعد از امام حسین (ع) قیام دیگری چون عاشورا به پا نکردند؟

سخنرانی چرا ائمه بعد از امام حسین (ع) قیام دیگری چون عاشورا به پا نکردند؟ با مسعود عالی

eRa - The Mass 320kbps

eRa - The Mass 320kbps

آلبوم عشاء ربانی از گروه ایرا

آموزش متدولوژی و تکنولوژی طراحی وب CIW

آموزش متدولوژی و تکنولوژی طراحی وب CIW

آشنایی با تکنولوژی طراحی وب

WinContig 5.0.3.1

WinContig 5.0.3.1

دیفرگ کردن فایل‌ها

Flashlight 12.10.20 for Android +6.0

Flashlight 12.10.20 for Android +6.0

چراغ قوه

سخنرانی حجت الاسلام رفیعی درباره دعا برای امام زمان (عج)

سخنرانی حجت الاسلام رفیعی درباره دعا برای امام زمان (عج)

سخنرانی آثار دعا

AppMgr Pro III 5.74 for Android +4.1

AppMgr Pro III 5.74 for Android +4.1

مدیریت اپ

Velocity Stream

Velocity Stream

جریان شتاب

HDRsoft Photomatix Pro 7.1.2 Final

HDRsoft Photomatix Pro 7.1.2 Final

ساخت تصاویر اچ‌دی‌آر

ESET Smart Security 6.0.316.0 x86/x64 (Update 12000) 2015-07-27

ESET Smart Security 6.0.316.0 x86/x64 (Update 12000) 2015-07-27

نود 32 اسمارت سکوریتی 6

Battery Booster 7.2.9 for Android +2.1

Battery Booster 7.2.9 for Android +2.1

مدیریت و کاهش مصرف باتری

ارتباط رایانه به صورت مستقیم

ارتباط رایانه به صورت مستقیم

مروری بر اتصال مغز به کامپیوتر؛ چالش ها، راهکارها و کاربردها

Contacts Phone Dialer Drupe 3.8.7 For android +4.1

Contacts Phone Dialer Drupe 3.8.7 For android +4.1

دروپ

The Martian

The Martian

مریخی

تک‌آهنگ احساسی رومئو و ژولیت با اجرای ریچارد کلایدرمن

تک‌آهنگ احساسی رومئو و ژولیت با اجرای ریچارد کلایدرمن

آهنگ رومئو و ژولیت

PicLab - Photo Editor 2.2.2 for Android +4.0

PicLab - Photo Editor 2.2.2 for Android +4.0

افکت گذاری بر روی تصاویر

Mirror's Edge

Mirror's Edge

لبه آینه

مرجع کامل jQurey

مرجع کامل jQurey

مرجع کامل جی کوئری

آشنایی با سیستم عامل مکینتاش

آشنایی با سیستم عامل مکینتاش

آشنایی با مباحث مربوط به سیستم عامل مکینتاش

سخنرانی حجت الاسلام علی نظری منفرد با موضوع حکمت های قرآنی - 2 جلسه

سخنرانی حجت الاسلام علی نظری منفرد با موضوع حکمت های قرآنی - 2 جلسه

سخنرانی حکمت های قرآنی با علی نظری منفرد

همگام با رویت مپ  2015

همگام با رویت مپ 2015

رویت مپ 2015

SMPlayer 24.5.0

SMPlayer 24.5.0

اس ام پلیر

Need For Speed Rivals + Update v1.4

Need For Speed Rivals + Update v1.4

نید فور اسپید ریوالز

Rockwell Automation Arena 14.0

Rockwell Automation Arena 14.0

بهترین نرم افزار شبیه سازی و مدل سازی

QKSMS+ Premium 3.8.1 for Android +4.0

QKSMS+ Premium 3.8.1 for Android +4.0

مدیریت پیام کوتاه با طراحی متریال

Audacity 3.7.1

Audacity 3.7.1

نرم افزار رایگان ویرایشگر صوتی و ضبط صدا

Platypus

Platypus

پلاتی‌پوس

Solar Shifter EX

Solar Shifter EX

عیار خورشیدی

Narco Terror

Narco Terror

نارکو ترور

جعبه ابزار نسخه 6.0.2 برای اندروید 4.1+

جعبه ابزار نسخه 6.0.2 برای اندروید 4.1+

جعبه ابزار کامل و جامع اندروید

Zulu Response

Zulu Response

اکشن شوتر تاکتیکی

Easy Gamer Utility PRO 1.3.55

Easy Gamer Utility PRO 1.3.55

حل مشکلات بازی‌ها در ویندوز

لحظه نگار نسخه 3.7.5 برای اندروید 4.1+

لحظه نگار نسخه 3.7.5 برای اندروید 4.1+

لذت پخش زنده لحظات؛ به سبک لحظه‌نگار

نماهنگ وفات حضرت خدیجه (سلام الله علیها)

نماهنگ وفات حضرت خدیجه (سلام الله علیها)

نماهنگ شرف همسری

خبرنامه

با عضویت در خبرنامه، زودتر از همه باخبر باش!