سافت گذر دانشنامه نرم افزار - دانلود رایگان نرم افزار

همه دسته بندی ها

منو
جستجو
اطلاعیه های مهم سایت اطلاعیه های مهم سایت
💐 میلاد زینت پدر حضرت زینب سلام الله علیها مبارک باد 💐
 
 

💐 میلاد حضرت بقیة الله الاعظم حضرت مهدی صاحب الزمان عج الله تعالی فرجه مبارک باد 💐

  1. جهت رفع مشکل باز شدن سایت به دلیل بلاک توسط  نود 32 این ویدیو یا این ویدیو(ورژن 9 به بالا) یا راهنمای تصویری را مشاهده کنید
  2. اکانت های بروزرسانی نود32 با قیمت های مناسب به صورت یک ، سه ، شش و دوازده ماهه از اینجا قابل خرید می باشد.

نرم افزار های پرکاربرد

ثبت نام | ورود

هوش مصنوعی

کاهش چشمگیر تاخیر مدل‌های زبانی با ویژگی جدید Predicted Outputs

تاخیر یکی از مشکلات اساسی در بسیاری از کاربردهای مدل‌های زبانی بزرگ (LLM) است. در سناریوهایی مانند پیشنهادات کد و ویرایش اسناد طولانی، تاخیر می‌تواند تجربه کلی کاربر را تحت تاثیر قرار دهد. فرض کنید کاربری می‌خواهد پاراگراف آخر یک سند دو صفحه‌ای را بازنویسی کند. بهتر است که سند بازنویسی‌ شده فوراً ظاهر شود، چون تغییر تنها شامل یک پاراگراف است. اما APIهای فعلی مدل‌های زبانی بزرگ نیاز به بازتولید کل سند دارند که باعث تاخیر قابل توجهی برای کاربران می‌شود.

 

کاهش چشمگیر تاخیر مدل‌های زبانی با ویژگی جدید Predicted Outputs

 

OpenAI اکنون در تلاش است این مشکل را با ویژگی جدیدی به نام Predicted Outputs حل کند. این ویژگی می‌تواند در مواردی استفاده شود که بیشتر خروجی مدل زبانی از پیش مشخص است. وظایفی مانند ویرایش اسناد یا بازنویسی کد می‌توانند با این ویژگی بهبود یابند. Predicted Outputs با استفاده از روشی به نام رمزگشایی پیش‌ گویی (speculative decoding) محتوای شناخته‌ شده را رد می‌کند و تکرارها را بسیار سریع‌تر می‌کند.

توسعه‌ دهندگان می‌توانند با ارائه محتوای موجود به عنوان پیش‌ گویی، تاخیر را بطور قابل توجهی کاهش دهند. با این کار، کل محتوا با سرعت بسیار بیشتری بازتولید می‌شود.

OpenAI این ویژگی را با تعدادی از شرکای خارجی خود آزمایش کرد و نتایج بسیار مثبتی حاصل شد. به عنوان مثال، طبق معیارهای داخلی تیم Microsoft GitHub، استفاده از Predicted Outputs در وظایف Copilot Workspace منجر به افزایش سرعت ۵.۸ برابری شد.

تیم Exponent نیز به آزمایش و بهبود این API کمک کرد و اذعان داشتند که Predicted Outputs بسیار سریع عمل می‌کند و تجربه کاری فوق‌ العاده‌ای را برای توسعه‌ دهندگان فراهم می‌آورد. Exponent اعلام کرد که برای دسترسی زودهنگام به این ویژگی می‌توانید در Exponent ثبت‌نام کنید.

 

محدودیت‌ها در استفاده از Predicted Outputs:

  1. این ویژگی تنها برای مدل‌های سری GPT-4o و GPT-4o-mini پشتیبانی می‌شود و مدل‌های جدیدتر o1 شامل این قابلیت نیستند.
  2. همچنین پارامترهای زیر در زمان استفاده از Predicted Outputs پشتیبانی نمی‌شوند:
    1. مقادیر n بیشتر از ۱
    2. logprobs
    3. presence_penalty بالاتر از ۰
    4. frequency_penalty بالاتر از ۰
    5. گزینه‌های صوتی
    6. سایر حالت‌ها (تنها حالت متنی پشتیبانی می‌شود)
    7. max_completion_tokens
    8. ابزارها - فراخوانی توابع پشتیبانی نمی‌شود

 

با وجود محدودیت‌ها، ویژگی Predicted Outputs از پتانسیل بالایی برخوردار است و به ایجاد ابزارهای سریع‌تر و کارآمدتر با پشتیبانی از مدل‌های زبانی بزرگ کمک می‌کند.

نظرتان را ثبت کنید کد خبر: 51422 گروه خبری: هوش مصنوعی منبع خبر: سافت گذر تاریخ خبر: 1403/08/16 تعداد مشاهده: 982
اخبار مرتبط با این خبر
نظر های کاربران
سرور آپدیت نود 32
پیشنهاد سافت گذر
InfiniteSkills – Learning To Create eBooks Training Video

InfiniteSkills – Learning To Create eBooks Training Video

فیلم آموزش ساخت کتاب های الکترونیک (eBook)

Beast Quest

Beast Quest

اکشن نقش آفرینی RPG

خودآموز ساده نجوم

خودآموز ساده نجوم

نجوم برای کودکان و نوجوانان

Gerda: A Flame in Winter

Gerda: A Flame in Winter

گردا

Horizon Camera 1.5.2.15 for Android +4.3

Horizon Camera 1.5.2.15 for Android +4.3

تصویر برداری افقی

God of War v1.0.12

God of War v1.0.12

گاد آف وار

سخنرانی حجت الاسلام مومنی درباره شهید زنده

سخنرانی حجت الاسلام مومنی درباره شهید زنده

شهید زنده

FIFA 11

FIFA 11

نسخه جدید فیفا 11 برای علاقه مندان به فوتبال

خطابه غدیر با ترجمه فارسی محمد باقر انصاری

خطابه غدیر با ترجمه فارسی محمد باقر انصاری

خطابه غدیر با ترجمه فارسی

راهنمای استفاده از نرم افزار Endnote

راهنمای استفاده از نرم افزار Endnote

راهنمای اندنات

طراحی الگوریتم

طراحی الگوریتم

مقدمه ای بر طراحی و تحلیل الگوریتم ها

مولودی میلاد کریمه اهل بیت حضرت فاطمه معصومه سلام الله علیها

مولودی میلاد کریمه اهل بیت حضرت فاطمه معصومه سلام الله علیها

ولادت حضرت معصومه

FURIDASHI Drift Cyber Sport + Updates

FURIDASHI Drift Cyber Sport + Updates

دریفت

IHF Handball Challenge 14

IHF Handball Challenge 14

شبیه‌ساز رقابت‌های جهانی هندبال 2014

عاداتی که افراد باهوش از آن بهره می‌برند

عاداتی که افراد باهوش از آن بهره می‌برند

هوش هیجانی

3DMark 2.0.466 for Android

3DMark 2.0.466 for Android

بنچمارک گرافیک سه بعدی

Britannica Encyclopedia 2013 v1.41 for Android +1.6

Britannica Encyclopedia 2013 v1.41 for Android +1.6

دایره المعارف مصور بریتانیکا برای گوشی های آندروید

راه های افزایش بهره وری

راه های افزایش بهره وری

اصول ضروری بهره وری برای زندگی امروزی

داده های دیجیتال

داده های دیجیتال

یک مبنا در ارتباطات دیجیتال

سخنرانی های شیخ مفید

سخنرانی های شیخ مفید

الامالی

Adamo - Tombe La Neige

Adamo - Tombe La Neige

آهنگ فرانسوی برف می بارد

Lynda - Creating a Responsive Website Design

Lynda - Creating a Responsive Website Design

فیلم آموزش طراحی و ساخت وبسایت واکنش‌گرا

آموزش نرم افزار Surfer

آموزش نرم افزار Surfer

آموزش نرم افزار سورفر

Bulb Boy

Bulb Boy

پسر لامپی

آموزش جامع و کامل حل مکعب روبیک

آموزش جامع و کامل حل مکعب روبیک

آشنایی کامل حل مکعب روبیک به روش مبتدی

ورزش های محیط کار

ورزش های محیط کار

ورزش های پشت میزی

Lynda - Data Science & Analytics Career Paths & Certifications - First Steps

Lynda - Data Science & Analytics Career Paths & Certifications - First Steps

آموزش علم داده

Microsoft Windows XP Professional SP3 / SP2 x86 Volume MSDN + SATA/AHCI 2012

Microsoft Windows XP Professional SP3 / SP2 x86 Volume MSDN + SATA/AHCI 2012

ویندوز xp ایکس پی

Mentor Graphics ModelSim SE 2020.4 / 10.6d / 10.5 / 10.4c / 10.0c

Mentor Graphics ModelSim SE 2020.4 / 10.6d / 10.5 / 10.4c / 10.0c

مدل سیم شبیه ساز انواع مدارات دیجیتال VHDL

3DF Zephyr 7.511

3DF Zephyr 7.511

ساخت مدل های سه بعدی با استفاده از عکس

Adobe Dreamweaver CC 2018 v18.2.0.10165 x64 + 18.0.0.10136 x86 + 2017 v17 + Mac + Portable x64

Adobe Dreamweaver CC 2018 v18.2.0.10165 x64 + 18.0.0.10136 x86 + 2017 v17 + Mac + Portable x64

دریم ویور جهت طراحی قالب سایت و وبلاگ

تعالیم ماسونی

تعالیم ماسونی

آشنایی با فراماسونری

Cloanto Amiga Forever 10.4.0 Plus Edition

Cloanto Amiga Forever 10.4.0 Plus Edition

شبیه ساز آمیگا

زندگانی حضرت یوسف علیه السلام

زندگانی حضرت یوسف علیه السلام

حضرت یوسف علیه السلام ( Joseph )

Maplesoft Maple Flow 2022.2

Maplesoft Maple Flow 2022.2

محاسبات ریاضی

سخنرانی حجت الاسلام انصاریان با موضوع یاد خدا -8 جلسه

سخنرانی حجت الاسلام انصاریان با موضوع یاد خدا -8 جلسه

حاج آقا انصاریان با موضوع یاد خدا

GoldSim v14.0 R3 Build 449

GoldSim v14.0 R3 Build 449

شبیه سازی مونت کارلو

آموزش رمزگذاری بر روی فلش مموری

آموزش رمزگذاری بر روی فلش مموری

آشنایی رمز گذاری فلش مموری و هارد اکسترنال بدون نرم افزار

Let's Create! Pottery 1.80 for Android +4.1

Let's Create! Pottery 1.80 for Android +4.1

کوزه سازی

سخنرانی حجت الاسلام رفیعی درباره خانواده

سخنرانی حجت الاسلام رفیعی درباره خانواده

خانواده از زبان حجت الاسلام رفیعی

خبرنامه

با عضویت در خبرنامه، زودتر از همه باخبر باش!