سافت گذر دانشنامه نرم افزار - دانلود رایگان نرم افزار

همه دسته بندی ها

منو
جستجو
اطلاعیه های مهم سایت اطلاعیه های مهم سایت
💐 میلاد زینت پدر حضرت زینب سلام الله علیها مبارک باد 💐
 
 

💐 میلاد حضرت بقیة الله الاعظم حضرت مهدی صاحب الزمان عج الله تعالی فرجه مبارک باد 💐

  1. جهت رفع مشکل باز شدن سایت به دلیل بلاک توسط  نود 32 این ویدیو یا این ویدیو(ورژن 9 به بالا) یا راهنمای تصویری را مشاهده کنید
  2. اکانت های بروزرسانی نود32 با قیمت های مناسب به صورت یک ، سه ، شش و دوازده ماهه از اینجا قابل خرید می باشد.

نرم افزار های پرکاربرد

ثبت نام | ورود

هوش مصنوعی

کاهش چشمگیر تاخیر مدل‌های زبانی با ویژگی جدید Predicted Outputs

تاخیر یکی از مشکلات اساسی در بسیاری از کاربردهای مدل‌های زبانی بزرگ (LLM) است. در سناریوهایی مانند پیشنهادات کد و ویرایش اسناد طولانی، تاخیر می‌تواند تجربه کلی کاربر را تحت تاثیر قرار دهد. فرض کنید کاربری می‌خواهد پاراگراف آخر یک سند دو صفحه‌ای را بازنویسی کند. بهتر است که سند بازنویسی‌ شده فوراً ظاهر شود، چون تغییر تنها شامل یک پاراگراف است. اما APIهای فعلی مدل‌های زبانی بزرگ نیاز به بازتولید کل سند دارند که باعث تاخیر قابل توجهی برای کاربران می‌شود.

 

کاهش چشمگیر تاخیر مدل‌های زبانی با ویژگی جدید Predicted Outputs

 

OpenAI اکنون در تلاش است این مشکل را با ویژگی جدیدی به نام Predicted Outputs حل کند. این ویژگی می‌تواند در مواردی استفاده شود که بیشتر خروجی مدل زبانی از پیش مشخص است. وظایفی مانند ویرایش اسناد یا بازنویسی کد می‌توانند با این ویژگی بهبود یابند. Predicted Outputs با استفاده از روشی به نام رمزگشایی پیش‌ گویی (speculative decoding) محتوای شناخته‌ شده را رد می‌کند و تکرارها را بسیار سریع‌تر می‌کند.

توسعه‌ دهندگان می‌توانند با ارائه محتوای موجود به عنوان پیش‌ گویی، تاخیر را بطور قابل توجهی کاهش دهند. با این کار، کل محتوا با سرعت بسیار بیشتری بازتولید می‌شود.

OpenAI این ویژگی را با تعدادی از شرکای خارجی خود آزمایش کرد و نتایج بسیار مثبتی حاصل شد. به عنوان مثال، طبق معیارهای داخلی تیم Microsoft GitHub، استفاده از Predicted Outputs در وظایف Copilot Workspace منجر به افزایش سرعت ۵.۸ برابری شد.

تیم Exponent نیز به آزمایش و بهبود این API کمک کرد و اذعان داشتند که Predicted Outputs بسیار سریع عمل می‌کند و تجربه کاری فوق‌ العاده‌ای را برای توسعه‌ دهندگان فراهم می‌آورد. Exponent اعلام کرد که برای دسترسی زودهنگام به این ویژگی می‌توانید در Exponent ثبت‌نام کنید.

 

محدودیت‌ها در استفاده از Predicted Outputs:

  1. این ویژگی تنها برای مدل‌های سری GPT-4o و GPT-4o-mini پشتیبانی می‌شود و مدل‌های جدیدتر o1 شامل این قابلیت نیستند.
  2. همچنین پارامترهای زیر در زمان استفاده از Predicted Outputs پشتیبانی نمی‌شوند:
    1. مقادیر n بیشتر از ۱
    2. logprobs
    3. presence_penalty بالاتر از ۰
    4. frequency_penalty بالاتر از ۰
    5. گزینه‌های صوتی
    6. سایر حالت‌ها (تنها حالت متنی پشتیبانی می‌شود)
    7. max_completion_tokens
    8. ابزارها - فراخوانی توابع پشتیبانی نمی‌شود

 

با وجود محدودیت‌ها، ویژگی Predicted Outputs از پتانسیل بالایی برخوردار است و به ایجاد ابزارهای سریع‌تر و کارآمدتر با پشتیبانی از مدل‌های زبانی بزرگ کمک می‌کند.

نظرتان را ثبت کنید کد خبر: 51422 گروه خبری: هوش مصنوعی منبع خبر: سافت گذر تاریخ خبر: 1403/08/16 تعداد مشاهده: 977
اخبار مرتبط با این خبر
نظر های کاربران
سرور آپدیت نود 32
پیشنهاد سافت گذر
Rise & Shine

Rise & Shine

رایز اند شاین

ZW3D 2025 (x64)

ZW3D 2025 (x64)

طراحی مهندسی

InstallAware Studio Admin X13 30.07.00.2021 / X12 / X11

InstallAware Studio Admin X13 30.07.00.2021 / X12 / X11

ساخت نصب کننده برنامه ها

PixelJunk Nom Nom Galaxy

PixelJunk Nom Nom Galaxy

اکشن

Udemy - Adobe Illustrator CC - Advanced Training Course

Udemy - Adobe Illustrator CC - Advanced Training Course

آموزش ادوبی ایلاستریتور سطح پیشرفته

Koloro + Updates

Koloro + Updates

اکشن پلتفرمر

Supraland Complete Edition

Supraland Complete Edition

اکشن برای کامپیوتر

Lynda/LinkedIn - Premiere Pro 2020 Essential Training

Lynda/LinkedIn - Premiere Pro 2020 Essential Training

آموزش پریمیر

Wonder Boy The Dragons Trap

Wonder Boy The Dragons Trap

اکشن ماجرایی

TinyKeep

TinyKeep

فرار از سیاه‌چال

9 جلسه نسب مؤمن و عمل به سیره تربیتی اهلبیت(ع) از حجت الاسلام والمسلمین انصاریان

9 جلسه نسب مؤمن و عمل به سیره تربیتی اهلبیت(ع) از حجت الاسلام والمسلمین انصاریان

حاج آقا انصاریان با موضوع نسب مؤمن و عمل به سیره تربیتی اهلبیت(ع)

راهنمای کامل خودرو پراید

راهنمای کامل خودرو پراید

راهنمای نگهداری خودرو پراید

CM Speed Booster 1.5.9 for Android +2.3

CM Speed Booster 1.5.9 for Android +2.3

افزایش سرعت با بهینه سازی سیستم عامل

Udemy - iPhone 4GSM Repair Guide. The Must Have For Any iPhone Tech

Udemy - iPhone 4GSM Repair Guide. The Must Have For Any iPhone Tech

فیلم آموزش تعمیر گوشی آیفون 4 – مهارت‌های کلی تعمیرات تمامی آیفون‌ها

OsmAnd+ Full Maps & GPS Offline 5.0.0 for Android +8.0

OsmAnd+ Full Maps & GPS Offline 5.0.0 for Android +8.0

نقشه ی اوسم اند

حجاب شناسی

حجاب شناسی

حجاب اسلامی

ESET Parental Control 5.2.1.0 For Android +6.0

ESET Parental Control 5.2.1.0 For Android +6.0

برنامه کنترل کودکان در فضای مجازی توسط والدین

تندآموز شبکه های کامپیوتری

تندآموز شبکه های کامپیوتری

تندآموز مفاهیم شبکه های کامپیوتری

چهل داستان و حدیث از حضرت فاطمه زهرا سلام الله علیها

چهل داستان و حدیث از حضرت فاطمه زهرا سلام الله علیها

40 داستان از حضرت زهرا به همراه احادیث

دوره آموزشی پروژه محور ساخت اپلیکیشن دیوار به زبان فارسی

دوره آموزشی پروژه محور ساخت اپلیکیشن دیوار به زبان فارسی

دوره پروژه محور ساخت اپلیکیشن اندرویدی

احادیث سلامت

احادیث سلامت

زندگی سالم یک فرد مسلمان

Guncraft

Guncraft

تفنگچی

کسب درآمد در خانه

کسب درآمد در خانه

کار در منزل؛ ایده‌هایی پول ساز برای کسب درآمد در خانه

تاریخ شفاهی ایران

تاریخ شفاهی ایران

سلطنت محمد رضا شاه

Adobe Photoshop Elements 2024 24.0 / 2023 / 2022.4 / 2021.3 / macOS 2022

Adobe Photoshop Elements 2024 24.0 / 2023 / 2022.4 / 2021.3 / macOS 2022

ادوب فوتوشاپ المنت

Freemake Video Converter 4.1.13.187

Freemake Video Converter 4.1.13.187

تبدیل کننده فرمت ها

Fast Video Downloader 4.0.0.74

Fast Video Downloader 4.0.0.74

دانلودکننده ویدئو از سایت ها

Windows Firewall Control 6.12

Windows Firewall Control 6.12

ویندوز فایروال کنترل

تغییر دکوراسیون

تغییر دکوراسیون

تاثیر رنگ بر روحیه انسان

VTC - Mac OSX Mountain Lion

VTC - Mac OSX Mountain Lion

مجموعه آموزشی تصویری (فیلم) شرکت VTC در مورد آموزش سیستم عامل مک ویرایش شیر کوهی

بهداشت روان موضوعی فراتر از فقدان یا نبود بیماری روانی

بهداشت روان موضوعی فراتر از فقدان یا نبود بیماری روانی

اهمیت حفظ سلامت روانی خود

سخنرانی استاد رفیعی با موضوع شرح حدیث معراج

سخنرانی استاد رفیعی با موضوع شرح حدیث معراج

سخنرانی استاد رفیعی با موضوع حدیث معراج

Overpass Deluxe Edition + Updates

Overpass Deluxe Edition + Updates

بهترین بازی ماشین برای کامپیوتر

Hamsterball 3.6

Hamsterball 3.6

گرفتاری موش بزرگ در توپ شیشه ای ( نسخه 3.6 )

Mad Tower Tycoon

Mad Tower Tycoon

شبیه ساز ساخت و ساز برای کامپیوتر

Foxit PDF Reader 2024.2.2.25170

Foxit PDF Reader 2024.2.2.25170

نمایش پی دی اف

A Hat in Time Ultimate Edition

A Hat in Time Ultimate Edition

اکشن برای کامپیوتر

Squids

Squids

هشت‌پاهای کوچولو

CBT Nuggets - Microsoft Windows Server 2012 70-417 with R2 Updates

CBT Nuggets - Microsoft Windows Server 2012 70-417 with R2 Updates

ناگت Windows Server 2012

Farming Simulator 19

Farming Simulator 19

شبیه ساز کشاورزی برای کامپیوتر

خبرنامه

با عضویت در خبرنامه، زودتر از همه باخبر باش!