سافت گذر دانشنامه نرم افزار - دانلود رایگان نرم افزار

همه دسته بندی ها

منو
جستجو
اطلاعیه های مهم سایت اطلاعیه های مهم سایت
💐 میلاد زینت پدر حضرت زینب سلام الله علیها مبارک باد 💐
 
 

💐 میلاد حضرت بقیة الله الاعظم حضرت مهدی صاحب الزمان عج الله تعالی فرجه مبارک باد 💐

  1. جهت رفع مشکل باز شدن سایت به دلیل بلاک توسط  نود 32 این ویدیو یا این ویدیو(ورژن 9 به بالا) یا راهنمای تصویری را مشاهده کنید
  2. اکانت های بروزرسانی نود32 با قیمت های مناسب به صورت یک ، سه ، شش و دوازده ماهه از اینجا قابل خرید می باشد.

نرم افزار های پرکاربرد

ثبت نام | ورود

هوش مصنوعی

کاهش چشمگیر تاخیر مدل‌های زبانی با ویژگی جدید Predicted Outputs

تاخیر یکی از مشکلات اساسی در بسیاری از کاربردهای مدل‌های زبانی بزرگ (LLM) است. در سناریوهایی مانند پیشنهادات کد و ویرایش اسناد طولانی، تاخیر می‌تواند تجربه کلی کاربر را تحت تاثیر قرار دهد. فرض کنید کاربری می‌خواهد پاراگراف آخر یک سند دو صفحه‌ای را بازنویسی کند. بهتر است که سند بازنویسی‌ شده فوراً ظاهر شود، چون تغییر تنها شامل یک پاراگراف است. اما APIهای فعلی مدل‌های زبانی بزرگ نیاز به بازتولید کل سند دارند که باعث تاخیر قابل توجهی برای کاربران می‌شود.

 

کاهش چشمگیر تاخیر مدل‌های زبانی با ویژگی جدید Predicted Outputs

 

OpenAI اکنون در تلاش است این مشکل را با ویژگی جدیدی به نام Predicted Outputs حل کند. این ویژگی می‌تواند در مواردی استفاده شود که بیشتر خروجی مدل زبانی از پیش مشخص است. وظایفی مانند ویرایش اسناد یا بازنویسی کد می‌توانند با این ویژگی بهبود یابند. Predicted Outputs با استفاده از روشی به نام رمزگشایی پیش‌ گویی (speculative decoding) محتوای شناخته‌ شده را رد می‌کند و تکرارها را بسیار سریع‌تر می‌کند.

توسعه‌ دهندگان می‌توانند با ارائه محتوای موجود به عنوان پیش‌ گویی، تاخیر را بطور قابل توجهی کاهش دهند. با این کار، کل محتوا با سرعت بسیار بیشتری بازتولید می‌شود.

OpenAI این ویژگی را با تعدادی از شرکای خارجی خود آزمایش کرد و نتایج بسیار مثبتی حاصل شد. به عنوان مثال، طبق معیارهای داخلی تیم Microsoft GitHub، استفاده از Predicted Outputs در وظایف Copilot Workspace منجر به افزایش سرعت ۵.۸ برابری شد.

تیم Exponent نیز به آزمایش و بهبود این API کمک کرد و اذعان داشتند که Predicted Outputs بسیار سریع عمل می‌کند و تجربه کاری فوق‌ العاده‌ای را برای توسعه‌ دهندگان فراهم می‌آورد. Exponent اعلام کرد که برای دسترسی زودهنگام به این ویژگی می‌توانید در Exponent ثبت‌نام کنید.

 

محدودیت‌ها در استفاده از Predicted Outputs:

  1. این ویژگی تنها برای مدل‌های سری GPT-4o و GPT-4o-mini پشتیبانی می‌شود و مدل‌های جدیدتر o1 شامل این قابلیت نیستند.
  2. همچنین پارامترهای زیر در زمان استفاده از Predicted Outputs پشتیبانی نمی‌شوند:
    1. مقادیر n بیشتر از ۱
    2. logprobs
    3. presence_penalty بالاتر از ۰
    4. frequency_penalty بالاتر از ۰
    5. گزینه‌های صوتی
    6. سایر حالت‌ها (تنها حالت متنی پشتیبانی می‌شود)
    7. max_completion_tokens
    8. ابزارها - فراخوانی توابع پشتیبانی نمی‌شود

 

با وجود محدودیت‌ها، ویژگی Predicted Outputs از پتانسیل بالایی برخوردار است و به ایجاد ابزارهای سریع‌تر و کارآمدتر با پشتیبانی از مدل‌های زبانی بزرگ کمک می‌کند.

نظرتان را ثبت کنید کد خبر: 51422 گروه خبری: هوش مصنوعی منبع خبر: سافت گذر تاریخ خبر: 1403/08/16 تعداد مشاهده: 989
اخبار مرتبط با این خبر
نظر های کاربران
سرور آپدیت نود 32
پیشنهاد سافت گذر
Friendship between a young boy and a Phoenix

Friendship between a young boy and a Phoenix

دیوید و ققنوس

Drive MODE Pro 1.0 for Android

Drive MODE Pro 1.0 for Android

پاسخگویی و رد تماس با صدا

Pluralsight - The Eclipse Guided Tour - Part 1 and Part 2

Pluralsight - The Eclipse Guided Tour - Part 1 and Part 2

فیلم آموزش کار با محیط توسعه نرم‌افزاری اکلیپس

داستان های کوتاه کودکان و نوجوانان

داستان های کوتاه کودکان و نوجوانان

داستان های کوتاه فارسی

ترتیل کل قرآن کریم از استاد روشندل احمد دباغ

ترتیل کل قرآن کریم از استاد روشندل احمد دباغ

ترتیل سوره های قرآن احمد دباغ

یادگیری تافل به صورت خلاصه

یادگیری تافل به صورت خلاصه

آمادگی آزمون تافل

InfiniteSkills - Photo Restoration With Photoshop Training Video

InfiniteSkills - Photo Restoration With Photoshop Training Video

فیلم آموزش ترمیم عکس با فتوشاپ

Splunk Enterprise 9.2.1

Splunk Enterprise 9.2.1

جمع آوری و آنالیز داده ها

Autorun Manager Pro 4.4.104 for Android +2.3

Autorun Manager Pro 4.4.104 for Android +2.3

مدیریت استارت آپ اندروید

Intelligent Editing PerfectIt Pro 5.7.4

Intelligent Editing PerfectIt Pro 5.7.4

بررسی و تصحیح متن

فلسفه علم تاریخ

فلسفه علم تاریخ

فلسفه نظری تاریخ

Zoner Photo Studio X 19.2409.2.592

Zoner Photo Studio X 19.2409.2.592

ویرایش عکس

آموزش خاتم کاری

آموزش خاتم کاری

هنر خاتم کاری

گلچین بهترین مولودی های سید مجید بنی فاطمه

گلچین بهترین مولودی های سید مجید بنی فاطمه

مولودی سید مجید بنی فاطمه

Inside the mind of a master procrastinator | TED Talk

Inside the mind of a master procrastinator | TED Talk

درون ذهن فردی که استاد از زیر کار در رفتن است

Distant Worlds - Universe

Distant Worlds - Universe

جهان‌های دوردست

HERE WeGo Maps & Navigation 4.2.200 for Android +7.0

HERE WeGo Maps & Navigation 4.2.200 for Android +7.0

نقشه و مسیر یاب هییر

دورهٔ آموزش ویدئویی نرم‌افزار افتر افکتس به زبان فارسی

دورهٔ آموزش ویدئویی نرم‌افزار افتر افکتس به زبان فارسی

آموزش افتر افکت به زبان فارسی

Quell+ 1.81 for Android +2.3

Quell+ 1.81 for Android +2.3

بازی سرکوب

NI Circuit Design Suite 14.3 Professional (Multisim & Utilboard) CDS / 14.2 / 14.1 / 14.0.1

NI Circuit Design Suite 14.3 Professional (Multisim & Utilboard) CDS / 14.2 / 14.1 / 14.0.1

شبیه ساز مدارهای الکترونیکی

Windows Server 2003 Enterprise SP2 x64 October 2012 - SATA / x86 SP1-2 Vol

Windows Server 2003 Enterprise SP2 x64 October 2012 - SATA / x86 SP1-2 Vol

نسخه 64 بیتی ویندوز سرور 2003 سرویس پک 2 و تمامی آپدیتها تا اکتبر 2012 و درایورهای جدید ساتا

آموزش تولید و عرضه قارچ

آموزش تولید و عرضه قارچ

آموزش تولید قارچ

9 جلسه دین اسلام، معیار سنجش حق از باطل از حجت الاسلام والمسلمین انصاریان

9 جلسه دین اسلام، معیار سنجش حق از باطل از حجت الاسلام والمسلمین انصاریان

حاج آقا انصاریان با موضوع مسئولیت پیامبر

A-Men

A-Men

مردان آ

Startup Manager 4.7 for Android

Startup Manager 4.7 for Android

استارتاپ

Windows Server 2012 R2 April 2022 / MSDN RTM VL

Windows Server 2012 R2 April 2022 / MSDN RTM VL

ویندوز سرور 2012

ISO Workshop 12.8

ISO Workshop 12.8

ساخت ایمیج ایزو

آموزش برنامه نویسی سه لایه

آموزش برنامه نویسی سه لایه

آشنایی با مدل برنامه نویسی سه لایه

هفته نامه خبری تایم

هفته نامه خبری تایم

مجله تایم دسامبر 2020

تکنیک های خرید لپ تاپ

تکنیک های خرید لپ تاپ

تکنیک هایی برای خرید لپ تاپ

Alekhine's Gun with Update v1.02

Alekhine's Gun with Update v1.02

تفنگ آلخین

Contacts + 5.117.45 for Android +4.0.3

Contacts + 5.117.45 for Android +4.0.3

تماس و شماره گیر

آموزش تصویری نصب صحیح زبان فارسی در ویندوز

آموزش تصویری نصب صحیح زبان فارسی در ویندوز

آشنایی با نصب کامل و صحیح زبان فارسی در ویندوز XP و Se7en

طراحی و نحوه کنترل نقشه های برق ساختمان های مسکونی

طراحی و نحوه کنترل نقشه های برق ساختمان های مسکونی

نقشه های برق ساختمان

Windows Manager 2.1.2 Win11/10

Windows Manager 2.1.2 Win11/10

ویندوز منیجر

Autodesk AutoCAD Mechanical 2018.1.1 x86/x64

Autodesk AutoCAD Mechanical 2018.1.1 x86/x64

اتوکد طراحی مهندسی مکانیک

A Hat in Time Ultimate Edition

A Hat in Time Ultimate Edition

اکشن برای کامپیوتر

The Magic Circle

The Magic Circle

قلمرو جادویی

Google Talk 1.0.0.104 / 1.0.0.105

Google Talk 1.0.0.104 / 1.0.0.105

جدیدترین نسخه مسنجر گوگل با نام گوگل تاک

بحث حول الاستسقام ( مشروعیة الاستخارة )

بحث حول الاستسقام ( مشروعیة الاستخارة )

استخاره و مشروعیت آن

خبرنامه

با عضویت در خبرنامه، زودتر از همه باخبر باش!