سافت گذر دانشنامه نرم افزار - دانلود رایگان نرم افزار

اطلاعیه های مهم سایت اطلاعیه های مهم سایت
💐 میلاد زینت پدر حضرت زینب سلام الله علیها مبارک باد 💐
 
 
  1. جهت رفع مشکل باز شدن سایت به دلیل بلاک توسط  نود 32 این ویدیو یا این ویدیو(ورژن 9 به بالا) یا راهنمای تصویری را مشاهده کنید
  2. به مناسبت عید غدیر، در سایت https://esetupdate.ir/ تخفیف ویژه‌ای برای محصولات در نظر گرفته شده است؛ فرصت را از دست ندهید. 🌸
  3. اکانت های بروزرسانی نود32 با قیمت های مناسب به صورت یک ، سه ، شش و دوازده ماهه از اینجا قابل خرید می باشد.

نرم افزار های پرکاربرد

ثبت نام | ورود
wepido.ir

هشدار مایکروسافت: عامل‌های هوش مصنوعی قابل اعتماد نیستند؛ راه‌حل، هوش مصنوعی بیشتر است

هشدار مایکروسافت: عامل‌های هوش مصنوعی قابل اعتماد نیستند؛ راه‌حل، هوش مصنوعی بیشتر است

مایکروسافت که یکی از بزرگ‌ترین سرمایه‌گذاران حوزه هوش مصنوعی است، در گزارش امنیتی تازه‌ای هشدار داده است که عامل‌های هوش مصنوعی (AI Agents) را نمی‌توان قابل اعتماد دانست. در این گزارش، هیئت گالو (Hayete Gallot)، معاون اجرایی بخش امنیت مایکروسافت، تأکید کرده است که «مدل‌های پیشرو (Frontier Models)، صرف‌نظر از منشأ آن‌ها، قابل اعتماد نیستند.»

چرا مدل‌های پیشرو قابل اعتماد نیستند؟

به گفته مایکروسافت، مشکل اصلی ماهیت مخرب ذاتی این مدل‌ها نیست؛ بلکه آن‌ها به‌راحتی برای رسیدن به نتیجه، بدون توجه به «هنجارهای سازمانی یا قضاوت» منحرف می‌شوند. این هشدار تنها چند هفته پس از آن منتشر می‌شود که مایکروسافت زیرساخت تازه‌ای برای مهار عامل‌های هوش مصنوعی در ویندوز معرفی کرد.

این هم‌زمانی نشان می‌دهد شرکت هم در حال قدرتمندتر کردن عامل‌هاست و هم می‌کوشد حفاظ‌هایی پیرامون آن‌ها بسازد تا بقیه فضای وب از رفتارشان در امان بماند.

وقتی عامل‌های هوش مصنوعی سرکش می‌شوند

خطر عامل‌های سرکش پیش‌تر نیز در چند مورد دیده شده است. یکی از شناخته‌شده‌ترین نمونه‌ها، ماجرای حمله مرتبط با OpenAI به Hugging Face بود که در آن حدود ۷۰۰ عامل خودمختار پس از خروج از مهار (Containment)، راهی برای نفوذ به پلتفرم توسعه‌دهنده هوش مصنوعی پیدا کردند. در این رخداد، عامل‌ها به اشتراک‌گذاری اکسپلویت‌ها و حفظ حافظه ادامه دادند، حتی زمانی که ربات‌های سرکش در حال مهار بودند.

مایکروسافت پیش‌تر نیز درباره خطرهای عامل‌های هوش مصنوعی هشدار داده بود. در نوامبر ۲۰۲۵ اعلام شد قابلیت‌های عامل‌محور در ویندوز ۱۱ تنها در صورتی باید فعال شوند که کاربر «پیامدهای امنیتی را درک کند». این عامل‌ها به‌ویژه در برابر تزریق میان‌پیامی (Cross-Prompt Injection یا XPIA) آسیب‌پذیرند؛ روشی که می‌تواند دستورهای کاربر به عامل را بازنویسی کند و به سرقت داده یا آلودگی به بدافزار منجر شود.

مایکروسافت اکنون هوش مصنوعی مورد استفاده در محیط کار را در دسته «نفوذی‌های عامل‌محور» (Agentic Insiders) قرار می‌دهد؛ موجودیت‌هایی که تقریباً در هر زمانی می‌توانند سرکش شوند و رفتاری غیرقابل پیش‌بینی داشته باشند. هرچه این عامل‌ها بیشتر به سامانه‌های سازمانی متصل شوند، خطرهای آن‌ها نیز بیشتر می‌شود و نظارت مداوم بر آن‌ها ضروری است.

عامل‌های نگهبان؛ پاسخ مایکروسافت به تهدید

پاسخ مایکروسافت به مشکل عامل‌های سرکش، هوش مصنوعی بیشتر است. این شرکت عامل‌های نگهبان (Guardian Agents) را طراحی کرده است تا به‌جای اتکا به نظارت انسانی، «هر اقدام هر عامل را پیش از وقوع، به‌صورت شبانه‌روزی تماشا و مدیریت کنند.»

نمونه‌ای از کاربرد این عامل‌ها، پروژه Perception مایکروسافت است. این پروژه که تابستان امسال معرفی شد و هنوز به‌طور گسترده در دسترس نیست، سیگنال‌ها، زمینه، مدل‌ها و عامل‌های تخصصی را در قالب یک خط دفاعی چهارلایه در برابر تهدیدهای بیرونی و درونی سازمان به کار می‌گیرد. به بیان ساده، اینجا هوش مصنوعی با هوش مصنوعی مقابله می‌کند، زیرا به باور مایکروسافت انسان‌ها دیگر امیدی به همگام شدن با سرعت این تهدیدها ندارند.

جمع‌بندی

مایکروسافت در موقعیت دشواری قرار گرفته است: از یک سو یکپارچه‌سازی سطحی هوش مصنوعی در ویندوز ۱۱ را کاهش داده و از سوی دیگر تمرکز خود را بر زیرساخت عمیق‌تر عامل‌ها گذاشته است؛ همه این‌ها در حالی است که خود می‌گوید مدل‌های پایه قابل اعتماد نیستند. راه‌حل فعلی شرکت، مهار، نظارت و بازبینی است؛ اما پرسش اصلی این است که آیا این حفاظ‌ها برای جلوگیری از یک فاجعه کافی خواهند بود یا نه.

نظرتان را ثبت کنید کد خبر: 56012 گروه خبری: اخبار نرم افزار منبع خبر: Windows Central تاریخ خبر: 1405/07/30 تعداد مشاهده: 41
اخبار مرتبط با این خبر
نظر های کاربران
سرور آپدیت نود 32
پیشنهاد سافت گذر
Google Maps 26.42.02.997557324 For Android +8.0

Google Maps 26.42.02.997557324 For Android +8.0

گوگل مپس

Portable Diner Dash 2

Portable Diner Dash 2

سرعت عمل در رستوران 2 نسخه پورتابل

ولایت امیر المومنین علیه السلام

ولایت امیر المومنین علیه السلام

خطابه‌های آیت‌ الله العظمی وحید خراسانی

Chronicle Keepers - The Dreaming Garden

Chronicle Keepers - The Dreaming Garden

نگهبانان تاریخ - باغ رویایی

Search Duplicate File 4.119 for Android +2.2.3

Search Duplicate File 4.119 for Android +2.2.3

جستجوی فایل تکراری

The Occupation + Updates

The Occupation + Updates

معمایی

R-Studio 9.5 Build 191861 Technician + Network + BootCD + WinPE

R-Studio 9.5 Build 191861 Technician + Network + BootCD + WinPE

آر استودیو

9 جلسه شرح فرازهایی از دعای ابوحمزه ثمالی از حجت الاسلام والمسلمین سید عبدالله فاطمی نیا

9 جلسه شرح فرازهایی از دعای ابوحمزه ثمالی از حجت الاسلام والمسلمین سید عبدالله فاطمی نیا

حاج آقا فاطمی نیا با موضوع شرح فرازهایی از دعای ابوحمزه ثمالی

BlueStacks 5.22.288.1014

BlueStacks 5.22.288.1014

بلواستکس

Ashampoo Driver Updater 2.6.2

Ashampoo Driver Updater 2.6.2

آپدیت خودکار درایورها

XAMPP 8.2.12 Win/Mac/Linux + add-ons

XAMPP 8.2.12 Win/Mac/Linux + add-ons

شبیه ساز وب Local بر روی ویندوز

همراه بانک پاسارگاد 12.3.1 برای اندروید

همراه بانک پاسارگاد 12.3.1 برای اندروید

همراه بانک پاسارگاد

بررسی و رد شبهات زیارت عاشورا

بررسی و رد شبهات زیارت عاشورا

اهمیت زیارت عاشورا در نزد شیعیان

Pinball FX2 - Star Wars Pinball Rogue One

Pinball FX2 - Star Wars Pinball Rogue One

پین بال اف ایکس جنگ ستارگان

کلیدهای میانبر متداول در ویندوز

کلیدهای میانبر متداول در ویندوز

کلید میانبر ویندوز

CBT Nuggets - Microsoft SharePoint Server 2013 70-331

CBT Nuggets - Microsoft SharePoint Server 2013 70-331

فیلم آموزش مایکروسافت شِـیرپوینت سـروِر 2013 - آزمون 331-70

Pop-Up Card Designer 4.0.0

Pop-Up Card Designer 4.0.0

طراحی کارت سه‌بعدی پاپ‌آپ

پیام رسان گپ 12.8.2 برای اندروید

پیام رسان گپ 12.8.2 برای اندروید

گپ

نخستین گزارش مستند از نهضت عاشورا

نخستین گزارش مستند از نهضت عاشورا

مقتل الحسین علیه السلام تالیف ابی مخنف

Adobe Illustrator CC 17.0.0 / 2014 v18.0.0 + Portable

Adobe Illustrator CC 17.0.0 / 2014 v18.0.0 + Portable

نسخه CC بهترین نرم افزار طراحی تصاویر به صورت وکتور

آموزش نرم افزار اتوکد 2012

آموزش نرم افزار اتوکد 2012

آشنایی با نرم افزار AutoCAD 2012

راهکارها و ابزارهای فرهنگی

راهکارها و ابزارهای فرهنگی

دیپلماسی فرهنگی و جایگاه آن در سیاست خارجی کشورها

Portable Adobe Premiere Pro CS4 v4.2.1

Portable Adobe Premiere Pro CS4 v4.2.1

نسخه پرتابل قویترین و حرفه ای ترین نرم افزار ویرایش و میکس و مونتاژ فیلم

InfiniteSkills – Learning Revit Structure 2014

InfiniteSkills – Learning Revit Structure 2014

فیلم آموزش نرم افزار مهندسی رِویـت استراکچر 2014

آموزش نرم افزار معماری LUMION

آموزش نرم افزار معماری LUMION

لیمون

Clean Widgets 4.4 for Android

Clean Widgets 4.4 for Android

ویجت اندروید

آموزش نرم افزار دایرباستر در لینوکس

آموزش نرم افزار دایرباستر در لینوکس

نرم افزار Dirbuster

تبدیل عکس و PDF به Word latest version

تبدیل عکس و PDF به Word latest version

تبدیل عکس و PDF به Word

Enter the Gungeon - A Farewell to Arms

Enter the Gungeon - A Farewell to Arms

اکشن دوبعدی برای کامپیوتر

MixBooth 2.2 for Android +2.3

MixBooth 2.2 for Android +2.3

نرم افزار فوق العاده ترکیب تصاویر

راز داوینچی یا کُد داوینچی

راز داوینچی یا کُد داوینچی

قسمت دوم از سه‌گانهٔ براون

چهل روایت در مورد امام زمان علیه السلام

چهل روایت در مورد امام زمان علیه السلام

ماءِ مَعین تالیف حجت الاسلام والمسلمین هاشمی نژاد

Gravity Ghost

Gravity Ghost

سرگردان در کهکشان

آشنایی با بیش از 5000 اصطلاح ورزشی

آشنایی با بیش از 5000 اصطلاح ورزشی

دیکشنری لغات و اصطلاحات ورزشی

معرفی نرم افزار Idrisi 32

معرفی نرم افزار Idrisi 32

معرفی ایدریسی 32

Hellbound

Hellbound

اکشن تفنگی برای کامپیوتر

قدم بعدی در راه تکامل شخصی

قدم بعدی در راه تکامل شخصی

تغییراتی ضروری در جهان درون خود

طراحی الگوریتم

طراحی الگوریتم

مقدمه ای بر طراحی و تحلیل الگوریتم ها

OPUS Rocket of Whispers

OPUS Rocket of Whispers

فکری و معمایی

نظریه فطری بودن دین

نظریه فطری بودن دین

علل پیدایش دین

خبرنامه

با عضویت در خبرنامه، زودتر از همه باخبر باش!