سافت گذر دانشنامه نرم افزار - دانلود رایگان نرم افزار

اطلاعیه های مهم سایت اطلاعیه های مهم سایت
💐 میلاد زینت پدر حضرت زینب سلام الله علیها مبارک باد 💐
 
 
  1. جهت رفع مشکل باز شدن سایت به دلیل بلاک توسط  نود 32 این ویدیو یا این ویدیو(ورژن 9 به بالا) یا راهنمای تصویری را مشاهده کنید
  2. به مناسبت عید غدیر، در سایت https://esetupdate.ir/ تخفیف ویژه‌ای برای محصولات در نظر گرفته شده است؛ فرصت را از دست ندهید. 🌸
  3. اکانت های بروزرسانی نود32 با قیمت های مناسب به صورت یک ، سه ، شش و دوازده ماهه از اینجا قابل خرید می باشد.

نرم افزار های پرکاربرد

ثبت نام | ورود
wepido.ir

هشدار مایکروسافت: عامل‌های هوش مصنوعی قابل اعتماد نیستند؛ راه‌حل، هوش مصنوعی بیشتر است

هشدار مایکروسافت: عامل‌های هوش مصنوعی قابل اعتماد نیستند؛ راه‌حل، هوش مصنوعی بیشتر است

مایکروسافت که یکی از بزرگ‌ترین سرمایه‌گذاران حوزه هوش مصنوعی است، در گزارش امنیتی تازه‌ای هشدار داده است که عامل‌های هوش مصنوعی (AI Agents) را نمی‌توان قابل اعتماد دانست. در این گزارش، هیئت گالو (Hayete Gallot)، معاون اجرایی بخش امنیت مایکروسافت، تأکید کرده است که «مدل‌های پیشرو (Frontier Models)، صرف‌نظر از منشأ آن‌ها، قابل اعتماد نیستند.»

چرا مدل‌های پیشرو قابل اعتماد نیستند؟

به گفته مایکروسافت، مشکل اصلی ماهیت مخرب ذاتی این مدل‌ها نیست؛ بلکه آن‌ها به‌راحتی برای رسیدن به نتیجه، بدون توجه به «هنجارهای سازمانی یا قضاوت» منحرف می‌شوند. این هشدار تنها چند هفته پس از آن منتشر می‌شود که مایکروسافت زیرساخت تازه‌ای برای مهار عامل‌های هوش مصنوعی در ویندوز معرفی کرد.

این هم‌زمانی نشان می‌دهد شرکت هم در حال قدرتمندتر کردن عامل‌هاست و هم می‌کوشد حفاظ‌هایی پیرامون آن‌ها بسازد تا بقیه فضای وب از رفتارشان در امان بماند.

وقتی عامل‌های هوش مصنوعی سرکش می‌شوند

خطر عامل‌های سرکش پیش‌تر نیز در چند مورد دیده شده است. یکی از شناخته‌شده‌ترین نمونه‌ها، ماجرای حمله مرتبط با OpenAI به Hugging Face بود که در آن حدود ۷۰۰ عامل خودمختار پس از خروج از مهار (Containment)، راهی برای نفوذ به پلتفرم توسعه‌دهنده هوش مصنوعی پیدا کردند. در این رخداد، عامل‌ها به اشتراک‌گذاری اکسپلویت‌ها و حفظ حافظه ادامه دادند، حتی زمانی که ربات‌های سرکش در حال مهار بودند.

مایکروسافت پیش‌تر نیز درباره خطرهای عامل‌های هوش مصنوعی هشدار داده بود. در نوامبر ۲۰۲۵ اعلام شد قابلیت‌های عامل‌محور در ویندوز ۱۱ تنها در صورتی باید فعال شوند که کاربر «پیامدهای امنیتی را درک کند». این عامل‌ها به‌ویژه در برابر تزریق میان‌پیامی (Cross-Prompt Injection یا XPIA) آسیب‌پذیرند؛ روشی که می‌تواند دستورهای کاربر به عامل را بازنویسی کند و به سرقت داده یا آلودگی به بدافزار منجر شود.

مایکروسافت اکنون هوش مصنوعی مورد استفاده در محیط کار را در دسته «نفوذی‌های عامل‌محور» (Agentic Insiders) قرار می‌دهد؛ موجودیت‌هایی که تقریباً در هر زمانی می‌توانند سرکش شوند و رفتاری غیرقابل پیش‌بینی داشته باشند. هرچه این عامل‌ها بیشتر به سامانه‌های سازمانی متصل شوند، خطرهای آن‌ها نیز بیشتر می‌شود و نظارت مداوم بر آن‌ها ضروری است.

عامل‌های نگهبان؛ پاسخ مایکروسافت به تهدید

پاسخ مایکروسافت به مشکل عامل‌های سرکش، هوش مصنوعی بیشتر است. این شرکت عامل‌های نگهبان (Guardian Agents) را طراحی کرده است تا به‌جای اتکا به نظارت انسانی، «هر اقدام هر عامل را پیش از وقوع، به‌صورت شبانه‌روزی تماشا و مدیریت کنند.»

نمونه‌ای از کاربرد این عامل‌ها، پروژه Perception مایکروسافت است. این پروژه که تابستان امسال معرفی شد و هنوز به‌طور گسترده در دسترس نیست، سیگنال‌ها، زمینه، مدل‌ها و عامل‌های تخصصی را در قالب یک خط دفاعی چهارلایه در برابر تهدیدهای بیرونی و درونی سازمان به کار می‌گیرد. به بیان ساده، اینجا هوش مصنوعی با هوش مصنوعی مقابله می‌کند، زیرا به باور مایکروسافت انسان‌ها دیگر امیدی به همگام شدن با سرعت این تهدیدها ندارند.

جمع‌بندی

مایکروسافت در موقعیت دشواری قرار گرفته است: از یک سو یکپارچه‌سازی سطحی هوش مصنوعی در ویندوز ۱۱ را کاهش داده و از سوی دیگر تمرکز خود را بر زیرساخت عمیق‌تر عامل‌ها گذاشته است؛ همه این‌ها در حالی است که خود می‌گوید مدل‌های پایه قابل اعتماد نیستند. راه‌حل فعلی شرکت، مهار، نظارت و بازبینی است؛ اما پرسش اصلی این است که آیا این حفاظ‌ها برای جلوگیری از یک فاجعه کافی خواهند بود یا نه.

نظرتان را ثبت کنید کد خبر: 56012 گروه خبری: اخبار نرم افزار منبع خبر: Windows Central تاریخ خبر: 1405/07/30 تعداد مشاهده: 42
اخبار مرتبط با این خبر
نظر های کاربران
سرور آپدیت نود 32
پیشنهاد سافت گذر
Etcher 1.19.19

Etcher 1.19.19

ساخت دیسک و فلش مموری قابل بوت

JSON Buddy 7.4.4

JSON Buddy 7.4.4

ساخت، ویرایش و مدیریت فایل های جیسون

Murderous Pursuits + Updates

Murderous Pursuits + Updates

اکشن

All-In-One Toolbox Pro 8.3.0 for Android +2.0

All-In-One Toolbox Pro 8.3.0 for Android +2.0

جعبه ابزار

Electrical calculations Pro 7.10.1 For Android +2.3

Electrical calculations Pro 7.10.1 For Android +2.3

ماشین حساب رشته برق

آشنایی با تاریخ پهلوی

آشنایی با تاریخ پهلوی

خاطرات محرمانه اسداله علم

Caravan War 3.0.3 For Android +4.0.3

Caravan War 3.0.3 For Android +4.0.3

جنگ کاروان ها

داده های دیجیتال

داده های دیجیتال

یک مبنا در ارتباطات دیجیتال

همراه بام ملی 4.27.1.639 برای اندروید

همراه بام ملی 4.27.1.639 برای اندروید

همراه بام بانک ملی

Uconomix uMark  6.4

Uconomix uMark 6.4

واترمارک تصاویر

Fall of the Titanic

Fall of the Titanic

کشتی تایتانیک

عجیب‌ترین و احمقانه‌ترین ایده‌های ساختن در ماه

عجیب‌ترین و احمقانه‌ترین ایده‌های ساختن در ماه

زندگی در ماه

آموزش ساختمان داده ها

آموزش ساختمان داده ها

ساختمان داده ها

Alexander the Great

Alexander the Great

اسکندر

Infinite Mini Golf

Infinite Mini Golf

گلف برای کامپیوتر

دانشنامه علمی فارسی زبان ویکی ساده wikisade

دانشنامه علمی فارسی زبان ویکی ساده wikisade

ویکی ساده

دشمنان امیر المومنین و ائمه‌ معصومین علیهم السلام  در قرآن

دشمنان امیر المومنین و ائمه‌ معصومین علیهم السلام در قرآن

آیات کفار و منافقین در قرآن

Udemy - Cell Phone Repair - iPhone 3GS

Udemy - Cell Phone Repair - iPhone 3GS

تعمیرات تلفن همراه - گوشی آیفون 3GS

سخنرانی های آیت الله شهید مطهری بخش هفتم

سخنرانی های آیت الله شهید مطهری بخش هفتم

Morteza Motahari

Encyclopaedia Britannica 2015 Ultimate Edition for Win/Mac

Encyclopaedia Britannica 2015 Ultimate Edition for Win/Mac

کاملترین دائرة المعارف (دانشنامه) علوم مختلف

آموزش نرم افزار Power Designer

آموزش نرم افزار Power Designer

آموزش پاور دیزاینر

تقیه از دیدگاه مذاهب و فرقه های اسلامی غیرشیعی

تقیه از دیدگاه مذاهب و فرقه های اسلامی غیرشیعی

دیدگاه مذاهب و فرقه های اسلامی غیرشیعی درباره تقیه

Lynda - Lighting a Video Interview

Lynda - Lighting a Video Interview

فیلم آموزش نورپردازی صحیح برای تصویربرداری از مصاحبه‌‌ی ویدئویی

تاریخ ایران

تاریخ ایران

سلسله سلاجقه تا آغاز دوره صفویه

Russia World Cup 2018 Instrumental 128kbps + 320Kbps

Russia World Cup 2018 Instrumental 128kbps + 320Kbps

آهنگ های جام جهانی 2018

Dead Cells: Return to Castlevania v20.06.2023

Dead Cells: Return to Castlevania v20.06.2023

دد سلز

ASTRO File Manager Pro 5.0.0 / 8.10.1 for Android +2.3

ASTRO File Manager Pro 5.0.0 / 8.10.1 for Android +2.3

مدیریت فایل استرو

InfiniteSkills - HTML5 Audio And Video

InfiniteSkills - HTML5 Audio And Video

فیلم آموزش قرار دادن و سازماندهی صوت و ویدئو در صفحات وب تحت اچ‌تی‌ام‌ال5

Microsoft ISA Server 2006 Enterprise / Standard Edition + SP1

Microsoft ISA Server 2006 Enterprise / Standard Edition + SP1

نسخه 2006 فایروال مایکروسافت برای ویندوزهای سرور

Yahoo Mail 26.42.0 For Android +9.0

Yahoo Mail 26.42.0 For Android +9.0

ایمیل یاهو

SWF Player - Flash File Viewer 1.72 for Android +2.2

SWF Player - Flash File Viewer 1.72 for Android +2.2

اجرای فایلهای فلش در اندروید

FunCam 4.5 for Android +2.2

FunCam 4.5 for Android +2.2

ایجاد افکت های زیبا بر روی تصاویر

امامت حضرت بقیة‌الله و نقش سازندة عقیده به امامت آن حضرت علیه السلام

امامت حضرت بقیة‌الله و نقش سازندة عقیده به امامت آن حضرت علیه السلام

مهدویت پرسش‌ها و پاسخ‌ها

Immortal Redneck - Infinite Tower

Immortal Redneck - Infinite Tower

اکشن شوتر سه بعدی

MAGIX Sequoia Pro 17.3.0 + Contents

MAGIX Sequoia Pro 17.3.0 + Contents

ویرایش صدا

MultiDrive 1.2

MultiDrive 1.2

کلون‌سازی و پشتیبان‌گیری دیسک

GnuCash 5.14

GnuCash 5.14

حسابداری

Digital Tutors – Introduction to Softimage 2014

Digital Tutors – Introduction to Softimage 2014

فیلم آموزش مبانی نرم افزار سافت ایمیج 2014

Microsoft Windows 7 latest version

Microsoft Windows 7 latest version

دانلود آخرین نسخه ویندوز

Callistics 2.7.1 Premium for Android +2.3

Callistics 2.7.1 Premium for Android +2.3

گزارش تماس، پیام، دیتا

خبرنامه

با عضویت در خبرنامه، زودتر از همه باخبر باش!