سافت گذر دانشنامه نرم افزار - دانلود رایگان نرم افزار

اطلاعیه های مهم سایت اطلاعیه های مهم سایت
💐 میلاد زینت پدر حضرت زینب سلام الله علیها مبارک باد 💐
 
 
  1. جهت رفع مشکل باز شدن سایت به دلیل بلاک توسط  نود 32 این ویدیو یا این ویدیو(ورژن 9 به بالا) یا راهنمای تصویری را مشاهده کنید
  2. به مناسبت عید غدیر، در سایت https://esetupdate.ir/ تخفیف ویژه‌ای برای محصولات در نظر گرفته شده است؛ فرصت را از دست ندهید. 🌸
  3. اکانت های بروزرسانی نود32 با قیمت های مناسب به صورت یک ، سه ، شش و دوازده ماهه از اینجا قابل خرید می باشد.

نرم افزار های پرکاربرد

ثبت نام | ورود
wepido.ir

اتفاقی نادر در دنیای AI؛ چرا ایلان ماسک و سم آلتمن خواستار کاهش سرعت توسعه هوش مصنوعی شدند؟

نتشار یادداشت جنجالی داریو آمودی، مدیرعامل شرکت Anthropic، با عنوان We Must Pace the Frontier به تیتر یک رسانه‌های فناوری تبدیل شده است؛ در این مقاله او رسماً خواستار کاهش سرعت توسعه هوش مصنوعی در مدل‌های پیشرفته شده است. اما نکته‌ای که این خبر را به یک اتفاق نادر تبدیل کرد، تایید سریع این موضع توسط رقبای سرسخت او یعنی سم آلتمن و ایلان ماسک بود.

​باید دقت کنیم که مسئله اصلی در اینجا توقف کامل توسعه هوش مصنوعی نیست؛ هیچ‌یک از این چهره‌ها خواهان تعطیلی نوآوری نیستند. نگرانی اصلی این است که قابلیت‌های مدل‌های پیشرفته، بسیار سریع‌تر از سازوکارهای ایمنی و توانایی کنترل انسانی پیش می‌روند. موضوعاتی مانند گسترش توانایی‌های AI Agent، پدیده خودبهبوددهی سیستم‌ها، امنیت سایبری و لزوم حضور نهادهای ارزیابی مستقل، همگی نشان می‌دهند که ما نیازمند یک تنفس راهبردی هستیم تا ایمنی هوش مصنوعی را با پیشرفت‌های خیره‌کننده آن همگام کنیم.

چرا داریو آمودی خواستار کاهش سرعت توسعه هوش مصنوعی شد؟

داریو آمودی هرگز مخالف پیشرفت این فناوری نیست؛ بلکه صراحتاً تأیید می‌کند که باید سرعت توسعه هوش مصنوعی را با پروتکل‌های امنیتی هماهنگ کرد.

سبقت گرفتن قابلیت‌های مدل‌های Frontier از سازوکارهای ایمنی

مسئله اصلی، سرعت سرسام‌آور پیشرفت مدل‌های پیشرفته هوش مصنوعی یا همان Frontier AI است. آمودی معتقد است قابلیت‌های این مدل‌ها با سرعتی در حال افزایش است که سازوکارهای ایمنی AI و درک انسانی از پیامدهای آن، به‌هیچ‌وجه نمی‌توانند همزمان با آن پیش بروند. توسعه سریع هوش مصنوعی بدون ارزیابی‌های دقیق و مستمر، خطر بروز خطاهای پیش‌بینی‌نشده را به‌شدت بالا می‌برد.

خطر افزایش توانایی AI Agentها و سیستم‌های خودمختار

نگرانی‌ها فقط محدود به چت‌بات‌های متنی نیست. تمرکز اصلی روی ایجنت هوش مصنوعی (AI Agent) و سیستم‌های خودمختار است. این عامل‌های خودمختار می‌توانند به‌طور کاملاً مستقل وظایف را به‌صورت زنجیره‌ای انجام دهند، به اینترنت متصل شوند و از ابزارهای مختلف بدون دخالت انسان استفاده کنند. با افزایش استقلال سیستم‌ها، در گزارش‌های جدید نگرانی‌های جدی درباره توانایی این ایجنت‌های پیشرفته برای انجام عملیات پیچیده و حتی اجرای سناریوهای مخرب سایبری مطرح شده است که خطرات هوش مصنوعی و امنیت آن را از حالت تئوری به واقعیتی ملموس تبدیل می‌کند.

چرا سم آلتمن و ایلان ماسک از کاهش سرعت توسعه AI حمایت کردند؟

هم‌نظری چهره‌های رقیب در دره سیلیکون نشان می‌دهد تهدیدات به نقطه‌ای بحرانی رسیده که منافع مشترک بر جنگ‌های تجاری غلبه کرده است.

موضع سم آلتمن درباره تنظیم سرعت و تعهد به نظارت

چرا سم آلتمن با کاهش سرعت هوش مصنوعی موافق است؟ او مفهوم تنظیم سرعت یا Pacing را تأیید کرده و آن را نه یک عقب‌نشینی، بلکه ادامه گفت‌وگوهای درون‌سازمانی برای توسعه مسئولانه می‌داند. آلتمن در واکنش به یادداشت آمودی صراحتاً می‌نویسد:

I agree with Dario that we need to pace the frontier... Committing to having independent evaluators with employee-like access is a great idea, and we will do the same.

«من با داریو موافقم که باید سرعت توسعه مدل‌های مرزی را تنظیم کنیم. تعهد به داشتن ارزیاب‌های مستقل با دسترسی مشابه کارمندان ایده بسیار خوبی است و ما نیز همین کار را خواهیم کرد.»

چرا هم‌نظر شدن مدیران رقیب صنعت AI مهم است؟

اما چرا ایلان ماسک خواستار کاهش سرعت توسعه هوش مصنوعی شد؟ ماسک که همواره درباره پیامدهای این فناوری هشدار داده بود، با انتشار جمله صریح «داریو درست می‌گوید» به این جریان پیوست. واقعیت این است که اگر رقبای اصلی بر سر کاهش سرعت پیشرفت هوش مصنوعی توافق نکنند، مسابقه‌ای مخرب برای جلو افتادن شکل می‌گیرد که اولین قربانی آن استانداردهای ایمنی خواهد بود. بنابراین، اتحاد آن‌ها برای پایان دادن به تک‌روی‌های تجاری حیاتی است.

منظور از کاهش سرعت توسعه هوش مصنوعی چیست؟

در پاسخ به این سوال باید گفت هدف از کاهش سرعت توسعه هوش مصنوعی ایجاد فرصتی عملیاتی برای ارزیابی ریسک و استقرار مقررات است.

مفهوم کلیدی

باور نادرست عمومی

واقعیت اجرایی و رویکرد صحیح

ماهیت اقدام

توقف کامل ساخت سیستم‌های پیشرفته

تنظیم سرعت نوآوری متناسب با پروتکل‌های ایمنی

نهاد ناظر

مسدودسازی نوآوری توسط دولت‌ها

حضور فعال ارزیاب شخص ثالث با دسترسی بالا

رقابت جهانی

واگذاری بازار به کشورهای رقیب

ایجاد توافقات و استانداردهای مشترک صنعتی

استفاده از ارزیاب‌های مستقل برای بررسی ایمنی مدل‌ها

یکی از محورهای اصلی این پیشنهاد، استفاده از ارزیاب‌های مستقل (Third-party / Independent Evaluators) است. تکیه بر خودآزمایی شرکت‌ها دیگر برای تضمین امنیت مدل‌های هوش مصنوعی کافی نیست و احتمال تضاد منافع را بالا می‌برد. حضور ارزیاب شخص ثالث با سطح دسترسی بالا می‌تواند رفتارهای پنهان و مخرب سیستم‌ها را پیش از عرضه عمومی کشف کند. Anthropic و OpenAI نیز به این رویکرد برای حفظ استانداردهای ایمنی و نظارت بر هوش مصنوعی متعهد شده‌اند.

ایجاد استانداردهای مشترک صنعتی و ضرورت هماهنگی بین‌المللی

اگر یک شرکت به‌تنهایی تصمیم به کاهش سرعت بگیرد، قطعاً در بازار از رقبای خود عقب می‌ماند. به همین دلیل، ایجاد یک استاندارد مشترک و تعیین معیارهای ایمنی برای ارزیابی قبل از انتشار مدل‌های جدید ضروری است. همکاری شرکت‌ها مانع از شکل‌گیری مسابقه‌ای می‌شود که در آن مجموعه‌ها برای جلو زدن از یکدیگر مجبور شوند استانداردهای ایمنی را نادیده بگیرند.

اگر سرعت توسعه هوش مصنوعی کنترل نشود چه اتفاقی می‌افتد؟

اگر این هشدارها نادیده گرفته شوند، توسعه مهارنشده ریسک‌های عینی فراوانی به‌دنبال دارد که کاملاً واقعی هستند.

افزایش ریسک سوءاستفاده از مدل‌های پیشرفته

مدل‌های قدرتمند می‌توانند در کنار کاربردهای مفید، برای اتوماسیون حملات سایبری، اجرای کلاهبرداری‌های پیچیده و تولید گسترده محتوای مخرب مورد سوءاستفاده قرار گیرند. توسعه و اجرای مدل‌های پیشرفته هوش مصنوعی تنها به الگوریتم و داده وابسته نیست و زیرساخت پردازشی مناسب نیز نقش مهمی در این فرایند دارد. کسب‌وکارهایی که به منابع پردازشی منعطف و مقیاس‌پذیر نیاز دارند، می‌توانند از سرور ابری برای تأمین بخشی از این نیازها استفاده کنند. بااین‌حال، اگر سرعت توسعه مهار نشود، همین زیرساخت‌ها نیز به‌شدت در معرض خطر نفوذ ایجنت‌های خودمختار قرار می‌گیرند.

خودبهبوددهی بازگشتی و چالش مهار انسانی

یکی دیگر از چالش‌ها، پدیده خودبهبوددهی بازگشتی (AI-assisted self-improvement) است. در این حالت، هوش مصنوعی از توانایی‌های خود برای بازنویسی کدها و ارتقای نسل بعدی سیستم‌ها استفاده می‌کند. اگر این روند سرعت بگیرد، ما با جهشی مهارنشدنی به سمت ابرهوش مصنوعی (Superintelligence) یا AGI حرکت خواهیم کرد که کنترل آن بسیار پیچیده خواهد بود.

سخن پایانی

​کاهش سرعت توسعه هوش مصنوعی به‌هیچ‌وجه به‌معنای توقف هوش مصنوعی و پایان مسیر نوآوری نیست. بلکه نگرانی اصلی، جلو افتادن قابلیت‌های خیره‌کننده AI از سازوکارهای ایمنی، قانون‌گذاری و توانایی نظارت انسانی است. حمایت چهره‌های سرشناسی چون سم آلتمن و ایلان ماسک از ایده آمودی نشان می‌دهد مسئله AI Safety از یک بحث تخصصی درون‌آزمایشگاهی، به یکی از مسائل و بحران‌های اصلی صنعت تبدیل شده است. ایجاد توافقات مشترک صنعتی و استقرار ارزیاب‌های مستقل شخص ثالث، تنها راه عبور امن از این مرحله است. سؤال اصلی از اینجا به بعد دیگر این نیست که «آیا هوش مصنوعی پیشرفت خواهد کرد؟»؛ بلکه این است که آیا انسان می‌تواند سرعت این پیشرفت را به‌اندازه‌ای کنترل کند که ایمنی نیز همزمان با آن رشد کند؟

نظرتان را ثبت کنید کد خبر: 55130 گروه خبری: رپورتاژ آگهی منبع خبر: پابلیکا تاریخ خبر: 1405/07/14 تعداد مشاهده: 438
اخبار مرتبط با این خبر
نظر های کاربران
سرور آپدیت نود 32
پیشنهاد سافت گذر
مجله تخصصی پلی استیشن سونی

مجله تخصصی پلی استیشن سونی

مجله تخصصی آخرین اخبار بازی ها و نقد و بررسی های بازی

قوانین مالی و درآمدزایی بیشتر

قوانین مالی و درآمدزایی بیشتر

21 قانون مالی برای کسب درآمد بیشتر

سخنرانی‌های شیخ جعفر شوشتری

سخنرانی‌های شیخ جعفر شوشتری

مصائب اباعبدالله الحسین

معجزات بی‌شمار امام مهدی(عج)

معجزات بی‌شمار امام مهدی(عج)

پرتوی از نورستان در دل کویر لوت

آموزش تصویری کار با پاورپوینت 2007 و 2010

آموزش تصویری کار با پاورپوینت 2007 و 2010

آموزش پاورپوینت

ContourTrace Professional 2.8.5

ContourTrace Professional 2.8.5

تبدیل تصاویر پیکسلی به برداری

Oxford Advanced Learner’s Dictionary 8th Edition 2010 + Portable

Oxford Advanced Learner’s Dictionary 8th Edition 2010 + Portable

ویرایش هشتم دیکشنری انگلیسی به انگلیسی و معتبر اکسفورد (نسخه پیشرفته)

شهادت و زندگینامه خلبانان نیروی هوایی

شهادت و زندگینامه خلبانان نیروی هوایی

سوانح هوایی

FarStone RestoreIT 10 Build 4.1.100.1332 / TotalRecovery Pro 11.0 /Server 10.10.1 / Total Backup Recovery Server 10.10

FarStone RestoreIT 10 Build 4.1.100.1332 / TotalRecovery Pro 11.0 /Server 10.10.1 / Total Backup Recovery Server 10.10

نرم افزار پشتیبان گیری کم حجم و سریع از اطلاعات

Crimsonland 1.9.8 - Cracked

Crimsonland 1.9.8 - Cracked

کریمسون لند

Duplicate Files Fixer 1.2.1.1092

Duplicate Files Fixer 1.2.1.1092

شناسایی و حذف فایل های تکراری

سخنرانی های مرحوم آیت الله مجتهدی تهرانی بخش پانزدهم

سخنرانی های مرحوم آیت الله مجتهدی تهرانی بخش پانزدهم

سخنرانی آیت الله مجتهدی تهرانی با موضوع مذمت حب مال

Format Factory 5.21.0 + Portable

Format Factory 5.21.0 + Portable

تبدیل فرمت‌های صوتی و تصویری فرمت فکتوری

CyberLink Screen Recorder Deluxe 4.4.1.31540

CyberLink Screen Recorder Deluxe 4.4.1.31540

ضبط صفحه نمایش

WinSetupFromUSB 1.10

WinSetupFromUSB 1.10

نرم افزار بوت کردن ویندوز XP برای نصب از روی فلش USB

Cutcon 4.0

Cutcon 4.0

بُرش، تبدیل و پیش‌نمایش فایل‌های ویدئویی، صوتی و عکس

Freedom Fighters

Freedom Fighters

فریدوم فایترز برای کامپیوتر

Line Runner 2 v2.0 for Android +2.2

Line Runner 2 v2.0 for Android +2.2

بازی دونده بر روی خطوط 2

آشنایی با  ارزهای دیجیتال

آشنایی با ارزهای دیجیتال

بازارهای مالی

Shadows on the Vatican - Act II - Wrath

Shadows on the Vatican - Act II - Wrath

سایه‌هایی بر واتیکان - کُنِش 2 - خشم

AirFox 1.0 for Android

AirFox 1.0 for Android

بازی هواپیما آتاری

Learning Autodesk 3ds Max Design 2010

Learning Autodesk 3ds Max Design 2010

آموزش اتودسک 3دی مکس دیزاین 2010

USB FORMAT 7.1

USB FORMAT 7.1

فرمت فلش مموری

The Incredible Adventures of Super Panda + Update

The Incredible Adventures of Super Panda + Update

کودکانه برای کامپیوتر

Uninstalr 2.6

Uninstalr 2.6

آنیستالر

آموزش بیان و سخن وری

آموزش بیان و سخن وری

فن سخنوری

Trial-Reset 4.0 Final Fixed

Trial-Reset 4.0 Final Fixed

تریال ریست

Gem Miner 2 v1.6 for Android +2.0

Gem Miner 2 v1.6 for Android +2.0

بازی معدن چی

آموزش حیات وحش به کودکان

آموزش حیات وحش به کودکان

گربه سانان به زبان ساده

هوش مصنوعی

هوش مصنوعی

آشنایی با کتاب هوش مصنوعی

Yamaha Supercross

Yamaha Supercross

موتورهای پرشی یاماها

Half-Life 2

Half-Life 2

نیمه‌جان 2 | نسخه‌ی بسیار کم‌حجم Full Rip

Do It Later 4.4.2 for Android +4.4

Do It Later 4.4.2 for Android +4.4

بعدا انجام بده

Principia 1.5.1 for Android +2.2

Principia 1.5.1 for Android +2.2

بازی آدمک آهنی

FameRing Smart Cutter for DV and DVB 1.11.2

FameRing Smart Cutter for DV and DVB 1.11.2

ویرایش ویدئوهای ضبط‌ شده با دوربین‌های دی‌وی

SCR Screen Recorder Pro root 1.0.5 / 5 v0.1.3 for Android +4.0

SCR Screen Recorder Pro root 1.0.5 / 5 v0.1.3 for Android +4.0

تصویر برداری از صفحه نمایش

Cut The Rope 3.37.0 for Android +4.1

Cut The Rope 3.37.0 for Android +4.1

طناب را ببر

Principles of Marketing - 15th Edition

Principles of Marketing - 15th Edition

اصول بازاریابی

The Nun 2018

The Nun 2018

راهبه

Evernote 11.42.3.15674

Evernote 11.42.3.15674

نکته برداری ابری

خبرنامه

با عضویت در خبرنامه، زودتر از همه باخبر باش!