سافت گذر دانشنامه نرم افزار - دانلود رایگان نرم افزار

اطلاعیه های مهم سایت اطلاعیه های مهم سایت
💐 میلاد زینت پدر حضرت زینب سلام الله علیها مبارک باد 💐
 
 
  1. جهت رفع مشکل باز شدن سایت به دلیل بلاک توسط  نود 32 این ویدیو یا این ویدیو(ورژن 9 به بالا) یا راهنمای تصویری را مشاهده کنید
  2. به مناسبت عید غدیر، در سایت https://esetupdate.ir/ تخفیف ویژه‌ای برای محصولات در نظر گرفته شده است؛ فرصت را از دست ندهید. 🌸
  3. اکانت های بروزرسانی نود32 با قیمت های مناسب به صورت یک ، سه ، شش و دوازده ماهه از اینجا قابل خرید می باشد.

نرم افزار های پرکاربرد

ثبت نام | ورود
wepido.ir

اتفاقی نادر در دنیای AI؛ چرا ایلان ماسک و سم آلتمن خواستار کاهش سرعت توسعه هوش مصنوعی شدند؟

نتشار یادداشت جنجالی داریو آمودی، مدیرعامل شرکت Anthropic، با عنوان We Must Pace the Frontier به تیتر یک رسانه‌های فناوری تبدیل شده است؛ در این مقاله او رسماً خواستار کاهش سرعت توسعه هوش مصنوعی در مدل‌های پیشرفته شده است. اما نکته‌ای که این خبر را به یک اتفاق نادر تبدیل کرد، تایید سریع این موضع توسط رقبای سرسخت او یعنی سم آلتمن و ایلان ماسک بود.

​باید دقت کنیم که مسئله اصلی در اینجا توقف کامل توسعه هوش مصنوعی نیست؛ هیچ‌یک از این چهره‌ها خواهان تعطیلی نوآوری نیستند. نگرانی اصلی این است که قابلیت‌های مدل‌های پیشرفته، بسیار سریع‌تر از سازوکارهای ایمنی و توانایی کنترل انسانی پیش می‌روند. موضوعاتی مانند گسترش توانایی‌های AI Agent، پدیده خودبهبوددهی سیستم‌ها، امنیت سایبری و لزوم حضور نهادهای ارزیابی مستقل، همگی نشان می‌دهند که ما نیازمند یک تنفس راهبردی هستیم تا ایمنی هوش مصنوعی را با پیشرفت‌های خیره‌کننده آن همگام کنیم.

چرا داریو آمودی خواستار کاهش سرعت توسعه هوش مصنوعی شد؟

داریو آمودی هرگز مخالف پیشرفت این فناوری نیست؛ بلکه صراحتاً تأیید می‌کند که باید سرعت توسعه هوش مصنوعی را با پروتکل‌های امنیتی هماهنگ کرد.

سبقت گرفتن قابلیت‌های مدل‌های Frontier از سازوکارهای ایمنی

مسئله اصلی، سرعت سرسام‌آور پیشرفت مدل‌های پیشرفته هوش مصنوعی یا همان Frontier AI است. آمودی معتقد است قابلیت‌های این مدل‌ها با سرعتی در حال افزایش است که سازوکارهای ایمنی AI و درک انسانی از پیامدهای آن، به‌هیچ‌وجه نمی‌توانند همزمان با آن پیش بروند. توسعه سریع هوش مصنوعی بدون ارزیابی‌های دقیق و مستمر، خطر بروز خطاهای پیش‌بینی‌نشده را به‌شدت بالا می‌برد.

خطر افزایش توانایی AI Agentها و سیستم‌های خودمختار

نگرانی‌ها فقط محدود به چت‌بات‌های متنی نیست. تمرکز اصلی روی ایجنت هوش مصنوعی (AI Agent) و سیستم‌های خودمختار است. این عامل‌های خودمختار می‌توانند به‌طور کاملاً مستقل وظایف را به‌صورت زنجیره‌ای انجام دهند، به اینترنت متصل شوند و از ابزارهای مختلف بدون دخالت انسان استفاده کنند. با افزایش استقلال سیستم‌ها، در گزارش‌های جدید نگرانی‌های جدی درباره توانایی این ایجنت‌های پیشرفته برای انجام عملیات پیچیده و حتی اجرای سناریوهای مخرب سایبری مطرح شده است که خطرات هوش مصنوعی و امنیت آن را از حالت تئوری به واقعیتی ملموس تبدیل می‌کند.

چرا سم آلتمن و ایلان ماسک از کاهش سرعت توسعه AI حمایت کردند؟

هم‌نظری چهره‌های رقیب در دره سیلیکون نشان می‌دهد تهدیدات به نقطه‌ای بحرانی رسیده که منافع مشترک بر جنگ‌های تجاری غلبه کرده است.

موضع سم آلتمن درباره تنظیم سرعت و تعهد به نظارت

چرا سم آلتمن با کاهش سرعت هوش مصنوعی موافق است؟ او مفهوم تنظیم سرعت یا Pacing را تأیید کرده و آن را نه یک عقب‌نشینی، بلکه ادامه گفت‌وگوهای درون‌سازمانی برای توسعه مسئولانه می‌داند. آلتمن در واکنش به یادداشت آمودی صراحتاً می‌نویسد:

I agree with Dario that we need to pace the frontier... Committing to having independent evaluators with employee-like access is a great idea, and we will do the same.

«من با داریو موافقم که باید سرعت توسعه مدل‌های مرزی را تنظیم کنیم. تعهد به داشتن ارزیاب‌های مستقل با دسترسی مشابه کارمندان ایده بسیار خوبی است و ما نیز همین کار را خواهیم کرد.»

چرا هم‌نظر شدن مدیران رقیب صنعت AI مهم است؟

اما چرا ایلان ماسک خواستار کاهش سرعت توسعه هوش مصنوعی شد؟ ماسک که همواره درباره پیامدهای این فناوری هشدار داده بود، با انتشار جمله صریح «داریو درست می‌گوید» به این جریان پیوست. واقعیت این است که اگر رقبای اصلی بر سر کاهش سرعت پیشرفت هوش مصنوعی توافق نکنند، مسابقه‌ای مخرب برای جلو افتادن شکل می‌گیرد که اولین قربانی آن استانداردهای ایمنی خواهد بود. بنابراین، اتحاد آن‌ها برای پایان دادن به تک‌روی‌های تجاری حیاتی است.

منظور از کاهش سرعت توسعه هوش مصنوعی چیست؟

در پاسخ به این سوال باید گفت هدف از کاهش سرعت توسعه هوش مصنوعی ایجاد فرصتی عملیاتی برای ارزیابی ریسک و استقرار مقررات است.

مفهوم کلیدی

باور نادرست عمومی

واقعیت اجرایی و رویکرد صحیح

ماهیت اقدام

توقف کامل ساخت سیستم‌های پیشرفته

تنظیم سرعت نوآوری متناسب با پروتکل‌های ایمنی

نهاد ناظر

مسدودسازی نوآوری توسط دولت‌ها

حضور فعال ارزیاب شخص ثالث با دسترسی بالا

رقابت جهانی

واگذاری بازار به کشورهای رقیب

ایجاد توافقات و استانداردهای مشترک صنعتی

استفاده از ارزیاب‌های مستقل برای بررسی ایمنی مدل‌ها

یکی از محورهای اصلی این پیشنهاد، استفاده از ارزیاب‌های مستقل (Third-party / Independent Evaluators) است. تکیه بر خودآزمایی شرکت‌ها دیگر برای تضمین امنیت مدل‌های هوش مصنوعی کافی نیست و احتمال تضاد منافع را بالا می‌برد. حضور ارزیاب شخص ثالث با سطح دسترسی بالا می‌تواند رفتارهای پنهان و مخرب سیستم‌ها را پیش از عرضه عمومی کشف کند. Anthropic و OpenAI نیز به این رویکرد برای حفظ استانداردهای ایمنی و نظارت بر هوش مصنوعی متعهد شده‌اند.

ایجاد استانداردهای مشترک صنعتی و ضرورت هماهنگی بین‌المللی

اگر یک شرکت به‌تنهایی تصمیم به کاهش سرعت بگیرد، قطعاً در بازار از رقبای خود عقب می‌ماند. به همین دلیل، ایجاد یک استاندارد مشترک و تعیین معیارهای ایمنی برای ارزیابی قبل از انتشار مدل‌های جدید ضروری است. همکاری شرکت‌ها مانع از شکل‌گیری مسابقه‌ای می‌شود که در آن مجموعه‌ها برای جلو زدن از یکدیگر مجبور شوند استانداردهای ایمنی را نادیده بگیرند.

اگر سرعت توسعه هوش مصنوعی کنترل نشود چه اتفاقی می‌افتد؟

اگر این هشدارها نادیده گرفته شوند، توسعه مهارنشده ریسک‌های عینی فراوانی به‌دنبال دارد که کاملاً واقعی هستند.

افزایش ریسک سوءاستفاده از مدل‌های پیشرفته

مدل‌های قدرتمند می‌توانند در کنار کاربردهای مفید، برای اتوماسیون حملات سایبری، اجرای کلاهبرداری‌های پیچیده و تولید گسترده محتوای مخرب مورد سوءاستفاده قرار گیرند. توسعه و اجرای مدل‌های پیشرفته هوش مصنوعی تنها به الگوریتم و داده وابسته نیست و زیرساخت پردازشی مناسب نیز نقش مهمی در این فرایند دارد. کسب‌وکارهایی که به منابع پردازشی منعطف و مقیاس‌پذیر نیاز دارند، می‌توانند از سرور ابری برای تأمین بخشی از این نیازها استفاده کنند. بااین‌حال، اگر سرعت توسعه مهار نشود، همین زیرساخت‌ها نیز به‌شدت در معرض خطر نفوذ ایجنت‌های خودمختار قرار می‌گیرند.

خودبهبوددهی بازگشتی و چالش مهار انسانی

یکی دیگر از چالش‌ها، پدیده خودبهبوددهی بازگشتی (AI-assisted self-improvement) است. در این حالت، هوش مصنوعی از توانایی‌های خود برای بازنویسی کدها و ارتقای نسل بعدی سیستم‌ها استفاده می‌کند. اگر این روند سرعت بگیرد، ما با جهشی مهارنشدنی به سمت ابرهوش مصنوعی (Superintelligence) یا AGI حرکت خواهیم کرد که کنترل آن بسیار پیچیده خواهد بود.

سخن پایانی

​کاهش سرعت توسعه هوش مصنوعی به‌هیچ‌وجه به‌معنای توقف هوش مصنوعی و پایان مسیر نوآوری نیست. بلکه نگرانی اصلی، جلو افتادن قابلیت‌های خیره‌کننده AI از سازوکارهای ایمنی، قانون‌گذاری و توانایی نظارت انسانی است. حمایت چهره‌های سرشناسی چون سم آلتمن و ایلان ماسک از ایده آمودی نشان می‌دهد مسئله AI Safety از یک بحث تخصصی درون‌آزمایشگاهی، به یکی از مسائل و بحران‌های اصلی صنعت تبدیل شده است. ایجاد توافقات مشترک صنعتی و استقرار ارزیاب‌های مستقل شخص ثالث، تنها راه عبور امن از این مرحله است. سؤال اصلی از اینجا به بعد دیگر این نیست که «آیا هوش مصنوعی پیشرفت خواهد کرد؟»؛ بلکه این است که آیا انسان می‌تواند سرعت این پیشرفت را به‌اندازه‌ای کنترل کند که ایمنی نیز همزمان با آن رشد کند؟

نظرتان را ثبت کنید کد خبر: 55130 گروه خبری: رپورتاژ آگهی منبع خبر: پابلیکا تاریخ خبر: 1405/07/14 تعداد مشاهده: 437
اخبار مرتبط با این خبر
نظر های کاربران
سرور آپدیت نود 32
پیشنهاد سافت گذر
Travel Riddles - Trip to India

Travel Riddles - Trip to India

معماهای مسافرتی - سفر به هند

Stimulsoft Reports 2021.3.2

Stimulsoft Reports 2021.3.2

کامپوننت دات نت برای گزارش گیری

مجله تخصصی برای علاقه مندان به رشته دوچرخه سواری

مجله تخصصی برای علاقه مندان به رشته دوچرخه سواری

مجله Cycling Weekly ژانویه 14؛ 2021

طب و پزشکی در اسلام

طب و پزشکی در اسلام

دانستنی‌های پزشکی

Paperama 1.5.7 for Android +2.3

Paperama 1.5.7 for Android +2.3

بازی با اریگامی

Google Messages 20260903 For Android +8.0

Google Messages 20260903 For Android +8.0

گوگل مسج

LeafView 4.0.3

LeafView 4.0.3

مشاهده عکس

جامع‌ترین و مختصرترین کتاب اعتقادات

جامع‌ترین و مختصرترین کتاب اعتقادات

مناهج الحق و النجاه

Hyper Light Drifter

Hyper Light Drifter

مبارزه به سرعت نور

Electrician Simulator

Electrician Simulator

شبیه ساز برقکاری

Visual Studio Code 1.145.3 Win/Mac/Linux

Visual Studio Code 1.145.3 Win/Mac/Linux

ویژوال استادیو کد

iFind Data Recovery Enterprise 10.6.6.0

iFind Data Recovery Enterprise 10.6.6.0

ریکاوری فایل‌های حذف‌شده

OpenShot Video Editor 3.4.0

OpenShot Video Editor 3.4.0

ویرایش ویدئو

Light Bound

Light Bound

محدوده‌ی نور

File Manager Premium 2.7.6 for Android +5.0

File Manager Premium 2.7.6 for Android +5.0

مدیریت فایل

Warbirds Dogfights

Warbirds Dogfights

جنگ پرنده ها نسخه Dogfights

مفاهیم و اصطلاحات احکام‏

مفاهیم و اصطلاحات احکام‏

اصطلاحات فقهی در رساله ها

Speed Night 1.2.6 for Android

Speed Night 1.2.6 for Android

سرعت در شب

Pluralsight - Website Performance

Pluralsight - Website Performance

فیلم آموزش بهینه‌سازی کارآیی وب‌سایت

Windhawk 1.5.1

Windhawk 1.5.1

بهینه سازی ویندوز

تعمیر کامپیوتر در خانه

تعمیر کامپیوتر در خانه

آموزش ساده رفع مشکل سیستم

ESET HOME Security Essential 19.0.14.0

ESET HOME Security Essential 19.0.14.0

ایسِت هوم سکیوریتی اسنشیال

Thorium Reader v3.1.0

Thorium Reader v3.1.0

کتابخوان الکترونیکی

Call Confirm PRO 2.0.7 for Android +2.1

Call Confirm PRO 2.0.7 for Android +2.1

تماسهای خود را کنترل کنید

Poppy Playtime – Chapter 1 to 5 (All 5 Chapters)

Poppy Playtime – Chapter 1 to 5 (All 5 Chapters)

پاپی پلی تایم

پرسش ها و پاسخ ها با موضوع فلسفه احکام و تربیت

پرسش ها و پاسخ ها با موضوع فلسفه احکام و تربیت

تربیت و اخلاق

Car Detailing Simulator

Car Detailing Simulator

شبیه ساز تعمیر خودرو

Luxor 5th Passage 1.0.0.8

Luxor 5th Passage 1.0.0.8

لوکسور - پنجمین گذرگاه

تلاوت مجلسی استاد محمد صدیق منشاوی سوره مبارکه بقره

تلاوت مجلسی استاد محمد صدیق منشاوی سوره مبارکه بقره

تلاوت محمد صدیق منشاوی سوره بقره

نمونه قطعات صنعتی مدل سازی شده با نرم افزار SolidWorks

نمونه قطعات صنعتی مدل سازی شده با نرم افزار SolidWorks

سالید ورک و مدل سازی با آن

Vensim DSS 6.4E

Vensim DSS 6.4E

ون سیم

InfiniteSkills – Learning Oracle 11g Training Video

InfiniteSkills – Learning Oracle 11g Training Video

فیلم آموزش کامل اُراکل 11‌جی ، برترین نرم‌افزار پایگاه داده

ترتیل استاد محمود شحات انور آیت الکرسی

ترتیل استاد محمود شحات انور آیت الکرسی

تلاوت محمود شحات انور آیت الکرسی

تجربه کاربری مفهومی بسیار گسترده، چندرشته‌ای و شگفت‌انگیز

تجربه کاربری مفهومی بسیار گسترده، چندرشته‌ای و شگفت‌انگیز

تجربه کاربری و رابط کاربری

HiSuite 9.0.3.300

HiSuite 9.0.3.300

های‌ سوئیت مدیریت کامل گوشی‌ های هواوی

Mosaique 1.4.3 for Android

Mosaique 1.4.3 for Android

بازی با موزاییک های رنگی

مداحی آماده شده برای دهه اول محرم سال 96 - شب ششم

مداحی آماده شده برای دهه اول محرم سال 96 - شب ششم

مداحی برای ششم محرم 96

PointWise 2024.1 Win/Linux/Mac

PointWise 2024.1 Win/Linux/Mac

آنالیز مدل های سه بعدی پوینت وایز

SuperSU Pro 2.82 SR5 for Android +3.0

SuperSU Pro 2.82 SR5 for Android +3.0

سوپرسو

Windows Server 2012 R2 October 2025 / MSDN RTM VL

Windows Server 2012 R2 October 2025 / MSDN RTM VL

ویندوز سرور 2012

خبرنامه

با عضویت در خبرنامه، زودتر از همه باخبر باش!