نتشار یادداشت جنجالی داریو آمودی، مدیرعامل شرکت Anthropic، با عنوان We Must Pace the Frontier به تیتر یک رسانه‌های فناوری تبدیل شده است؛ در این مقاله او رسماً خواستار کاهش سرعت توسعه هوش مصنوعی در مدل‌های پیشرفته شده است. اما نکته‌ای که این خبر را به یک اتفاق نادر تبدیل کرد، تایید سریع این موضع توسط رقبای سرسخت او یعنی سم آلتمن و ایلان ماسک بود.
باید دقت کنیم که مسئله اصلی در اینجا توقف کامل توسعه هوش مصنوعی نیست؛ هیچ‌یک از این چهره‌ها خواهان تعطیلی نوآوری نیستند. نگرانی اصلی این است که قابلیت‌های مدل‌های پیشرفته، بسیار سریع‌تر از سازوکارهای ایمنی و توانایی کنترل انسانی پیش می‌روند. موضوعاتی مانند گسترش توانایی‌های AI Agent، پدیده خودبهبوددهی سیستم‌ها، امنیت سایبری و لزوم حضور نهادهای ارزیابی مستقل، همگی نشان می‌دهند که ما نیازمند یک تنفس راهبردی هستیم تا ایمنی هوش مصنوعی را با پیشرفت‌های خیره‌کننده آن همگام کنیم.
چرا داریو آمودی خواستار کاهش سرعت توسعه هوش مصنوعی شد؟
داریو آمودی هرگز مخالف پیشرفت این فناوری نیست؛ بلکه صراحتاً تأیید می‌کند که باید سرعت توسعه هوش مصنوعی را با پروتکل‌های امنیتی هماهنگ کرد.
سبقت گرفتن قابلیت‌های مدل‌های Frontier از سازوکارهای ایمنی
مسئله اصلی، سرعت سرسام‌آور پیشرفت مدل‌های پیشرفته هوش مصنوعی یا همان Frontier AI است. آمودی معتقد است قابلیت‌های این مدل‌ها با سرعتی در حال افزایش است که سازوکارهای ایمنی AI و درک انسانی از پیامدهای آن، به‌هیچ‌وجه نمی‌توانند همزمان با آن پیش بروند. توسعه سریع هوش مصنوعی بدون ارزیابی‌های دقیق و مستمر، خطر بروز خطاهای پیش‌بینی‌نشده را به‌شدت بالا می‌برد.
خطر افزایش توانایی AI Agentها و سیستم‌های خودمختار
نگرانی‌ها فقط محدود به چت‌بات‌های متنی نیست. تمرکز اصلی روی ایجنت هوش مصنوعی (AI Agent) و سیستم‌های خودمختار است. این عامل‌های خودمختار می‌توانند به‌طور کاملاً مستقل وظایف را به‌صورت زنجیره‌ای انجام دهند، به اینترنت متصل شوند و از ابزارهای مختلف بدون دخالت انسان استفاده کنند. با افزایش استقلال سیستم‌ها، در گزارش‌های جدید نگرانی‌های جدی درباره توانایی این ایجنت‌های پیشرفته برای انجام عملیات پیچیده و حتی اجرای سناریوهای مخرب سایبری مطرح شده است که خطرات هوش مصنوعی و امنیت آن را از حالت تئوری به واقعیتی ملموس تبدیل می‌کند.
چرا سم آلتمن و ایلان ماسک از کاهش سرعت توسعه AI حمایت کردند؟
هم‌نظری چهره‌های رقیب در دره سیلیکون نشان می‌دهد تهدیدات به نقطه‌ای بحرانی رسیده که منافع مشترک بر جنگ‌های تجاری غلبه کرده است.
موضع سم آلتمن درباره تنظیم سرعت و تعهد به نظارت
چرا سم آلتمن با کاهش سرعت هوش مصنوعی موافق است؟ او مفهوم تنظیم سرعت یا Pacing را تأیید کرده و آن را نه یک عقب‌نشینی، بلکه ادامه گفت‌وگوهای درون‌سازمانی برای توسعه مسئولانه می‌داند. آلتمن در واکنش به یادداشت آمودی صراحتاً می‌نویسد:
I agree with Dario that we need to pace the frontier... Committing to having independent evaluators with employee-like access is a great idea, and we will do the same.
«من با داریو موافقم که باید سرعت توسعه مدل‌های مرزی را تنظیم کنیم. تعهد به داشتن ارزیاب‌های مستقل با دسترسی مشابه کارمندان ایده بسیار خوبی است و ما نیز همین کار را خواهیم کرد.»
چرا هم‌نظر شدن مدیران رقیب صنعت AI مهم است؟
اما چرا ایلان ماسک خواستار کاهش سرعت توسعه هوش مصنوعی شد؟ ماسک که همواره درباره پیامدهای این فناوری هشدار داده بود، با انتشار جمله صریح «داریو درست می‌گوید» به این جریان پیوست. واقعیت این است که اگر رقبای اصلی بر سر کاهش سرعت پیشرفت هوش مصنوعی توافق نکنند، مسابقه‌ای مخرب برای جلو افتادن شکل می‌گیرد که اولین قربانی آن استانداردهای ایمنی خواهد بود. بنابراین، اتحاد آن‌ها برای پایان دادن به تک‌روی‌های تجاری حیاتی است.
منظور از کاهش سرعت توسعه هوش مصنوعی چیست؟
در پاسخ به این سوال باید گفت هدف از کاهش سرعت توسعه هوش مصنوعی ایجاد فرصتی عملیاتی برای ارزیابی ریسک و استقرار مقررات است.
|
مفهوم کلیدی
|
باور نادرست عمومی
|
واقعیت اجرایی و رویکرد صحیح
|
|
ماهیت اقدام
|
توقف کامل ساخت سیستم‌های پیشرفته
|
تنظیم سرعت نوآوری متناسب با پروتکل‌های ایمنی
|
|
نهاد ناظر
|
مسدودسازی نوآوری توسط دولت‌ها
|
حضور فعال ارزیاب شخص ثالث با دسترسی بالا
|
|
رقابت جهانی
|
واگذاری بازار به کشورهای رقیب
|
ایجاد توافقات و استانداردهای مشترک صنعتی
|
استفاده از ارزیاب‌های مستقل برای بررسی ایمنی مدل‌ها
یکی از محورهای اصلی این پیشنهاد، استفاده از ارزیاب‌های مستقل (Third-party / Independent Evaluators) است. تکیه بر خودآزمایی شرکت‌ها دیگر برای تضمین امنیت مدل‌های هوش مصنوعی کافی نیست و احتمال تضاد منافع را بالا می‌برد. حضور ارزیاب شخص ثالث با سطح دسترسی بالا می‌تواند رفتارهای پنهان و مخرب سیستم‌ها را پیش از عرضه عمومی کشف کند. Anthropic و OpenAI نیز به این رویکرد برای حفظ استانداردهای ایمنی و نظارت بر هوش مصنوعی متعهد شده‌اند.
ایجاد استانداردهای مشترک صنعتی و ضرورت هماهنگی بین‌المللی
اگر یک شرکت به‌تنهایی تصمیم به کاهش سرعت بگیرد، قطعاً در بازار از رقبای خود عقب می‌ماند. به همین دلیل، ایجاد یک استاندارد مشترک و تعیین معیارهای ایمنی برای ارزیابی قبل از انتشار مدل‌های جدید ضروری است. همکاری شرکت‌ها مانع از شکل‌گیری مسابقه‌ای می‌شود که در آن مجموعه‌ها برای جلو زدن از یکدیگر مجبور شوند استانداردهای ایمنی را نادیده بگیرند.
اگر سرعت توسعه هوش مصنوعی کنترل نشود چه اتفاقی می‌افتد؟
اگر این هشدارها نادیده گرفته شوند، توسعه مهارنشده ریسک‌های عینی فراوانی به‌دنبال دارد که کاملاً واقعی هستند.
افزایش ریسک سوءاستفاده از مدل‌های پیشرفته
مدل‌های قدرتمند می‌توانند در کنار کاربردهای مفید، برای اتوماسیون حملات سایبری، اجرای کلاهبرداری‌های پیچیده و تولید گسترده محتوای مخرب مورد سوءاستفاده قرار گیرند. توسعه و اجرای مدل‌های پیشرفته هوش مصنوعی تنها به الگوریتم و داده وابسته نیست و زیرساخت پردازشی مناسب نیز نقش مهمی در این فرایند دارد. کسب‌وکارهایی که به منابع پردازشی منعطف و مقیاس‌پذیر نیاز دارند، می‌توانند از سرور ابری برای تأمین بخشی از این نیازها استفاده کنند. بااین‌حال، اگر سرعت توسعه مهار نشود، همین زیرساخت‌ها نیز به‌شدت در معرض خطر نفوذ ایجنت‌های خودمختار قرار می‌گیرند.
خودبهبوددهی بازگشتی و چالش مهار انسانی
یکی دیگر از چالش‌ها، پدیده خودبهبوددهی بازگشتی (AI-assisted self-improvement) است. در این حالت، هوش مصنوعی از توانایی‌های خود برای بازنویسی کدها و ارتقای نسل بعدی سیستم‌ها استفاده می‌کند. اگر این روند سرعت بگیرد، ما با جهشی مهارنشدنی به سمت ابرهوش مصنوعی (Superintelligence) یا AGI حرکت خواهیم کرد که کنترل آن بسیار پیچیده خواهد بود.
سخن پایانی
کاهش سرعت توسعه هوش مصنوعی به‌هیچ‌وجه به‌معنای توقف هوش مصنوعی و پایان مسیر نوآوری نیست. بلکه نگرانی اصلی، جلو افتادن قابلیت‌های خیره‌کننده AI از سازوکارهای ایمنی، قانون‌گذاری و توانایی نظارت انسانی است. حمایت چهره‌های سرشناسی چون سم آلتمن و ایلان ماسک از ایده آمودی نشان می‌دهد مسئله AI Safety از یک بحث تخصصی درون‌آزمایشگاهی، به یکی از مسائل و بحران‌های اصلی صنعت تبدیل شده است. ایجاد توافقات مشترک صنعتی و استقرار ارزیاب‌های مستقل شخص ثالث، تنها راه عبور امن از این مرحله است. سؤال اصلی از اینجا به بعد دیگر این نیست که «آیا هوش مصنوعی پیشرفت خواهد کرد؟»؛ بلکه این است که آیا انسان می‌تواند سرعت این پیشرفت را به‌اندازه‌ای کنترل کند که ایمنی نیز همزمان با آن رشد کند؟