در سند 20 صفحه ای که روز یکشنبه منتشر شد، 18 کشور توافق کردند که شرکت های طراحی کننده و استفاده کننده از AI باید آن را به گونه ای توسعه و پیاده سازی کنند که مشتریان و عموم مردم را از سوء استفاده در امان نگه دارد.
توافقنامه، که غیر الزام آور است، توصیه هایی مانند نظارت بر سیستم های AI برای سوء استفاده، محافظت از داده ها از دستکاری و بررسی تامین کنندگان نرم افزار را ارائه می دهد.
جن ایسترلی، مدیر آژانس امنیت سایبری و زیرساخت های ایالات متحده، گفت: "مهم است که این تعداد کشور نام خود را برای ایده ای که سیستم های AI باید ایمنی را در اولویت قرار دهند، ثبت کنند."
توافقنامه بر لزوم توجه به موارد زیر تاکید دارد:
- امنیت: سیستم های AI باید به گونه ای طراحی شوند که در برابر سوء استفاده، هک و سایر حملات مقاوم باشند.
- شفافیت: سیستم های AI باید به گونه ای طراحی شوند که قابل درک و قابل توضیح باشند.
- عدالت: سیستم های AI باید به گونه ای طراحی شوند که از تبعیض و آسیب جلوگیری کنند.
توافقنامه همچنین بر اهمیت همکاری بین کشورها برای توسعه و اجرای استانداردهای ایمنی AI تأکید دارد.
این توافقنامه در بحبوحه نگرانی های فزاینده در مورد خطرات بالقوه AI امضا شده است. برخی از کارشناسان هشدار داده اند که AI می تواند برای اهداف مخرب مانند توسعه تسلیحات خودکار یا ایجاد سیستم های نظارتی استفاده شود.
سایر کارشناسان بر این باورند که AI می تواند برای بهبود زندگی مردم در سراسر جهان استفاده شود. به عنوان مثال، AI می تواند برای توسعه داروهای جدید، بهبود مراقبت های بهداشتی و ایجاد حمل و نقل پایدارتر استفاده شود.
توافقنامه جدید یک گام مهم در جهت اطمینان از این است که AI به گونه ای توسعه و استفاده شود که امن، شفاف و عادلانه باشد.