هشدار ۴۰۰ دانشمند برجسته: نیاز به ناظر جهانی هوش مصنوعی

پیشگامان هوش مصنوعی خواستار نظارت بین‌المللی بر سیستم‌های پیشرفته شدند

حدود ۴۰۰ دانشمند از ۳۴ کشور جهان در نامه‌ای سرگشاده خواستار ایجاد نهادی بین‌المللی برای نظارت و تعیین استانداردها برای سیستم‌های پیشرفته هوش مصنوعی شده‌اند. این نامه که در تاریخ ۱۳ اکتبر ۲۰۲۶ منتشر شد، توسط چهره‌های برجسته‌ای چون جفری هینتون و یوشوا بنجیو، برندگان جایزه تورینگ و از پیشگامان این حوزه، امضا شده است.

تمرکز بر سیستم‌های “سایبر-توانا”

این نامه بر دسته‌ای خاص از فناوری‌ها تمرکز دارد: سیستم‌های پیشرفته هوش مصنوعی “سایبر-توانا”. این مدل‌ها به اندازه‌ای توانمند هستند که در صورت بروز خطا، می‌توانند خسارات واقعی در محیط‌های دیجیتال ایجاد کنند. امضاکنندگان خواهان ایجاد یک نهاد نظارتی بین‌المللی با دو وظیفه اصلی هستند: تعیین استانداردهای مهار و رسیدگی به گزارش‌های حوادث امنیتی.

جداسازی فیزیکی در توسعه و آزمایش

مهم‌ترین خواسته ملموس امضاکنندگان این است که مدل‌های پیشرفته در مراحل اولیه توسعه و آزمایش باید به صورت “ایزوله از شبکه” (air-gapped) باشند. ایزوله کردن از شبکه به معنای جداسازی فیزیکی یک سیستم از شبکه‌های خارجی است. امضاکنندگان معتقدند که اقدامات داوطلبانه صنعت کافی نیست و خواستار اجرای فوری شیوه‌های مهار با سطح اطمینان بالا هستند، در حالی که دولت‌ها برای ایجاد یک رژیم نظارتی رسمی تلاش می‌کنند. این نامه همچنین بر ایجاد یک ثبت عمومی بین‌المللی برای حوادث مهم مرتبط با سیستم‌های هوش مصنوعی تأکید دارد.

ریشه در اعلامیه قبلی

این نامه بی‌سابقه نیست و بر اساس اعلامیه‌ای در تاریخ ۲۱ سپتامبر ۲۰۲۶ توسط رهبران حدود ۲۰ تا ۲۲ کشور بنا شده است. آن اعلامیه خواستار آزمایش اجباری پیش از استقرار و استانداردهای ایمنی مشترک برای هوش مصنوعی بود. همچنین پیشنهاد ایجاد یک نهاد بین‌المللی جدید مشابه آژانس بین‌المللی انرژی اتمی، که برنامه‌های هسته‌ای در سراسر جهان را نظارت می‌کند، مطرح شد. کشورهای شرکت‌کننده در آن اعلامیه شامل فنلاند، نروژ، کانادا، استرالیا، آلمان و سنگاپور بودند، اما نام‌های آمریکا و چین در میان آنها دیده نمی‌شد.

زیرساخت‌های موجود و تشدید فوریت

در حال حاضر، برخی زیرساخت‌های بین‌المللی در این زمینه وجود دارد. سازمان ملل متحد در سال ۲۰۲۵ یک “هیئت علمی مستقل بین‌المللی هوش مصنوعی” تأسیس کرد که اکنون ۴۰ عضو دارد و در بحث‌های مربوط به حکمرانی هوش مصنوعی مشارکت می‌کند. تشدید فوریت این درخواست‌ها ناشی از رشته‌ای از حوادث اخیر است، از جمله گزارش‌هایی از نقض‌های امنیتی هوش مصنوعی در OpenAI و افشاگری‌های Anthropic و Google در مورد آسیب‌پذیری‌های مدل‌ها که در طول آزمایش کشف شده‌اند. همچنین، حوادثی که در آن عامل‌های هوش مصنوعی از اقدامات نظارتی عبور کرده‌اند، فشار سیاست‌گذاران بر توسعه‌دهندگان را افزایش داده است. نگرانی‌ها زمانی بیشتر شد که توسعه‌دهندگان اصلی هوش مصنوعی توافق‌نامه ایمنی داوطلبانه آمریکا را امضا کردند که فاقد ضمانت اجرایی لازم بود.

اختلاف نظر در مورد سطح هشدار

همه در مورد میزان نگرانی توافق نظر ندارند. برخی کارشناسان معتقدند حوادث اخیر بیشتر مسائل مهندسی هستند تا نشانه‌هایی از خطر وجودی سیستمی. برای شرکت‌هایی که مدل‌های پیشرفته را توسعه می‌دهند، این روند به معنای افزایش هزینه‌های انطباق است. آزمایش‌های اجباری پیش از استقرار، توسعه ایزوله از شبکه و ممیزی‌های مستقل، همگی زمان‌بر و پرهزینه هستند. این الزامات می‌توانند عرضه محصولات را کند کرده و موانعی برای ورود شرکت‌های کوچکتر که فاقد منابع آزمایشگاه‌های بزرگ هستند، ایجاد کنند.

نقش واشنگتن و پکن

بزرگترین متغیر در این میان، واشنگتن و پکن هستند. یک ائتلاف از حدود ۲۰ تا ۲۲ کشور می‌تواند هنجارها را تعیین کرده و نهادهایی را بسازد، اما نفوذ آن بر توسعه‌دهندگان آمریکایی و چینی بدون حمایت دولت‌های آنها محدود است. همچنین، باید پیگیری کرد که آیا ثبت عمومی حوادث پیشنهادی ساخته خواهد شد یا خیر. یک سابقه مشترک از شکست‌های هوش مصنوعی، به رگولاتورها، محققان و سرمایه‌گذاران چیزی را می‌دهد که در حال حاضر فاقد آن هستند: مجموعه‌ای مشترک از حقایق در مورد آنچه واقعاً در این سیستم‌ها اشتباه پیش می‌رود.