داریو آمودی، مدیرعامل شرکت Anthropic، خواستار آن است که بزرگترین شرکتهای هوش مصنوعی گرد هم آیند و استانداردهای ایمنی را تدوین کنند. اما مقامات ضدانحصار واشنگتن ترجیح میدهند این اتفاق نیفتد.
طرح پیشنهادی آمودی برای ایمنی هوش مصنوعی
آمودی در مقالهای که در تاریخ ۱۲ سپتامبر منتشر کرد، چارچوبی را با عنوان “همگامسازی مرزها” (pacing the frontier) ارائه داد. هدف این چارچوب، همگام نگه داشتن تلاشهای ایمنی هوش مصنوعی با سرعت سرسامآور توسعه قابلیتها است. نکته کلیدی این طرح، درخواست معافیت محدود ضدانحصار از دولت ایالات متحده است تا شرکتهای رقیب در حوزه هوش مصنوعی بتوانند بدون مواجهه با مسئولیتهای قانونی، بر روی پروتکلهای ایمنی همکاری کنند.
استراتژی سه بخشی آمودی
مقاله آمودی یک استراتژی سه بخشی را تشریح میکند:
۱. گنجاندن ارزیابان مستقل شخص ثالث در آزمایشگاههای هوش مصنوعی برای نظارت بر فعالیتهای ایمنی و همراستایی در زمان واقعی.
۲. ایجاد استانداردهای ایمنی هماهنگ در میان کشورهای دموکراتیک.
۳. گشودن کانالهای گفتگو با کشورهای اقتدارگرا، از جمله چین، برای کاهش احتمال تشدید مسابقه تسلیحاتی جهانی هوش مصنوعی.
واکنشهای متفاوت به طرح
دو ستون اول این طرح، حمایت گسترده اما محتاطانهای را از سوی صنعت دریافت کرد. اما معافیت ضدانحصار با استقبال مواجه نشد.
اندرو فرگوسن، رئیس کمیسیون فدرال تجارت (FTC)، در تاریخ ۱۵ سپتامبر با تردیدی آشکار به این موضوع واکنش نشان داد. نگرانی او روشن است: اعطای معافیتهای ضدانحصار به قدرتمندترین شرکتهای هوش مصنوعی میتواند موانعی را برای ورود بازیگران جدید ایجاد کند و عملاً مزیتهای شرکتهای فعلی را تثبیت نماید.
موضع شرکتهای پیشرو
اوپنایآی (OpenAI) در تاریخ ۱۳ سپتامبر به مدل دسترسی ارزیاب متعهد شد و اعلام کرد که به ناظران شخص ثالث اجازه ورود به عملیات خود را خواهد داد. سم آلتمن، مدیرعامل اوپنایآی، از این بخش چارچوب حمایت کرد، اما در مورد حمایت از معافیت ضدانحصار سکوت اختیار کرد.
جنسن هوانگ، مدیرعامل انویدیا (Nvidia)، در تاریخ ۱۵ سپتامبر موضعی قاطعتر اتخاذ کرد و اظهار داشت که قوانین موجود برای حمایت از تلاشهای ایمنی مورد نیاز صنعت کافی هستند و نیازی به معافیتهای ضدانحصار جدید نیست.
فوریت زمانی
زمانبندی انتشار مقاله آمودی تصادفی نیست. صنعت هوش مصنوعی با هشدارهای اخیر در مورد قابلیتهای خودبهبودی در مدلهای پیشرفته (frontier models) دست و پنجه نرم میکند؛ نوعی حلقههای یادگیری بازگشتی که میتواند سیستمهایی را تولید کند که به طور قابل توجهی تواناتر از سازندگانشان باشند. مقاله آمودی به صراحت به نگرانیها در مورد خطرات قریبالوقوع ناشی از پیشرفتهای هوش مصنوعی در شش تا دوازده ماه آینده اشاره دارد.
این جدول زمانی اهمیت دارد. اگر مدلهای پیشرفته به آستانههایی نزدیک میشوند که میتوانند معماریها یا فرآیندهای آموزشی خود را به طور معناداری اصلاح کنند، پنجره زمانی برای هماهنگی ایمنی به سرعت رو به کاهش است. استدلال آمودی اساساً این است که سرعت پیشرفت، تلاشهای داوطلبانه و انفرادی شرکتها برای ایمنی را ناکافی میسازد.
