آلتمن: سه سناریوی نهایی هوش مصنوعی، از جمله نابودی تراشه‌های رقبا

سه سناریوی آینده هوش مصنوعی از نگاه مدیرعامل OpenAI

سم آلتمن، مدیرعامل شرکت OpenAI، در گفت‌وگو با کارکنان خود در هفته گذشته، سه سناریوی احتمالی برای آینده ایمنی هوش مصنوعی را مطرح کرد: نظارت بین‌المللی مشابه آژانس بین‌المللی انرژی اتمی (IAEA)، ادغام آزمایشگاه‌های بزرگ هوش مصنوعی، و سناریوی ناگوار تسلط یک شرکت بر بهبود خودکار هوش مصنوعی و از کار انداختن پردازنده‌های گرافیکی (GPU) سایر رقبا. به گفته منابع آگاه، آلتمن اولویت خود را گزینه اول اعلام کرده و گزینه سوم را به شدت رد کرده است.

سه مسیر پیش رو

مدیرعامل OpenAI سه سناریوی احتمالی برای آینده ایمنی هوش مصنوعی را به شرح زیر تشریح کرد:

1. نظارت بین‌المللی مشابه IAEA: ایجاد یک نهاد بین‌المللی مشابه آژانس بین‌المللی انرژی اتمی برای اجرای استانداردهای ایمنی. آلتمن به گفته دو منبع آگاه، از این گزینه حمایت می‌کند. OpenAI در مقاله خود با عنوان “حاکمیت ابرهوش” که در ماه مه ۲۰۲۳ توسط آلتمن، گرگ براکمن و ایلیا سوتسکور امضا شد، بر لزوم وجود نهادی مشابه IAEA برای ابرهوش تأکید کرده بود. این رویکرد شامل بازرسی و حسابرسی تحقیقاتی که از آستانه توانایی یا قدرت محاسباتی مشخصی فراتر می‌رود، و همچنین رصد میزان مصرف انرژی و قدرت محاسباتی است. چالش اصلی این رویکرد، نیاز به همکاری بین‌المللی، از جمله با کشورهایی چون چین، است.

1. ادغام آزمایشگاه‌ها (پروژه دِمیس): این سناریو که “پروژه دِمیس” نامیده می‌شود، برگرفته از ایده دِمیس هاسابیس، مدیر آزمایشگاه هوش مصنوعی DeepMind گوگل، در حدود ده سال پیش (به گفته امیر افراتی، حدود سال ۲۰۱۷) مبنی بر ایجاد سازمانی مشابه سازمان اروپایی پژوهش‌های هسته‌ای (CERN) برای هوش مصنوعی است. در نسخه آلتمن، آزمایشگاه‌های بزرگ هوش مصنوعی در یک نهاد واحد ادغام شده یا تحت چتر آن فعالیت می‌کنند و سپس این نهاد مدل‌های خود را در اختیار کشورهای همکار قرار می‌دهد. خود هاسابیس در تاریخ ۱۴ ژوئیه ۲۰۲۶، طرح متفاوتی را مطرح کرد: یک سازمان خودانتظام با تأمین مالی صنعت و نظارت دولتی، مشابه سازمان خودانتظام صنعت اوراق بهادار آمریکا (FINRA)، که مدل‌ها را قبل از عرضه آزمایش کند. آلتمن در آن زمان این پیشنهاد را “متفکرانه” توصیف کرده بود.

1. تسلط یک شرکت (پروژه الیزر): این سناریو که “پروژه الیزر” نامیده می‌شود، برگرفته از نام الیزر یودکوفسکی، نظریه‌پرداز ایمنی هوش مصنوعی، است. در این سناریو، یک توسعه‌دهنده هوش مصنوعی موفق به دستیابی به “بهبود خودکار بازگشتی” (RSI) می‌شود؛ به این معنی که هوش مصنوعی قادر به بهبود خود است و پس از هر بهبود، توانایی بیشتری برای بهبودهای بعدی پیدا می‌کند. این امر به آن شرکت قدرت اقتصادی بی‌بدیلی می‌بخشد و می‌تواند قدرت محاسباتی سایر رقبا را قطع کند و در نهایت، به گفته آلتمن، “GPUهای همه را ذوب کند”. به گفته یک منبع آگاه، آلتمن این سناریو را “به وضوح افتضاح” توصیف کرده و صرفاً برای تکمیل بحث مطرح کرده است.

یک منبع آگاه دیگر اشاره کرد که به دلیل ارتباط یودکوفسکی با شرکت Anthropic، برخی از کارکنان این نام‌گذاری را کنایه‌ای به رقیب خود، Anthropic، تلقی کرده‌اند. اما این تنها تفسیر کارکنان بوده و از سوی آلتمن بیان نشده است.

واکنش الیزر یودکوفسکی

خود الیزر یودکوفسکی در تاریخ ۲۰ اکتبر به وقت شرق آمریکا، خلاصه‌ای از این گزارش را در پلتفرم X بازنشر کرد و نوشت: “یک بار دیگر، یک حقیقت اساسی و بسیار مهم دنیای مدرن اثبات می‌شود: کسانی که مقالات من را می‌فهمند، هرگز شرکت هوش مصنوعی تأسیس نمی‌کنند.”

وی افزود که هنگام نوشتن درباره “اقدام محوری” (اقدامی که می‌تواند مانع از ساخت هوش مصنوعی خارج از کنترل شود)، گفته بود که چنین رویکردهایی همگی ایده‌های بدی هستند و خارج از محدوده بحث قرار دارند. بنابراین، او عمداً مثالی را انتخاب کرده بود که “بتواند به صراحت بگوید نباید انجام شود”، تا دیگران آن را به حساب او نگذارند: “ذوب کردن تمام GPUها”.

این ادعا صحت دارد؛ او در مقاله طولانی خود در ژوئن ۲۰۲۲ با عنوان “نابودی هوش عمومی مصنوعی: فهرستی از مرگبارها” در بند ششم نوشته بود: “مثالی که من اغلب می‌زنم ‘سوختن تمام GPUها’ است، و این چیزی نیست که من واقعاً فکر می‌کنم هوش مصنوعی قدرتمند باید انجام دهد.” او این مثال را انتخاب کرده بود تا در صورت پرسش، بتواند پاسخ دهد که “من چنین چیزی را پیشنهاد نمی‌کنم.”

به عبارت دیگر، نویسنده اصلی (یودکوفسکی) از این مثال به عنوان یک ضد مثال استفاده کرده بود.

وضعیت فعلی و چشم‌انداز

هر سه سناریوی مطرح شده هنوز در حد ایده باقی مانده‌اند. سناریوی اول نیازمند مذاکره بین چین و آمریکا است که دورترین گزینه از واقعیت به نظر می‌رسد. سناریوی دوم مستلزم موافقت نهادهای ضد انحصار است که عملاً به ایجاد یک شرکت بزرگ‌تر منجر می‌شود. سناریوی سوم نیز، همانطور که نویسنده اصلی آن اذعان کرده، یک ضد مثال است.

در حال حاضر، آنچه واقعاً در حال وقوع است، خودتنظیمی صنایعی مانند SAFA و گزارش‌دهی داوطلبانه توسط کاخ سفید است. این رویکرد بسیار ضعیف‌تر از یک نهاد مشابه IAEA است و هیچ‌کس نیز به دنبال ادغام نیست. آلتمن در حالی از لزوم انتخاب یک مسیر سخن می‌گوید که تأکید دارد نباید سرعت پیشرفت را کند کرد، و ضرب‌الاجل برای این انتخاب، یک سال است.