نوبار عفیان: تنظیم‌گری عامل‌های هوش مصنوعی پیش از ورود به بازار ضروری است
نوبار عفیان، بنیانگذار و رئیس میلیاردر شرکت مدرنا (Moderna)، خواستار تنظیم‌گری عامل‌های هوش مصنوعی پیش از رسیدن آن‌ها به دست مشتریان شده است. او استدلال می‌کند که انتظار برای وقوع اتفاقات ناگوار و سپس اقدام، رویکردی نادرست است.
عفیان این دیدگاه را در تاریخ ۱۳ اکتبر ۲۰۲۶ در مجمع اقتصاد نوین بلومبرگ در دهلی نو مطرح کرد. او برای هشدار دادن به مثالی از داروی “تالیدومید” در دهه‌های ۱۹۵۰ و ۱۹۶۰ اشاره کرد که به دلیل عدم آزمایش کافی برای ایمنی، باعث نقص‌های مادرزادی شد.
هسته اصلی پیشنهاد عفیان، تمایزی است که اغلب در بحث‌های هوش مصنوعی نادیده گرفته می‌شود. او مدل‌های زبانی بزرگ (LLMs) را از عامل‌های هوش مصنوعی (AI agents) جدا کرده و معتقد است که این دو باید به طور متفاوتی با آن‌ها برخورد شود.
عفیان مدل‌های زبانی بزرگ را نماینده “قابلیت” توصیف کرد. یک مدل زبانی می‌تواند بنویسد، خلاصه کند و استدلال کند، اما عمدتاً منتظر دستور انسان است تا کاری را انجام دهد. در مقابل، عامل‌های هوش مصنوعی، از دیدگاه او، نماینده “قصد و نیت” هستند. آن‌ها اقدامات مستقلی در دنیای واقعی انجام می‌دهند و اهداف خود را با نظارت کمتر انسانی در هر مرحله دنبال می‌کنند.
عفیان معتقد است که نظارت باید بر این شکاف تمرکز کند. موضع او متوجه استقرار تجاری عامل‌ها است، نه مدل‌های پایه‌ای که زیربنای آن‌ها را تشکیل می‌دهند.
تنظیم‌گری عامل‌های تجاری‌شده
عفیان تأکید کرد: “من معتقدم آنچه باید انجام دهیم این است که با دقت در مورد تنظیم‌گری عامل‌هایی که در حال تجاری‌سازی هستند، فکر کنیم.”
قید “در حال تجاری‌سازی” اهمیت دارد. عفیان خواستار توقف تحقیقات یا سرکوب توسعه مدل‌ها نیست. او رهبران صنعت را ترغیب می‌کند تا پیش از عرضه عامل‌ها به بازار، سازوکارهای ایمنی را ایجاد کنند.
عفیان شکاک هوش مصنوعی نیست. او اذعان کرد که عامل‌ها پتانسیل واقعی برای تسریع کشف دارو و پیشبرد تحقیقات علمی دارند. با این حال، همین خودمختاری او را نگران می‌کند. عفیان خطر تولید ترکیبات مضر توسط عامل‌ها یا ارائه نتایج غیرقابل اعتماد در صورت فعالیت خارج از محیط‌های تنظیم‌شده را گوشزد کرد.
اظهارات عفیان در میانه بحث گسترده‌تری در مورد چگونگی حاکمیت بر هوش مصنوعی عامل‌محور مطرح می‌شود. این گفتگو در طول سال ۲۰۲۶ در سراسر صنعت شتاب گرفته است. سازمان‌هایی از جمله OpenAI، همراه با نهادهای بین‌المللی مختلف، ابتکارات خود را در زمینه حاکمیت هوش مصنوعی آغاز کرده‌اند. آنچه مداخله عفیان را متمایز می‌کند، هدف محدود آن است: لحظه‌ای که یک عامل به یک محصول تجاری تبدیل می‌شود.
این رویکرد مستقیماً از نحوه عملکرد پزشکی الهام گرفته شده است. از توسعه‌دهندگان دارو انتظار می‌رود پیش از فروش محصول، ایمنی آن را اثبات کنند، نه اینکه پس از آن شکایات را جمع‌آوری کنند. عفیان اساساً از بخش هوش مصنوعی می‌خواهد که این رویکرد را داوطلبانه اتخاذ کند، پیش از آنکه رگولاتورها آن را تحمیل کنند.
