دونالد ترامپ، رئیسجمهور سابق آمریکا، روز ۲۹ سپتامبر قدرتمندترین نامها در حوزه هوش مصنوعی را در کاخ سفید گرد هم آورد. این گردهمایی با امضای جمعی یک توافقنامه داوطلبانه ایمنی هوش مصنوعی به پایان رسید. مارک زاکربرگ، جنسن هوانگ، ایلان ماسک و مدیران ارشد شرکتهای OpenAI، Google و Microsoft، سندی را امضا کردند که ترامپ آن را «الزامآور اخلاقی» توصیف کرد.
محورهای توافقنامه
این توافقنامه بر بازبینیهای ایمنی پیشرفته برای مدلهای پیشرفته هوش مصنوعی، ممیزیهای داخلی و خارجی، و چارچوبی خودتنظیمگر تمرکز دارد که به شرکتها اجازه میدهد خودشان بر فعالیتهایشان نظارت کنند، به جای آنکه با مقررات تحمیلی دولت مواجه شوند.
این چارچوب خواستار بازبینیهای دقیق داخلی و خارجی مدلهای پیشرفته هوش مصنوعی، پیش و پس از استقرار است. شرکتهایی که این توافقنامه را امضا کردهاند، متعهد به رعایت کنترلهای ایمنی، سازوکارهای ممیزی و پروتکلهای نظارتی هستند که برای شناسایی قابلیتهای خطرناک پیش از انتشار عمومی طراحی شدهاند.
تعهدات و مقایسه با قانون اساسی
ترامپ این سند را با قانون اساسی مقایسه کرد. عنوان «الزامآور اخلاقی» به این معناست که شرکتها متعهد به اجرای آن هستند، اما در صورت عدم پایبندی، هیچ پیگرد قانونی وجود نخواهد داشت.
پیشنهاد کمیته نظارتی و تغییر نام هوش مصنوعی
ترامپ همچنین ایجاد یک کمیته نظارتی ده نفره را مطرح کرد که به هدایت مقررات آتی هوش مصنوعی کمک خواهد کرد. او پیشنهاد داد که صنعت هوش مصنوعی به طور کلی استفاده از عبارت «هوش مصنوعی» را متوقف کرده و به جای آن از عبارت «هوش برتر» (super intelligence) استفاده کند.
سابقه تعهدات داوطلبانه
این اولین بار نیست که سیلیکونولی برای ارائه وعدههایی در زمینه ایمنی هوش مصنوعی در کاخ سفید گرد هم میآید. توافقنامه ۲۹ سپتامبر بر اساس مجموعهای از تعهدات داوطلبانه از سال ۲۰۲۳، که شامل دولتهای فعلی و پیشین میشود، بنا شده است.
کاخ سفید بایدن نیز در ژوئیه ۲۰۲۳ مجموعهای از تعهدات داوطلبانه را از سوی بسیاری از همین شرکتها دریافت کرد که بر واترمارکینگ محتوای تولید شده توسط هوش مصنوعی، اشتراکگذاری تحقیقات ایمنی و آزمایش مدلها برای شناسایی ریسکها پیش از انتشار تمرکز داشت.
حضور ایلان ماسک و جنبه دیپلماتیک
حضور ایلان ماسک لایهای از جذابیت را به این رویداد افزود. ماسک یکی از منتقدان سرسخت میانبرهای ایمنی در هوش مصنوعی بوده است؛ او که یکی از بنیانگذاران OpenAI بود، پس از خروج از این شرکت، از آن شکایت کرد و ادعا نمود که این شرکت از مأموریت اصلی غیرانتفاعی خود عدول کرده است. حضور او در کنار رهبران OpenAI برای امضای یک سند ایمنی مشترک، حداقل یک دستاورد دیپلماتیک محسوب میشود.
واکنش بازار و مقایسه با اتحادیه اروپا
این اعلامیه واکنش فوری و تأثیرگذاری بر بازار نداشت. با ترویج خودتنظیمی، دولت ترامپ به طور مؤثری به صنعت هوش مصنوعی اعلام کرده است که با نظارت سختگیرانهای که اتحادیه اروپا در قانون هوش مصنوعی خود دنبال کرده است، مواجه نخواهد شد.
پتانسیل کمیته نظارتی
کمیته نظارتی ده نفره پیشنهادی میتواند محاسبات را تغییر دهد، اگر قدرت واقعی به دست آورد. نهادی که اختیار بازبینی مدلهای پیشرفته و توصیه اقدامات اجرایی را داشته باشد، گامی معنادار فراتر از تعهدات داوطلبانه خواهد بود.
