نگرانی‌های جهانی در پی حوادثی در OpenAI و Anthropic و ترس از خروج عوامل هوش مصنوعی از کنترل انسان
نگرانی‌های جهانی و آمادگی اروپا
نگرانی‌های جهانی در پی حوادث اخیر در شرکت‌های OpenAI و Anthropic افزایش یافته و این ترس به وجود آمده که عوامل مخرب هوش مصنوعی ممکن است از کنترل انسان خارج شوند. با این حال، هننا ویرکونن، مسئول فناوری اتحادیه اروپا، اعلام کرده است که قوانین این اتحادیه در زمینه استفاده از هوش مصنوعی به اندازه کافی توانمند هستند تا با چنین عواملی مقابله کنند.
ویرکونن در مصاحبه با رویترز در روز جمعه گفت: «ما شاهد هستیم که ایمنی و امنیت مدل‌های بسیار توانمند موضوعی داغ در سطح بین‌المللی است و ما در اروپا برای این منظور به خوبی مجهز هستیم.»
قانون هوش مصنوعی اتحادیه اروپا
قانون هوش مصنوعی اتحادیه اروپا (AI Act) که بر اساس سطح ریسک، استفاده از این فناوری را تنظیم می‌کند، یکی از سخت‌گیرانه‌ترین مقررات هوش مصنوعی در جهان محسوب می‌شود. این قانون دو سال پیش به تصویب رسید. ویرکونن منتقدان را که ادعا می‌کنند قوانین هوش مصنوعی اتحادیه اروپا قدیمی شده‌اند، رد کرد.
او افزود: «ما قانون هوش مصنوعی خود را داریم و این قانون کل چرخه عمر این مدل‌ها را پوشش می‌دهد.» وی همچنین بیان کرد که رگولاتورها در حال ارائه راهنمایی به شرکت‌ها در مورد نحوه ارزیابی مدل‌های خود هستند و توصیه‌های ۶۰ کارشناس هوش مصنوعی را در این زمینه لحاظ می‌کنند.
کمیسیون اروپا در اواخر ماه اوت از بیش از ۳۰ شرکت ناشناس هوش مصنوعی درخواست اطلاعات کرده و جزئیات اقدامات ایمنی و امنیتی آن‌ها را جویا شده است. ویرکونن اعلام کرد که در حال حاضر در حال ارزیابی پاسخ‌های دریافتی است.
هشدار مدیرعامل Anthropic
پیش از این، کوین‌تلگراف در تاریخ ۱۳ سپتامبر گزارش داد که داریو آمدی، مدیرعامل Anthropic، در یک پست وبلاگ اعلام کرده بود که سرعت توسعه هوش مصنوعی بیش از حد سریع است و اگر بدون کنترل باقی بماند، ممکن است «از توانایی ما برای درک و کنترل این سیستم‌ها پیشی بگیرد.» وی توضیح داد که پیشرفت سریع هوش مصنوعی ناشی از توانایی فزاینده خود این فناوری در ساخت نسل بعدی هوش مصنوعی یا بهبود خودکار (recursive self-improvement) است.
مجله‌ای در گزارشی با عنوان «بزرگتر از آنکه بتوان متوقفش کرد: آیا کند کردن هوش مصنوعی می‌تواند اقتصاد را دچار بحران کند؟» به این موضوع پرداخته است.
