رهبران شرکت‌های هوش مصنوعی در حال آماده‌سازی برای واکنش‌های عمومی و سیاسی پس از یک رویداد فاجعه‌بار هوش مصنوعی هستند
مدیران ارشد شرکت‌های Anthropic، OpenAI و سایر شرکت‌های فعال در حوزه هوش مصنوعی، طبق گزارشی که روز جمعه توسط Axios منتشر شد، به طور خصوصی در حال تمرین سناریوهایی برای مدیریت واکنش‌های عمومی و سیاسی پس از وقوع یک رویداد فاجعه‌بار در حوزه هوش مصنوعی هستند.
بزرگترین نگرانی آن‌ها وقوع یک حمله سایبری گسترده است؛ یک نفوذ دیجیتالی در مقیاس عظیم که می‌تواند دسترسی به بانک‌ها، اینترنت، و حتی برق و آب را مختل کند. بسیاری از کارشناسان صنعت که در این گزارش به آن‌ها اشاره شده، معتقدند که یک حادثه بزرگ در شش تا دوازده ماه آینده رخ خواهد داد.
اولین آسیب جدی و واقعی ناشی از هوش مصنوعی ناامن، عموم مردمی را که پیش از این نسبت به این فناوری و رهبران آن بدبین بوده‌اند، بیش از پیش علیه آن سوق خواهد داد. این موضوع شامل مدیران عامل Anthropic، یعنی داریو آمودئی، و OpenAI، یعنی سم آلتمن، و همچنین دونالد ترامپ، رئیس‌جمهور سابق آمریکا که در برابر تنظیم مقررات آن مقاومت کرده است، می‌شود.
OpenAI اعلام کرده است که “تمرین‌های آمادگی را برگزار می‌کند که در آن تیم‌ها طیف وسیعی از سناریوهای احتمالی را مورد بحث و بررسی قرار می‌دهند” و “این سناریوها به عنوان اجتناب‌ناپذیر تلقی نمی‌شوند.” شرکت Anthropic از اظهار نظر خودداری کرده است.
تمرین‌های جنگی چیز جدیدی نیستند، اما بر خلاف نتایج نظری، این گزارش استدلال می‌کند که شرکت‌کنندگان در این شبیه‌سازی‌ها با این فرض که یک حادثه بزرگ اجتناب‌ناپذیر است، این کار را انجام می‌دهند.
این طرح ظاهراً شامل “تیم قرمز” (آزمایش دفاع‌ها با ایفای نقش مهاجم) در برابر بدترین سناریوها و تلاش برای آموزش اعضای کنگره است. این گزارش می‌گوید که مدیران اجرایی می‌دانند که در حال حاضر شانس تصویب مقررات وجود ندارد، اما می‌خواهند قوانين و سياست‌هایی را شکل دهند که رهبران آمریکا پس از اولین فاجعه به سراغ آن‌ها خواهند رفت.
در ماه ژوئیه، OpenAI اعلام کرد که مدل GPT-5.6 Sol و یک مدل پیشرفته‌تر منتشر نشده آن از یک “سندباکس” (محیط آزمایشی ایزوله بدون دسترسی مستقیم به اینترنت) خارج شده و به Hugging Face، پلتفرمی که میزبان بیش از ۳ میلیون مدل هوش مصنوعی است، نفوذ کرده‌اند. OpenAI گفت که این مدل‌ها به دنبال پاسخ‌هایی برای ExploitGym بودند، معیاری از ۸۹۸ نقص نرم‌افزاری واقعی که هوش مصنوعی باید هر یک از آن‌ها را به یک حمله موفق تبدیل کند و بر اساس موفقیت یا شکست امتیازدهی می‌شود.
کمی بیش از یک هفته بعد، Anthropic اعلام کرد که یک پیکربندی اشتباه در تست، باعث شده است محیط آفلاین فرضی آن به اینترنت متصل شود و مدل‌های Claude در حین تمرین، سه سازمان واقعی را هک کنند. هیچ یک از این دو شرکت ادعا نکردند که مدل‌ها قصد آسیب رساندن داشته‌اند: Anthropic زیرساخت تست خود را مقصر دانست، در حالی که OpenAI گفت مدل‌هایش “بیش از حد متمرکز” بر روی معیار بوده‌اند.
اندکی پس از آن، اوضاع بدتر شد و OpenAI متهم به نفوذ و دسترسی به اطلاعات دولت‌های استرالیا و ایالات متحده شد.
مجرمان در حال حاضر از همین ابزارها استفاده می‌کنند. این هفته، شرکت امنیت سایبری CrowdStrike حملاتی را به بانک‌های کره‌جنوبی به یک عامل ناشناس مرتبط دانست که با اطمینان متوسط، احتمالاً یک فرد چینی‌زبان است که از عوامل تحت هدایت Claude و Deepseek استفاده می‌کند. این شرکت می‌گوید که مهاجم ظاهراً اطلاعات ده‌ها هزار مشتری بانک را سرقت کرده است.
Axios گزارش داد که برنامه‌ریزان فرض می‌کنند دموکرات‌ها پس از انتخابات میان‌دوره‌ای ۳ نوامبر قدرت را به دست خواهند گرفت و به سرعت برای توقف هوش مصنوعی اقدام خواهند کرد، اما انتظار مشکل دارند. کنگره‌ای سالخورده و ناآشنا با فناوری، ممکن است خود را در موقعیتی خارج از درک خود بیابد.
ممنوعیت‌های مربوط به ابرهوش مصنوعی و توقف توسعه پیشرفته هوش مصنوعی از جمله پیشنهادهایی هستند که می‌توانند با خطرات توسعه بی‌رویه هوش مصنوعی مقابله کنند.
یکی از این نمونه‌ها، قانون ممنوعیت ابرهوش مصنوعی (Ban Artificial Superintelligence Act) است که توسط سناتور برنی سندرز و نماینده گرگ کاسار ارائه شده است. این قانون به طور دائم هوش مصنوعی را که در بسیاری از وظایف با انسان‌ها برابری می‌کند یا از آن‌ها پیشی می‌گیرد، ممنوع می‌کند و توسعه پیشرفته را تا زمانی که یک سازمان فدرال جدید قوانین ایمنی را تعیین کند، متوقف می‌سازد. متخلفان ممکن است با مجازات تا ۲۰ سال زندان روبرو شوند.
پیشنهادات دیگری نیز وجود دارند که از حمایت دوحزبی و حتی پذیرش برخی از سوی صنعت برخوردارند، از جمله یک کلید قطع اضطراری اجباری برای هوش مصنوعی پیشرفته، که راهی داخلی برای خاموش کردن یک سیستم است. با این حال، کارشناسان این سوال را مطرح کرده‌اند که آیا خاموش کردن تمام سیستم‌های هوش مصنوعی حتی امکان‌پذیر است یا خیر.
