شرکت Anomaly Innovations از نقض امنیتی خبر داد؛ مدل‌های هوش مصنوعی در تحلیل حمله همکاری نکردند
شرکت Anomaly Innovations، سازنده عامل کدنویسی هوش مصنوعی متن‌باز OpenCode، در تاریخ ۱۷ اکتبر ۲۰۲۶ از وقوع یک نقض امنیتی خبر داد. مهاجمان موفق شدند به یک سیستم قدیمی مرتبط با محصول Console این شرکت نفوذ کرده و کلیدهای API شخص ثالث متعلق به برخی از کاربران را به سرقت ببرند.
نکته عجیب‌تر در جریان پاکسازی این حادثه رخ داد. گزارش‌ها حاکی از آن است که مدل‌های هوش مصنوعی که مدافعان قصد داشتند برای تحلیل کد حمله از آن‌ها استفاده کنند، از همکاری خودداری کردند.
بر اساس یافته‌های تحقیقاتی، حدود ۱.۴ درصد از کاربران OpenCode Console تحت تأثیر قرار گرفتند و کلیدهای API آن‌ها افشا شد. این کلیدها به ارائه‌دهندگان هوش مصنوعی خارجی، به‌ویژه OpenAI، Anthropic و Google متصل بودند.
مهاجمان از کلیدهای سرقت شده برای فعالیت‌های گسترده، از جمله تقطیر مدل (model distillation)، استفاده کردند و هزینه‌های این فعالیت‌ها بر دوش کاربران قانونی افتاد. تقطیر مدل، روشی است که در آن یک مدل قدرتمند با حجم عظیمی از درخواست‌ها تغذیه شده و از پاسخ‌های آن برای آموزش یک نسخه ارزان‌تر و مشابه استفاده می‌شود.
هزینه‌های غیرمجاز گزارش‌شده برای برخی کاربران از صدها دلار تا بیش از ۱۰۰۰ دلار متغیر بود. کاربران آسیب‌دیده از طریق ایمیل مطلع شدند. سیستم مورد نفوذ در حال از رده خارج شدن بود و درست در زمانی که مهاجمان راهی برای ورود یافتند، در آستانه تعطیلی قرار داشت.
ارائه‌دهندگان هوش مصنوعی که کلیدهایشان افشا شده بود، برای مهار خسارات اقدام کردند. Anthropic و Google کلیدهای به خطر افتاده را باطل کردند.
OpenAI گامی فراتر گذاشت و با همکاری OpenCode، اعتبار مربوط به هزینه‌های متحمل شده در طول نقض امنیتی را به کاربران بازپرداخت کرد.
عملیات دفاعی OpenCode با مانعی روبرو شد، زیرا سیستم‌های حفاظتی هوش مصنوعی مانع از تحلیل کد حمله توسط مدل‌های پیشرفته شدند. راهکار OpenCode دسترسی به مدل‌های هوش مصنوعی با محدودیت کمتر پس از شروع حمله بود که مشکل فوری را حل کرد، اما تنها پس از گذشت زمان ارزشمند.
Axios این موضوع را به عنوان یک چالش رو به رشد در صنعت امنیت مطرح کرده است. تیم‌هایی که برای مقابله با تهدیدات مبتنی بر هوش مصنوعی تلاش می‌کنند، متوجه شده‌اند که مدل‌هایی که به آن‌ها تکیه می‌کنند، ممکن است در میانه یک تحقیق به طور ناگهانی از همکاری امتناع کنند.
حادثه OpenCode یادآور رویداد مشابهی است. در جریان نقض امنیتی Hugging Face در ژوئیه ۲۰۲۶، مدل‌های هوش مصنوعی نیز از درخواست‌های مشابه برای تحلیل مواد حمله خودداری کرده بودند.
جنبه سیستم قدیمی نیز شایان توجه است. سیستم مورد نفوذ از قبل برای بازنشستگی برنامه‌ریزی شده بود، اما تا زمانی که به نقطه ورود مهاجمان تبدیل شد، همچنان فعال بود.
برای توسعه‌دهندگان، درس مستقیم‌تر مربوط به بهداشت کلیدها است. بهترین شیوه‌های توصیه شده از این حادثه ساده هستند: استفاده از کلیدهای منحصربه‌فرد برای خدمات مختلف و تعیین محدودیت‌های سختگیرانه هزینه برای هر پروژه.
برای آزمایشگاه‌های هوش مصنوعی، سیستم‌های حفاظتی آن‌ها برای کاهش آسیب طراحی شده‌اند، اما در این مورد، روند کار افرادی را که سعی در توقف آسیب در حال وقوع داشتند، کند کردند. اگر مدافعان به این نتیجه برسند که مدل‌های پیشرفته در طول حوادث غیرقابل اعتماد هستند، ممکن است از ابتدا گردش کارهای خود را حول جایگزین‌های با محدودیت کمتر بسازند.
پاسخ سریع OpenAI، Anthropic و Google نشان می‌دهد که ارائه‌دهندگان می‌توانند به سرعت در زمینه صورت‌حساب و دسترسی اقدام کنند. سوال باز این است که آیا آن‌ها می‌توانند مسیری برای تحلیل عمیق‌تر برای مدافعان تأیید شده فراهم کنند، بدون اینکه همان در را به روی مهاجمان باز کنند.
