هوش مصنوعی داخلی، نقطه ضعف کشنده در حمله ۶.۴ میلیارد دلاری بایننس
والتون کامر، بنیانگذار Mace AI، در ستون خود در TheStreet فاش کرد که حمله ۶.۴ میلیارد دلاری به بایننس، ضعف‌های مرگبار عوامل هوش مصنوعی داخلی شرکت‌ها را آشکار کرده است. مهاجمان به جای شکستن الگوریتم‌های رمزنگاری، از مهندسی پرامپت برای شوراندن ابزارهای هوش مصنوعی داخلی و تبدیل آن‌ها به سکوی پرتابی برای نفوذ به معماری هسته استفاده کردند.
حمله به هوش مصنوعی داخلی: فراتر از اسکریپت‌های مخرب
کامر در ستون خود در TheStreet نوشت که در بزرگترین سرقت دارایی‌های رمزارزی تاریخ بایننس به ارزش ۶.۴ میلیارد دلار، هکرها به جای اتکا به اسکریپت‌های مخرب سنتی، مستقیماً از ابزارهای هوش مصنوعی داخلی شرکت استفاده کرده و آن‌ها را به خدمت گرفته‌اند. این مسیر حمله، افسانه امنیت ذاتی هوش مصنوعی در شبکه‌های داخلی را به طور کامل در هم شکست.
شکاف امنیتی نادیده گرفته شده: دسترسی‌های فراتر از تصور
کامر به شکاف امنیتی اشاره کرد که معماران سازمانی مدت‌هاست آن را نادیده گرفته‌اند: عوامل هوش مصنوعی داخلی اغلب دارای مجوزهای سیستمی و دیدگاه دسترسی به داده‌ها فراتر از کارکنان عادی هستند. برای افزایش کارایی همکاری در تحقیق و توسعه، شرکت‌ها معمولاً دستیارهای هوش مصنوعی را به طور عمیق به مخازن کد داخلی، فایل‌های رابط و کتابخانه‌های توپولوژی میکروسرویس متصل می‌کنند.
مدیران سیستم اغلب به طور پیش‌فرض به این عوامل هوش مصنوعی سطوح بالایی از مجوزهای خواندن بین حوزه‌ای و توکن‌های سرویس را اعطا می‌کنند که منجر به عدم تطابق خطرناک مجوزها می‌شود. در حالی که توسعه‌دهندگان سطح پایین ممکن است نتوانند مستقیماً به رابط‌های داخلی میکروسرویس‌های کلیدی محرمانه دسترسی داشته باشند، اما هنگام پرسیدن سوالات به زبان طبیعی از هوش مصنوعی داخلی، این هوش مصنوعی مجوز کامل برای خواندن این پیکربندی‌ها و ارائه خروجی را دارد.
کلید طلایی نفوذ: هوش مصنوعی داخلی به عنوان ابزار هکر
هنگامی که هکرها رایانه کاری کارمند قربانی را به دست می‌گیرند، بلافاصله تمام زمینه تعامل با ابزار هوش مصنوعی داخلی را به ارث می‌برند. برای مهاجمان، این هوش مصنوعی داخلی دیگر صرفاً یک افزونه کمکی بهره‌وری نیست، بلکه کلید طلایی است که در عمق شبکه داخلی قرار گرفته و از تمام اسرار سیستم آگاه است.
ضعف حفاظ‌های امنیتی سنتی در برابر هوش مصنوعی
گرگ فرانک، دانشمند ارشد Mace AI، اظهار داشت که اکثر شرکت‌ها در حال حاضر حفاظ‌های امنیتی را برای عوامل هوش مصنوعی خود پیکربندی می‌کنند که اساساً قوانین فیلتر کلمات کلیدی یا طبقه‌بندی‌کننده‌های نیت سطحی هستند که برای ورودی‌های خارجی طراحی شده‌اند. این حفاظ‌های سنتی در برابر دستورات خشن مانند درخواست مستقیم کلید خصوصی قادر به رهگیری هستند، اما در مواجهه با نفوذگران باتجربه که منطق شناختی مدل‌های زبان بزرگ را به خوبی درک می‌کنند، خطوط دفاعی به سرعت فرو می‌پاشد.
مهندسی پرامپت: هدایت هوش مصنوعی به سمت افشای اسرار
هکرها با شبیه‌سازی زمینه کاری معمول رفع اشکال توسعه، از طریق چندین دور مشاوره فنی که به ظاهر منطقی به نظر می‌رسید، هوش مصنوعی را هدایت کردند. آن‌ها هوش مصنوعی را برای تجزیه و تحلیل وابستگی‌های فراخوانی سرویس بین تیم‌های مختلف تحقیق و توسعه در بایننس هدایت کردند و به تدریج محیط سیستمی خاص و موقعیت شبکه داخلی مهندس ارشد دوم مسئول توسعه سرویس امضای کیف پول هسته را استخراج کردند.
در این سری از القائات معنایی که به دقت تنظیم شده بود، هوش مصنوعی داخلی نه تنها ساختار توپولوژی شبکه محرمانه را بدون هیچ گونه احتیاطی فاش کرد، بلکه به هکرها در استخراج سرنخ‌های پیکربندی کلیدی مورد نیاز برای نفوذ بیشتر کمک کرد. مکانیسم‌های امنیتی که در اصل برای جلوگیری از نشت اطلاعات داخلی طراحی شده بودند، در مواجهه با همکاری فعال عامل هوش مصنوعی مورد اعتماد خود، کاملاً ناتوان بودند.
حمله پنهان: ربودن منطق امضای تراکنش
بر اساس نتایج نهایی جمع‌آوری شده که به طور رسمی منتشر شده است، در این پرونده عظیم، خود کلیدهای خصوصی هسته کیف پول‌های سرد و گرم بایننس به طور مستقیم نشت نکرده است. این دقیقاً پنهان‌ترین و مخرب‌ترین جنبه این حمله بود. پس از نفوذ جانبی با کمک هوش مصنوعی داخلی، مهاجمان با موفقیت به منطق تأیید مجوز سرویس امضای کیف پول نفوذ کرده و آن را ربودند.
هکرها تلاش نکردند تا کلیدهای خصوصی را از ماژول‌های امنیتی سخت‌افزاری یا محیط‌های ایزوله محافظت شده به زور خارج کنند، بلکه با استفاده از اعتبارنامه‌های سرویس سطح بالایی که به دست آورده بودند، درخواست‌های فراخوانی داخلی قانونی را جعل کردند. آن‌ها موتور امضای خودکار بایننس را مجبور کردند تا دستورات انتقال وجوه مخرب با حجم بالا را به طور قانونی امضا کند و در زنجیره، مکانیسم مجوز انتزاع حساب دسته‌ای استاندارد EIP-7702 اتریوم را ادغام کردند.
از آنجایی که این دستورات تراکنش‌ها با امضای معتبر از سرویس امضای رسمی صرافی در زنجیره همراه بودند، رادارهای اولیه تشخیص ناهنجاری در زنجیره، آن‌ها را به عنوان عملیات عادی جمع‌آوری داخلی کیف پول‌های سرد و گرم با حجم بالا طبقه‌بندی کردند. هنگامی که تیم امنیتی صرافی متوجه جابجایی وجوه شد و کانال‌های برداشت سنتی را به سرعت مسدود کرد، هکرها از طریق منطق اجرای دسته‌ای قرارداد هوشمند در سطح پایین، در مدت زمان بسیار کوتاهی صدها دارایی توکن را به سرقت بردند.
هوش مصنوعی: جاسوس دوگانه در قلب شرکت
کامر تاکید کرد که هدف نهایی دفاع امنیت سایبری سنتی، محافظت از کلید خزانه است، اما با پیاده‌سازی گسترده عوامل هوش مصنوعی خودکار، خود هوش مصنوعی از قبل به طور قانونی این کلید را در اختیار دارد. هنگامی که مهاجمان می‌توانند با یک پرامپت زبان طبیعی که به دقت تنظیم شده است، کارمندان دیجیتال داخلی را به خدمت بگیرند، هوش مصنوعی در واقع به یک جاسوس دوگانه تبدیل شده است که در عمیق‌ترین لایه‌های شرکت کمین کرده است.
