کوینبیس اعلام کرد که سیستم تشخیص کلاهبرداری مبتنی بر هوش مصنوعی این شرکت، ۴.۷ میلیون دلار را که حدود ۹۱ درصد از وجوه مورد هدف کلاهبرداران بود، پیش از رسیدن به کیف پولهایشان در جریان یک طرح فریبکارانه با ادعای اعطای رایگان ارز دیجیتال توسط ایلان ماسک، مسدود کرده است.
نکته قابل توجه در این حادثه این است که کل عملیات بدون دخالت انسانی انجام شد؛ زیرا عامل هوش مصنوعی این شرکت، کلاهبرداری را شناسایی کرده و در لحظهای که مشتریان قصد ارسال پول خود را داشتند، مداخله کرد.
این طرح بر محور یک پخش زنده جعلی در یوتیوب میچرخید که به نظر میرسید نمایش خودروی پرنده تسلا را نشان میدهد. این پخش زنده جعلی از نسخهای از ایلان ماسک که توسط هوش مصنوعی تولید شده بود، استفاده میکرد، آدرسهای کیف پول ارز دیجیتال و یک کد QR را نمایش میداد و به بینندگان وعده دو برابر شدن پولشان را در صورت ارسال ارز دیجیتال میداد. بیش از ۵۰۰ هزار نفر این پخش زنده را تماشا کردند و این رویداد جعلی را به طور گستردهای در معرض دید قرار دادند. طبق گفته کوینبیس، بخش دشوار ماجرا این بود که کلاهبرداران نیازی به نفوذ به حساب کاربری کسی یا سرقت اطلاعات ورود نداشتند.
مشتریان وارد حسابهای خود شده بودند، به وجوهشان دسترسی داشتند و با رضایت خود تراکنشها را تأیید میکردند، زیرا معتقد بودند این هدیه رایگان واقعی است. این امر باعث میشود که این نوع کلاهبرداری با استفاده از اقدامات امنیتی سنتی که معمولاً بر دسترسی غیرمجاز به حساب یا فعالیتهای مشکوک تمرکز دارند، دشوارتر شناسایی شود.
برای مقابله با این مشکل، کوینبیس یک عامل پیشگیری از کلاهبرداری مبتنی بر هوش مصنوعی را مستقر کرد که برای شناسایی تراکنشهای پرخطر و به چالش کشیدن مشتریان پیش از خروج پولشان از پلتفرم طراحی شده است. این سیستم از مدلهای یادگیری ماشین برای ارزیابی تراکنشها در زمان واقعی استفاده میکند. این سیستم به دنبال نشانههای هشداردهنده مانند فعالیتهای مرتبط با هدیه رایگان، جعل نام تجاری و انتقال به آدرسهای کیف پول تازه ایجاد شده میگردد.
هنگامی که یک پرداخت شناسایی میشود، عامل هوش مصنوعی با یک گفتگوی هدفمند مداخله میکند که الگوی خاص کلاهبرداری و دلیل نگرانیبرانگیز بودن پیشنهاد را توضیح میدهد، به جای اتکا به یک هشدار امنیتی عمومی. کوینبیس همچنین اعلام کرد که هر پاسخی که توسط عامل تولید میشود، پیش از نمایش به مشتری، امتیاز اطمینان دریافت میکند که به سیستم کمک میکند تا زمان مداخله مطمئن را تعیین کند.
جالب اینجاست که عامل صرافی ارز دیجیتال مذکور قبلاً هرگز با این کلاهبرداری خاص مواجه نشده بود. هدیههای جعلی مرتبط با معرفی محصولات زنده بخشی از آموزش آن نبود، اما با این حال، نشانههای هشداردهنده آشنا از جمله وعده افزایش داراییهای ارز دیجیتال، فشار زمانی و تراکنشهای غیرقابل برگشت را تشخیص داد. گزارش شده است که این سیستم از اولین تراکنش تا آخرین، بدون نیاز به دخالت انسان، تلاشهای شناسایی شده را مدیریت کرده است.
نقل قول
«قبلاً، اجرای کلاهبرداری مانند این نیاز به یک گروه، یک استودیو و هفتهها زمان داشت. اکنون فقط به یک اسلات پخش زنده و یک مدل نیاز دارد. دیپفیکها کلاهبرداریهای متقاعدکننده را ارزان، سریع و آسان برای راهاندازی مجدد تحت نامی جدید به محض بسته شدن یکی از آنها، میسازند. این بدان معناست که دفاع ما باید با همان سرعتی که حملات پیشرفت میکنند، بهبود یابد. ما در هوش مصنوعی در سراسر بخش ریسک سرمایهگذاری سنگینی انجام میدهیم تا این اتفاق بیفتد.»
آمار نگرانکننده
یک نظرسنجی گارتنر از ۲۹۷ رهبر ارشد امنیت سایبری که بین مارس و مه ۲۰۲۶ انجام شد و در سپتامبر منتشر شد، نشان داد که ۴۱ درصد از مدیران ارشد اطلاعات امنیتی (CISOs) در ۱۲ ماه گذشته حداقل با یک حادثه مهندسی اجتماعی شامل دیپفیک صوتی کارمند مواجه شدهاند. دیپفیکهای ویدیویی نیز چندان عقب نبودند. بیش از یک سوم مدیران ارشد اطلاعات امنیتی، یا ۳۶ درصد، گفتند که سازمانشان شاهد این نوع حادثه بوده است.
موارد مشابه
در ماه ژوئن، مای فوجیموتو، مدافع ارز دیجیتال ژاپنی، در یک تماس زوم توسط یک دیپفیک که با یکی از آشنایانش جعل هویت کرده بود، فریب خورد که در نهایت منجر به سرقت دسترسی به حسابهایش توسط بدافزار شد. چانگپنگ ژائو، بنیانگذار بایننس، بعدها هشدار داد که حتی تماسهای ویدیویی نیز دیگر نمیتوانند هویت فرد را تضمین کنند.



