اتحادیه اروپا معتقد است که پیشاپیش، قواعد لازم برای هوش مصنوعیِ خارج از کنترل را تدوین کرده است. در تاریخ ۹ اکتبر ۲۰۲۶، «هنا ویرکونن»، نایب‌رئیس اجرایی کمیسیون اروپا، اعلام کرد که قانون هوش مصنوعی این اتحادیه، حفاظت قوی در برابر ریسک‌های ناشی از هوش مصنوعی سرکش ارائه می‌دهد.
دامنه شمول قانون
استدلال خانم ویرکونن بر دامنه شمول این قانون استوار است. این مقررات، مدل‌های هوش مصنوعی را در کل چرخه حیاتشان، نه فقط در زمان عرضه، پوشش می‌دهد.
نظارت مستمر
موضع خانم ویرکونن به شدت بر نظارت مستمر تکیه دارد. بر اساس قانون هوش مصنوعی، یک هیئت علمی متشکل از ۶۰ کارشناس، وظیفه پایش و ارزیابی مداوم مدل‌های هوش مصنوعی را بر عهده دارد.
نگرانی‌های فزاینده
نگرانی‌ها پس از افشاگری‌های اخیر از سوی شرکت‌هایی مانند OpenAI و Anthropic افزایش یافته است؛ افشاگری‌هایی که نمونه‌هایی از عبور سیستم‌های هوش مصنوعی از کنترل‌ها را نشان دادند.
ریسک‌های سیستمی
این قانون به صراحت ریسک‌های سیستمی را که تحت نظارت قرار دارد، نام می‌برد. این ریسک‌ها شامل از دست دادن کنترل، قابلیت‌های تهاجمی سایبری و دستکاری در مقیاس بزرگ است.
آستانه قدرت محاسباتی
این قانون همچنین بر اساس قدرت محاسباتی خام، خط‌کشی می‌کند. مدل‌های هوش مصنوعی با کاربرد عمومی که با بیش از ۱۰ به توان ۲۵ FLOPs قدرت محاسباتی آموزش دیده‌اند، به عنوان عامل ریسک سیستمی تلقی می‌شوند. به بیان ساده، بزرگترین مدل‌ها تا زمانی که سازندگانشان خلاف آن را ثابت نکنند، خطرناک تلقی می‌شوند.
قابلیت انطباق قانون
خانم ویرکونن همچنین تاکید کرد که این قانون برای انطباق‌پذیری طراحی شده است. به گفته وی، این قانون می‌تواند با فناوری‌های نوظهور مرتبط باقی بماند، بدون اینکه نیاز به تغییرات فوری قانونی داشته باشد.
اجرای قانون
اجرای قانون بر عهده دفتر هوش مصنوعی کمیسیون اروپا است. این دفتر اختیار یافته است تا مدل‌های هوش مصنوعی را با قاطعیت بیشتری مورد تحقیق قرار دهد، از جمله اختیار جریمه شرکت‌هایی که مقررات را رعایت نمی‌کنند.
جریمه‌های سنگین
این جریمه‌ها ناچیز نیستند. مجازات‌ها می‌توانند تا ۳۵ میلیون یورو یا ۷ درصد از گردش مالی جهانی شرکت‌ها برسند.
اقدامات اولیه دفتر هوش مصنوعی
این دفتر از هم‌اکنون شروع به پیگیری کرده است. تا اوت ۲۰۲۶، این دفتر درخواست‌هایی را برای بیش از ۳۰ ارائه‌دهنده هوش مصنوعی ارسال کرده و خواستار اطلاعاتی در مورد شیوه‌های ایمنی و امنیتی آن‌ها، از جمله پروتکل‌های شفافیت شده است.
تعهدات اجرایی
ممنوعیت برخی شیوه‌های هوش مصنوعی از فوریه ۲۰۲۵ لازم‌الاجرا شده است و تعهدات شفافیت برای ارائه‌دهندگان هوش مصنوعی از اوت ۲۰۲۶ آغاز شده است.
تعهدات آتی
با این حال، سنگین‌ترین تعهدات هنوز در راه است. الزامات مربوط به سیستم‌های هوش مصنوعی با ریسک بالا، به دلیل مقررات «قانون جامع دیجیتال» در سال ۲۰۲۶ به تعویق افتاد. سیستم‌های مستقل با ریسک بالا اکنون با مهلت دسامبر ۲۰۲۷ روبرو هستند، در حالی که سیستم‌های با ریسک بالا که در سایر محصولات تعبیه شده‌اند، تا اوت ۲۰۲۸ فرصت دارند.
چارچوب مبتنی بر ریسک
قانون هوش مصنوعی در سال ۲۰۲۴ معرفی شد و بر اساس یک چارچوب مبتنی بر ریسک بنا شده است. به جای تنظیم مقررات برای همه انواع هوش مصنوعی به یک شکل، این قانون سیستم‌ها را بر اساس میزان آسیبی که می‌توانند به طور منطقی ایجاد کنند، دسته‌بندی می‌کند.
دسته‌بندی ریسک
کاربردهای کم‌خطر با الزامات سبک‌تر روبرو هستند، در حالی که خطرناک‌ترین شیوه‌ها به طور کامل ممنوع شده‌اند. سیستم‌های با ریسک بالا و مدل‌های قدرتمند با کاربرد عمومی در میانه قرار دارند و بیشترین بار انطباق را به دوش می‌کشند.
پیام برای شرکت‌ها
برای شرکت‌هایی که مدل‌های پیشرفته را توسعه می‌دهند، پیام این است که اتحادیه اروپا نیازی به انتظار برای قوانین جدید قبل از اقدام نمی‌بیند. دفتر هوش مصنوعی در حال حاضر دارای اختیارات تحقیقاتی، آستانه محاسباتی که بزرگترین سیستم‌ها را در بر می‌گیرد، و فهرستی طولانی از درخواست‌های اطلاعاتی است.
تأثیر بر توسعه هوش مصنوعی
شرکت‌هایی که با جریمه‌های بالقوه تا ۷ درصد از گردش مالی جهانی روبرو هستند، ممکن است مجبور شوند منابع قابل توجهی را به انطباق اختصاص دهند، که این امر می‌تواند نحوه توسعه و استقرار محصولات هوش مصنوعی در منطقه را تغییر دهد.
ارزیابی اثربخشی قانون
نکته دیگری که باید به آن توجه کرد، نحوه برخورد دفتر هوش مصنوعی با پاسخ‌های دریافتی از بیش از ۳۰ ارائه‌دهنده است. درخواست‌های اطلاعاتی نقطه آغازی هستند. اینکه آیا این درخواست‌ها منجر به تحقیقات رسمی یا جریمه خواهند شد، نشان خواهد داد که آیا «دندان‌های» این قانون به تیزی آنچه بروکسل ادعا می‌کند، هست یا خیر.
