مایکروسافت خواستار نقش مستقیم دولت در ارزیابی مدلهای هوش مصنوعی شد
مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، پیامی روشن به واشنگتن و فراتر از آن ارسال میکند: دولت باید نقشی مستقیم در ارزیابی مدلهای هوش مصنوعی پیش از عرضه عمومی ایفا کند. سلیمان در یادداشتی که ۲۴ سپتامبر در خبرنامه بلومبرگ منتشر شد، استدلال کرد که صنعت هوش مصنوعی نیازمند تعیین «خطوط قرمز» شفاف برای قابلیتهای هوش مصنوعی است و این مسئولیت نباید صرفاً به شرکتهای سازنده این فناوری واگذار شود.
اظهارات سلیمان بیسابقه نبود. روز قبل از انتشار یادداشت او، برد اسمیت، رئیس مایکروسافت، در اقدامی عمومی خواستار وجود ارزیابان مستقل ایمنی هوش مصنوعی و آنچه او «سازوکارهای ایمنی چندلایه» نامید، شد. این پیامهای متوالی نشان میدهد که این یک اقدام انفرادی از سوی یک مدیر نبوده، بلکه به نظر میرسد استراتژی هماهنگ رهبری مایکروسافت برای تثبیت جایگاه این شرکت به عنوان بازیگر مسئول در میان رقبایی است که برای عرضه مدلهای قدرتمندتر با یکدیگر رقابت میکنند.
نکات قابل توجهی در پشت این سخنان وجود دارد. مایکروسافت پیش از این توافقنامههای رسمی با مرکز استانداردهای نوآوری هوش مصنوعی ایالات متحده (CAISI) و موسسه امنیت هوش مصنوعی بریتانیا (AISI) برای آزمایش پیش از انتشار مدلهای پیشرفته هوش مصنوعی خود امضا کرده است. این توافقنامهها که در حدود ماه مه ۲۰۲۶ اعلام شدند، به نهادهای وابسته به دولت اجازه میدهند تا پیش از استقرار تجاری مدلها، آنها را از نظر ریسکهای امنیت ملی و ایمنی ارزیابی کنند.
این یک امتیاز قابل توجه است. دسترسی پیش از انتشار به این معنی است که ارزیابان خارجی میتوانند مشکلات را در زمانی که هنوز فرصت رفع آنها وجود دارد، شناسایی کنند، به جای اینکه گزارشهای انتقادی درباره آسیبهای بالفعل منتشر کنند.
سلیمان مدتهاست که بر طبل «خطوط قرمز» میکوبد. استدلال او این است که برخی قابلیتها، به ویژه آنهایی که میتوانند ریسکهای در مقیاس وجودی ایجاد کنند، نیازمند مرزهای سخت و نه دستورالعملهای نرم هستند. سلیمان هنوز پیشنهادات سیاستی مشخص یا جدول زمانی برای جایی که معتقد است این مرزها باید تعیین شوند، ارائه نکرده است.
چارچوب حکمرانی پیشرفته مایکروسافت (Frontier Governance Framework) که در اوایل سال ۲۰۲۶ بهروزرسانی شد، زیرساخت داخلی این رویکرد را فراهم میکند. این چارچوب نحوه ارزیابی قابلیتها در مدلهای پرخطر هوش مصنوعی توسط شرکت و جایگاه ارزیابی خارجی در این فرآیند را تشریح میکند.
همچنین این سوال مطرح است که آیا سازمانهای دولتی ظرفیت فنی لازم برای ارزیابی معنادار مدلهای پیشرفته را دارند. AISI و CAISI سازمانهای نسبتاً جدیدی هستند و ایجاد تخصص فنی عمیق مورد نیاز برای آزمایش سیستمهای پیشرفته هوش مصنوعی سالها طول میکشد، نه ماهها.
تصویر گستردهتر جهانی نیز لایهای دیگر از پیچیدگی را اضافه میکند. چارچوبهای حکمرانی هوش مصنوعی با سرعتهای متفاوتی در حوزههای قضایی مختلف در حال توسعه هستند. اتحادیه اروپا با قانون هوش مصنوعی خود به طور قاطعانه عمل کرده است، در حالی که ایالات متحده رویکردی پراکندهتر از طریق دستورات اجرایی و ابتکارات در سطح آژانسها اتخاذ کرده است. مشارکت مایکروسافت با هر دو نهاد ارزیابی آمریکایی و بریتانیایی نشان میدهد که این شرکت در حال پوشش دادن رژیمهای نظارتی مختلف است و در هر کجا که ساختارهای نظارتی رسمی در حال ظهور هستند، روابطی را ایجاد میکند.
