خانا از لایحه ایمنی هوش مصنوعی حامی فناوری خودبهبودگر بازگشتی حمایت کرد

نماینده رو خانا: هشدار درباره هوش مصنوعی خودبهبود و درخواست برای نظارت قوی‌تر

رو خانا، نماینده دموکرات کالیفرنیا و عضو ارشد کمیته منتخب مجلس نمایندگان در امور رقابت استراتژیک بین ایالات متحده و حزب کمونیست چین، خواستار ممنوعیت مدل‌های هوش مصنوعی خودبهبود شونده (recursive self-improving AI) شده است. این نوع سیستم‌ها قادرند بدون دخالت انسان، قابلیت‌های خود را ارتقا دهند.

تلاش برای کنترل هوش مصنوعی خودبهبود

این اقدام خانا در راستای تلاش‌های گسترده‌تر برای تنظیم مقررات هوش مصنوعی صورت می‌گیرد. او از «قانون ممنوعیت هوش مصنوعی فوق‌هوشمند» (Ban Artificial Superintelligence Act) که در ۲۳ سپتامبر توسط سناتور برنی سندرز و نماینده گرگ کاسار معرفی شد، حمایت کرده است. این لایحه برای متخلفان مجازات‌هایی تا ۲۰ سال زندان و انحلال اجباری شرکت‌ها را پیش‌بینی کرده است.

هوش مصنوعی خودبهبود شونده به سیستم‌هایی اطلاق می‌شود که می‌توانند معماری یا فرآیندهای آموزشی خود را به طور مستقل اصلاح و بهبود بخشند، بدون اینکه نیازی به دخالت انسان باشد. خانا به طور خاص نسبت به از دست دادن کنترل انسانی بر چنین سیستم‌هایی هشدار داده و آن را یکی از جدی‌ترین خطرات وجودی در چشم‌انداز فعلی هوش مصنوعی دانسته است.

راهکار پیشنهادی خانا

راهکار پیشنهادی خانا دو بخش اصلی دارد: اول، ممنوعیت توسعه مدل‌های هوش مصنوعی خودبهبود شونده تا زمانی که تدابیر ایمنی کافی اتخاذ شود. دوم، تأسیس یک «آژانس فدرال ایمنی هوش مصنوعی» با الگوی سازمان غذا و داروی آمریکا (FDA)، که به عنوان نهاد ناظر بر توسعه هوش مصنوعی پیشرفته عمل کند.

رویکرد بین‌المللی و داخلی

حمایت خانا تنها به آزمایشگاه‌های داخلی محدود نمی‌شود. او خواستار توافق‌نامه‌های بین‌المللی الزام‌آور با چین در زمینه ایمنی هوش مصنوعی، از جمله بازرسی‌های قابل تأیید و اقدامات پاسخگویی شده است. وی همچنین از آزمایشگاه‌های آمریکایی مانند Anthropic و شرکت‌های بزرگ فناوری چینی از جمله DeepSeek و Alibaba خواسته است تا تعهدات سخت‌گیرانه‌تری را در قبال پیشرفت‌های هوش مصنوعی پیشرفته اتخاذ کنند.

لایحه سندرز-کاسار و رویکرد حداکثری

لایحه سندرز-کاسار که خانا از آن حمایت می‌کند، رویکردی حداکثری را در پیش گرفته است. این لایحه خواستار توقف توسعه سیستم‌های فوق‌هوشمند تا زمان ایجاد یک «وزارت هوش مصنوعی» اختصاصی است. برای درک بهتر، آخرین وزارتخانه در سطح کابینه که در سال ۲۰۰۲ ایجاد شد، وزارت امنیت داخلی بود.

شدت مجازات‌های پیشنهادی، جدی بودن نیت پشت این لایحه را نشان می‌دهد. ۲۰ سال زندان و «مجازات اعدام شرکتی»، که احتمالاً به معنای انحلال اجباری یک شرکت است، پیامدهای سبکی نیستند.

شایان ذکر است که تا اواخر سپتامبر ۲۰۲۶، خود خانا لایحه مستقلی در زمینه ایمنی هوش مصنوعی ارائه نکرده است. نقش او عمدتاً در حوزه حمایت و پشتیبانی از اقدامات موجود مانند لایحه سندرز-کاسار بوده است.