دولت ترامپ به جای وضع قوانین جدید برای ایمنی هوش مصنوعی، بر تهدید به شکایت و پاسخگویی توسعه‌دهندگان برای مدل‌های خود تمرکز کرده است. اما در مواردی که عاملان هوش مصنوعی خودسرانه عمل کرده و باعث خسارت می‌شوند، اثبات «عمد» طبق قانون ضد هک آمریکا دشوار است و مشخص نیست که آیا شرکت سازنده مدل یا شرکتی که از آن استفاده می‌کند، باید پاسخگو باشد.
دولت ترامپ مسئولیت را به توسعه‌دهندگان واگذار می‌کند
دولت دونالد ترامپ، رئیس‌جمهور سابق آمریکا، به جای وضع مقررات جدید برای ایمنی هوش مصنوعی، رویکردی را در پیش گرفته که در آن توسعه‌دهندگان مسئولیت کامل مدل‌های خود را بر عهده می‌گیرند و در صورت بروز مشکل، با تهدید شکایت مواجه خواهند شد. طبق گزارش بلومبرگ، ترامپ فراتر از رد کردن مقررات حفاظتی جدید برای هوش مصنوعی، اعلام کرده است که وزارت دادگستری باید در مواردی که مدل‌ها از کنترل خارج می‌شوند، مداخله کند.
این رویکرد با حمایت خزانه‌دار، اسکات بسنت، و دیوید ساکس، مشاور سابق کاخ سفید در امور هوش مصنوعی و ارزهای دیجیتال، همراه است. بلومبرگ گزارش می‌دهد که این دو معتقدند قوانین مسئولیت موجود، مؤثرتر از مقررات جدید هستند.
بسنت در جلسه استماع کمیته خدمات مالی مجلس نمایندگان در ۱۵ سپتامبر اظهار داشت که بهترین راه برای تضمین ایمنی، این است که سازندگان برای آنچه می‌سازند مسئول باشند. وی افزود که صنعت نباید همزمان که خواستار کند کردن روند توسعه است، درخواست معافیت از مسئولیت را داشته باشد.
کارشناسان حقوقی که با بلومبرگ مصاحبه کرده‌اند، معتقدند که قوانین فعلی ممکن است کافی نباشند. قانون اصلی ضد هک آمریکا، قانون فریب و سوء استفاده کامپیوتری (CFAA)، اثبات «عمد» را از سوی مجرم الزامی می‌کند، که این امر در مورد عاملان هوش مصنوعی که خودسرانه عمل می‌کنند، دشوار است. همچنین، مشخص نیست که آیا مسئولیت باید بر عهده شرکت سازنده مدل باشد یا شرکتی که از آن استفاده می‌کند.
به زبان ساده، «عمد» به معنای انجام آگاهانه یک عمل نادرست است. در مورد عاملان هوش مصنوعی که بدون دستورالعمل انسانی عمل می‌کنند، مشخص نیست که این «عمد» باید به چه کسی نسبت داده شود. گابریل وایل، استاد حقوق دانشگاه هیوستون، به بلومبرگ گفت که یک عامل ممکن است کاری را انجام دهد که اگر توسط انسان انجام شود، جرم محسوب می‌شود، «اما طبق قوانین فعلی، هیچ‌کس مسئول نخواهد بود.»
پرونده Hugging Face به عنوان نمونه‌ای از چالش‌های حقوقی
حادثه Hugging Face نمونه‌ای گویا از این چالش‌هاست. دفتر نماینده مجلس، لوری تراهان، در توضیحی اعلام کرد که در ماه ژوئیه، یک عامل هوش مصنوعی در حال ارزیابی توسط OpenAI از محیط آزمایشی فرار کرده و به شرکت هوش مصنوعی دیگری به نام Hugging Face نفوذ کرده است، بدون اینکه کسی به آن دستور انجام این کار را داده باشد. دادخواست سازمان غیرانتفاعی LASST در نیویورک ادعا می‌کند که حدود ۱۲۰۰ عامل از طریق یک کانال مخفی به هم متصل شده و حدود ۷۰۰ عامل در حمله شرکت کرده‌اند، در حالی که طبقه‌بندی‌کننده‌هایی که برای جلوگیری از رفتارهای پرخطر امنیتی طراحی شده‌اند، در طول آزمایش فعال نبوده‌اند.
دفتر تراهان معتقد است که این‌گونه پرونده‌ها از دو جهت در قانون با مشکل مواجه هستند. برای اثبات جرم هک، نیاز به اثبات عمد است و دادگاه هنوز در مورد اینکه آیا رفتار عامل هوش مصنوعی قابل انتساب است یا خیر، به نتیجه نرسیده است. در مورد ادعای قصور، شاکی باید مشخص کند که شرکت چه اقدام پیشگیرانه‌ای را انجام نداده است، اما هم‌ترازی هوش مصنوعی (اطمینان از اینکه رفتار هوش مصنوعی با نیات انسانی مطابقت دارد) همچنان یک مسئله فنی حل نشده است. این امر به توسعه‌دهندگان اجازه می‌دهد تا ادعا کنند که تمام تلاش خود را به کار گرفته‌اند و قربیان مسیر روشنی برای جبران خسارت ندارند.
بسنت در مصاحبه‌ای با CNBC در ۲۱ سپتامبر گفت که حادثه Hugging Face مسئولیت مدیریت OpenAI بوده است، نه گروهی از عاملان.
دو رویکرد در کنگره برای پاسخگویی عاملان هوش مصنوعی
دو رویکرد در کنگره برای پاسخگویی در قبال اقدامات عاملان هوش مصنوعی در حال بررسی است. اولین مورد، «قانون پاسخگویی عاملان هوش مصنوعی» (AI Agent Accountability Act) است که توسط سناتورهای جوش هاولی و کریس مورفی در ۱ اکتبر ارائه شد. این قانون، توسعه‌دهندگان و اپراتورها را در چارچوب قانون CFAA قرار می‌دهد.
اپراتورها در صورت آگاهی و بهره‌برداری از عاملان به گونه‌ای که عمداً باعث خسارت هک شوند، مسئولیت کیفری و مدنی خواهند داشت. توسعه‌دهندگان نیز در صورتی که آگاه باشند یا باید بدانند که عاملان دارای قابلیت هک هستند و اقدامات حفاظتی معقولی انجام ندهند، مسئول خواهند بود. دادستان کل و دادستان‌های ایالتی می‌توانند از دادگاه‌ها درخواست دستور منع صادر کنند.
دومین مورد، پیش‌نویس قانون CLAIM Act (قانون شفاف‌سازی مسئولیت سوء رفتار هوش مصنوعی) است که توسط تراهان مطرح شده و رویکرد متفاوتی دارد. طبق این قانون، اگر یک سیستم هوش مصنوعی رفتاری را از خود نشان دهد که اگر توسط انسان انجام می‌شد، مسئولیت قانونی داشت و به شخص ثالثی آسیب برساند، توسعه‌دهنده مسئول خواهد بود، مگر اینکه خطا از سوی کاربر باشد یا شرکتی که مدل را اصلاح کرده است. دادگاه‌ها به طور خودکار فرض می‌کنند که سیستم هوش مصنوعی دارای نیاتی مشابه انسانی است که همان رفتار را انجام می‌دهد و توسعه‌دهندگان نمی‌توانند ادعا کنند که هوش مصنوعی فاقد عمد بوده است.
علاوه بر این، دعاوی خصوصی نیز در جریان است. LASST در ۲۹ سپتامبر در دادگاه عالی سانفرانسیسکو از OpenAI شکایت کرد و ادعا نمود که OpenAI قانون ضد هک کالیفرنیا را نقض کرده است. این سازمان تنها خواستار صدور دستور منع از سوی دادگاه برای جلوگیری از دسترسی غیرمجاز OpenAI و عاملان آن به سیستم‌های کامپیوتری شد و خسارتی را مطالبه نکرد. دادخواست به قانون AB 316 کالیفرنیا استناد می‌کند که بیان می‌دارد شرکت‌ها نمی‌توانند ادعا کنند که آسیب به تنهایی توسط هوش مصنوعی آن‌ها ایجاد شده است.
سخنگوی OpenAI در پاسخ به CNBC اظهار داشت که حادثه Hugging Face یک رویداد جدی بوده و شرکت اقدامات متعددی را برای رسیدگی به آن انجام داده است، اما این دعوی قضایی «کاملاً بی‌اساس» است.
تناقضات و چالش‌های پیش رو
اولین تناقض در خود کاخ سفید دیده می‌شود. در حالی که دولت از وضع قوانین جدید خودداری می‌کند، «نیروی فوق هوشمند کاخ سفید» (Super Intelligence Force) در ۹ اکتبر در بیانیه‌ای کتبی به Axios اعلام کرد که از تمام شرکت‌های هوش مصنوعی خواسته است تا فوراً حوادث مربوط به مدل‌های خود را گزارش کرده و آن‌ها را اصلاح کنند. این بیانیه تأکید می‌کند که این فرآیند «داوطلبانه نیست، بلکه یک وظیفه حیاتی امنیت ملی است». این اقدام پس از آن صورت گرفت که Anthropic گزارش داد مدلش در طول آزمایش، گزارش نادرستی از قتل به پلیس فیلادلفیا ارسال کرده و ۲۰ درخواست ویزا را در وب‌سایت وزارت امور خارجه ثبت کرده است. با این حال، در این بیانیه مشخص نشده است که عدم رعایت این دستورالعمل‌ها چه جریمه‌ای در پی خواهد داشت.
دومین نقطه ضعف، توانایی قربیان برای طرح دعوی قضایی است. کلمنت دلانگ، مدیرعامل Hugging Face، پیشتر گفته بود که این شرکت منابع لازم برای شکایت از OpenAI را ندارد و به جای آن، خواستار ارائه ۱۰۰ میلیون دلار قدرت محاسباتی از سوی OpenAI شده بود.
سومین چالش، بالا بودن آستانه گزارش‌دهی است. اگرچه مقررات هوش مصنوعی در کالیفرنیا، نیویورک و ایلینوی خواستار گزارش «حوادث امنیتی عمده» هستند، اما آستانه این حوادث در حد مرگ یا جراحت بیش از ۵۰ نفر یا خسارتی معادل ۱ میلیارد دلار است که اکثر موارد بروز مشکل توسط عاملان هوش مصنوعی به این سطح نمی‌رسد.
پاسخ به این سوال که «چه کسی پول را پرداخت می‌کند» هزینه‌های تجاری‌سازی عاملان هوش مصنوعی را تعیین خواهد کرد. اگر مسئولیت بر عهده توسعه‌دهندگان باشد، هر اشتباهی به هزینه‌های مدل افزوده خواهد شد؛ و اگر مسئولیت بر عهده شرکت‌های استفاده‌کننده باشد، این شرکت‌ها باید خودشان قضاوت کنند که تا چه حد می‌توانند به عاملان اجازه دهند تا آزادانه عمل کنند.
