کره جنوبی: ممنوعیت تبلیغات با استفاده از هوش مصنوعی برای معرفی محصولات تقلبی پزشکی و دارویی
تهیه و تنظیم: [نام خبرنگار]
سئول – از اواخر ماه نوامبر، کره جنوبی تبلیغات محصولات پزشکی و دارویی که توسط هوش مصنوعی (AI) برای معرفی محصولات تقلبی پزشکی و دارویی ساخته شده‌اند را ممنوع خواهد کرد. با این حال، مقامات مسئول اذعان دارند که تشخیص کامل تصاویر تولید شده توسط هوش مصنوعی دشوار است و بیش از ۷۰ درصد تبلیغات مواد غذایی که امسال کشف شده‌اند، با چشم غیرمسلح قضاوت شده‌اند.
افزایش چشمگیر تبلیغات غیرقانونی با هوش مصنوعی
از ژانویه تا ژوئیه سال جاری، کره جنوبی ۱۶۶ مورد تبلیغات غیرقانونی که با هوش مصنوعی ساخته شده یا مشکوک به ساخت با هوش مصنوعی بوده‌اند را کشف کرده است که این رقم از ۹۳ مورد کل سال گذشته فراتر رفته است. سازمان غذا و داروی کره (MFDS) که مسئول نظارت بر این تبلیغات است، اعتراف کرده است که فاقد فناوری لازم برای تشخیص اینکه آیا افراد حاضر در تبلیغات توسط هوش مصنوعی ساخته شده‌اند یا خیر، می‌باشد.
گستره وسیع تبلیغات متخلف
بر اساس گزارشی انحصاری از روزنامه کیونگهیانگ شینمون در ۴ اکتبر، این ۱۶۶ مورد شامل طیف وسیعی از محصولات بوده است: ۸۳ مورد مربوط به مواد غذایی عمومی، ۳۰ مورد لوازم آرایشی، ۲۷ مورد مواد غذایی عملکردی سلامت (دسته بندی مواد غذایی بهداشتی قانونی در کره)، ۲۱ مورد محصولات شبه‌دارویی (مانند خمیردندان و ماسک که اثرات ملایم‌تری نسبت به داروها دارند) و ۵ مورد تجهیزات پزشکی.
روش‌های متداول تقلب
روش‌های متداول شامل ادعای اثرگذاری درمانی یا جعل هویت محصولات است. به عنوان مثال، یک متخصص پوست در بیمارستان تخصصی گانگنام که توسط هوش مصنوعی ساخته شده بود، تضمین می‌کرد که می‌تواند آکنه دوران بلوغ را درمان کند. از ۳۰ مورد لوازم آرایشی، ۲۵ مورد به گونه‌ای طراحی شده بودند که مصرف‌کنندگان را به اشتباه بیندازند که گویی دارو هستند. همچنین از ۲۱ مورد محصولات شبه‌دارویی، ۱۵ مورد محصولات صنعتی معمولی را به عنوان محصولات شبه‌دارویی جا زده بودند. ۲۰ مورد از تبلیغات لوازم آرایشی و ۱۸ مورد از محصولات شبه‌دارویی در یوتیوب کشف شده‌اند.
انگیزه سازندگان تبلیغات تقلبی
دلیل استفاده از پزشکان تقلبی توسط شرکت‌ها این است که قوانین فعلی کره جنوبی پزشکان و داروسازان را از تضمین یا توصیه مواد غذایی منع می‌کند. بنابراین، شرکت‌ها شخصیت‌های مجازی غیرواقعی را به جای پزشکان واقعی ایجاد می‌کنند. در یکی از پرونده‌های اعلام شده توسط سازمان غذا و داروی کره در ماه ژوئن، مردی میانسال که خود را رئیس بیمارستان جراحی پلاستیک معرفی می‌کرد، توسط هوش مصنوعی ساخته شده بود. محصول مورد نظر در واقع یک ماده غذایی فرآوری شده معمولی بود که در ۹ ماه، ۶۵۰ هزار واحد به فروش رسانده و ۸.۱ میلیارد وون درآمد کسب کرده بود. این شرکت به دلیل نقض احتمالی قانون برچسب‌گذاری و تبلیغات مواد غذایی، به دادستانی ارجاع داده شد.
دشواری تشخیص برای مصرف‌کنندگان و ناظران
مصرف‌کنندگان قادر به تشخیص این تقلبات نیستند و ناظران نیز با چالش مشابهی روبرو هستند. خانم “آ” که قصد کاهش وزن داشت، پس از تماشای یک ویدیوی کوتاه در شبکه‌های اجتماعی که در آن زنی تجربه کاهش وزن خود را به اشتراک می‌گذاشت، محصولی را خریداری کرد. او تصور می‌کرد که فرد مورد نظر یک اینفلوئنسر واقعی است، در حالی که در واقع یک شخصیت مجازی ساخته شده توسط هوش مصنوعی بود. او گفت که حرکات و لحن طبیعی فرد باعث شده بود که او را باور کند.
محدودیت‌های فنی و نظارتی
سازمان غذا و داروی کره فاقد فناوری جداگانه‌ای برای تشخیص اینکه آیا تبلیغات توسط هوش مصنوعی ساخته شده‌اند یا خیر، می‌باشد. یکی از مقامات مربوطه اظهار داشت: “از آنجایی که این کار توسط انسان‌ها انجام می‌شود، تشخیص کامل تبلیغات دقیق ساخته شده توسط هوش مصنوعی غیرممکن است.” در حال حاضر دو روش اصلی برای شناسایی وجود دارد: اول، برچسب “تولید شده توسط هوش مصنوعی” که توسط تبلیغ‌کننده یا وب‌سایت به صورت داوطلبانه اضافه می‌شود و دوم، بررسی چشمی توسط ناظران.
اتکا به قضاوت چشمی
در مورد مواد غذایی عمومی که بیشترین تعداد را به خود اختصاص داده‌اند، از ۸۳ مورد، ۶۱ مورد (۷۳.۵ درصد) فاقد برچسب تولید شده توسط هوش مصنوعی بودند و توسط ناظران با چشم غیرمسلح به عنوان مشکوک به تولید با هوش مصنوعی طبقه‌بندی شدند. تنها ۲۲ مورد دارای برچسب بودند. این بدان معناست که کمتر از ۳۰ درصد به صورت داوطلبانه برچسب‌گذاری شده‌اند. این آمار حتی یک محدودیت دیگر نیز دارد: تبلیغاتی که برچسب ندارند و با چشم غیرمسلح نیز قابل تشخیص نیستند، در این آمار گنجانده نمی‌شوند.
ابزار نظارتی “AI Cops” ناکارآمد در تشخیص هوش مصنوعی
ابزار نظارتی “AI Cops” که از نوامبر ۲۰۲۵ توسط سازمان غذا و داروی کره فعال خواهد شد، قادر به رفع این مشکل نخواهد بود. این ابزار برای خواندن متن و تصاویر تبلیغات و شناسایی عبارات غیرقانونی طراحی شده است و قابلیت تشخیص اینکه آیا تبلیغ توسط هوش مصنوعی ساخته شده است را ندارد. نام آن “AI” است، اما وظیفه اصلی آن یافتن کلمات کلیدی است.
اصلاحات قانونی و جریمه‌های جدید
در ۲۳ آوریل، اصلاحات قوانین برچسب‌گذاری مواد غذایی، داروسازی و لوازم آرایشی که تبلیغات با استفاده از پزشکان و داروسازان تقلبی ساخته شده توسط هوش مصنوعی را ممنوع می‌کند، در مجلس ملی تصویب شد. از ۱ ژوئن، کمیسیون تجارت عادلانه نیز الزام کرده است که تبلیغات با استفاده از شخصیت‌های مجازی ساخته شده توسط هوش مصنوعی باید به وضوح به عنوان شخصیت مجازی برچسب‌گذاری شوند. در ۷ اوت، سازمان غذا و داروی کره پیش‌نویس اصلاح مقررات اجرایی را منتشر کرد: برای تبلیغات مواد غذایی که با هوش مصنوعی تولید شده و باعث می‌شود مصرف‌کنندگان تصور کنند که با یک پزشک، داروساز یا استاد دانشگاه متخصص روبرو هستند، اولین تخلف منجر به تعلیق فعالیت به مدت ۱۵ روز و سومین تخلف منجر به تعلیق فعالیت تا ۲ ماه خواهد شد.
عدم تناسب جریمه‌ها با سودآوری
در یک سو، سودآوری ۸.۱ میلیارد وونی یک شرکت در ۹ ماه و در سوی دیگر، جریمه ۱۵ روزه تعلیق فعالیت برای اولین تخلف در پیش‌نویس. با قرار دادن این دو رقم در کنار هم، فاصله بین مقیاس کسب و کار و اقدامات اداری به وضوح مشخص می‌شود. علاوه بر این، برای اعمال جریمه، ابتدا باید تشخیص داده شود که فرد حاضر در تصویر واقعی نیست.
قانون پایه هوش مصنوعی و ابهامات آن
قانون پایه هوش مصنوعی کره جنوبی در ۲۲ ژانویه اجرایی شد و الزام می‌کند که تصاویر، ویدئوها و صداهای تولید شده توسط هوش مصنوعی مولد که به صورت عمومی منتشر می‌شوند، باید به عنوان تولیدات هوش مصنوعی برچسب‌گذاری شوند. با این حال، مسئولیت اصلی بر عهده شرکت‌هایی است که مستقیماً محصولات و خدمات هوش مصنوعی را به کاربران ارائه می‌دهند، نه کاربرانی که از هوش مصنوعی به عنوان ابزاری برای تولید محتوا استفاده می‌کنند. بر این اساس، تبلیغ‌کنندگانی که از هوش مصنوعی برای ساخت تبلیغات استفاده می‌کنند، تحت این قانون الزام به برچسب‌گذاری ندارند.
تاخیر در تصویب قوانین تکمیلی
قوانینی که الزام می‌کنند افراد نیز باید تولیدات خود را که با هوش مصنوعی ساخته شده‌اند، برچسب‌گذاری کنند و وب‌سایت‌ها مسئولیت نگهداری و مدیریت را بر عهده داشته باشند، ارائه شده‌اند، اما تا اواسط ژوئیه، به دلیل تعطیلی مجلس، بررسی آن‌ها بارها به تعویق افتاده است. پلتفرم‌هایی مانند یوتیوب و پورتال ورودی کره جنوبی Naver تنها توصیه‌هایی برای برچسب‌گذاری بر اساس مقررات داخلی خود ارائه داده‌اند و اجرای جامع و راستی‌آزمایی دشوار است.
راهکارهای پیشنهادی برای آینده
با توجه به اینکه تصاویر و صداهای تولید شده توسط هوش مصنوعی در آینده دقیق‌تر و پیچیده‌تر خواهند شد، روش فعلی بررسی دستی تبلیغات توسط ناظران محدودیت‌های خود را دارد. برخی کارشناسان روش‌های کارآمدتری را پیشنهاد می‌کنند، از جمله “اتصال به اطلاعات برچسب‌گذاری و منبع هوش مصنوعی وب‌سایت‌های مختلف برای اولویت‌بندی و فیلتر کردن تبلیغات پرخطر.”
[بخش‌های زیر به عنوان مطالب مرتبط در نظر گرفته شده‌اند و در ترجمه اصلی خبر گنجانده نشده‌اند.]
- یوتیوب خط قرمز کشید: سه نوع محتوای “اصیل جعلی با هوش مصنوعی” در آینده از کسب درآمد محروم خواهند شد.
- واترمارک Claude به تازگی اضافه شده است! ابزار حذف آن در سه روز به ۹۰۰۰ ستاره رسید، هیچ‌کس نمی‌تواند اثربخشی آن را تأیید کند.
- حتی خود فرد نیز نمی‌تواند ثابت کند که هوش مصنوعی نیست، کارشناسان تشخیص هویت پیشنهاد می‌کنند: با دوستان و خانواده یک رمز مخفی تعیین کنید.
- جنجال در کره جنوبی: از ماه ژوئیه، تصاویر آپلود شده ابتدا از طریق مقایسه با هوش مصنوعی عبور می‌کنند، کاربران فریاد می‌زنند “حکومت نظامی اینترنتی”، مقامات ادعا می‌کنند که این سانسور پیشگیرانه نیست.
- صدا را در ۳ ثانیه کپی می‌کند، FBI افزایش کلاهبرداری‌های هوش مصنوعی را تأیید کرد: مسئولیت با سازمان‌ها است نه مادربزرگ‌ها.
