آی‌تی‌من- تصاویر جعلی ستاره پاپ آمریکایی در این هفته به طور گسترده در رسانه‌های اجتماعی توزیع شده و میلیون ها نفر آن را دیده‌اند. یکی از تصاویر سوئیفت که قبلا در برنامه تلگرام پخش شده بود، قبل از حذف 47 میلیون بار دیده شد.

شرکت ایکس در بیانیه‌ای گفت: تیم‌های ما فعالانه تمام تصاویر شناسایی‌شده را حذف می‌کنند و اقدامات مناسبی را علیه حساب‌های مسوول ارسال آن‌ها انجام می‌دهند.

ایوت دی کلارک، نماینده دموکرات کنگره در نیویورک، در ایکس نوشت: آنچه برای تیلور سوئیفت اتفاق افتاده چیز جدیدی نیست. سال‌هاست که زنان بدو رضایت هدف دیپ‌فیک‌ها بوده‌اند و با پیشرفت‌های هوش مصنوعی، ایجاد دیپ‌فیک آسان‌تر و ارزان‌تر شده است.
وی افزود: این مساله‌ای است که هر دو حزب و حتی طرفداران سوئیفت (سوئیفتی‌ها) باید برای حل آن همکاری کنند.

به گزارش گاردین، برخی از ایالت‌های ایالات متحده قوانین خاص خود را علیه دیپ فیک دارند، اما فشار فزاینده‌ای برای تغییر در قوانین فدرال وجود دارد.

در ماه مه 2023، جوزف مورل، نماینده دموکرات کنگره، قانون پیشنهادی جلوگیری از جعل عمیق تصاویر خصوصی را معرفی کرد که به اشتراک گذاری پورنوگرافی جعل عمیق بدون رضایت غیرقانونی می‌کند. مورل گفت که این تصاویر و ویدئوها می‌توانند آسیب‌های عاطفی، مالی و اعتباری جبران ناپذیری ایجاد کنند و متأسفانه، زنان به طور خاص تحت تاثیر قرار می‌گیرند.

او در توییتی تصاویر جعل شده از سوئیفت را «استثمار جنسی» توصیف کرد.

تام کین جونیور، نماینده جمهوریخواه کنگره نیز گفت: واضح است که فناوری هوش مصنوعی سریع‌تر از اقدامات حفاظتی لازم در حال پیشرفت است. فرقی ندارد قربانی تیلور سوئیفت باشد یا هر جوانی در سراسر کشور؛ ما باید تدابیر امنیتی برای مبارزه با این روند هشدار دهنده را انجام دهیم. او لایحه مورل را حمایت مالی کرده و قانون برچسب‌گذاری هوش مصنوعی خود را معرفی کرده که مستلزم آن است که تمام محتوای تولید شده توسط هوش مصنوعی (از جمله چت‌ربات‌های بی‌ضررتر که در تنظیمات خدمات مشتری استفاده می‌شوند) به این عنوان برچسب‌گذاری شوند.

سوئیفت علناً در مورد این تصاویر صحبت نکرده است.

ویدیو یا صدای دیپ‌فیک متقاعدکننده نیز برای تقلید از برخی از شخصیت‌های برجسته، به‌ویژه سیاستمدارانی مانند دونالد ترامپ و جو بایدن و هنرمندانی مانند دریک و ویکند استفاده شده است. در اکتبر 2023، تام هنکس به فالوورهای اینستاگرام خود گفت که مراقب یک تبلیغ جعلی دندانپزشکی که ویدیوی او را جعل کرده بود، باشند و فریب آن را نخورند.

اما این فناوری عمدتاً زنان را هدف قرار داده و آنها را مواجه با استثماری جنس می‌کند. مطالعه‌ای در سال 2019 توسط آزمایشگاه‌های DeepTrace نشان می‌دهد که 96 درصد از محتوای ویدیویی جعل عمیق، محتوای مستهجن بدون رضایت مربوط به زنان است.

این مشکل از سال 2019 تا کنون بسیار تشدید شده است. هرزه نگاری جعلی، که در آن از نرم افزار ویرایش عکس برای قرار دادن چهره یک فرد در یک تصویر مستهجن استفاده می‌شود، یک مشکل قدیمی است. اما به لطف پیچیدگی هوش مصنوعی، مرز‌های جدیدی گشوده شده که می‌تواند برای تولید تصاویر کاملا جدید و بسیار قانع کننده، از جمله با استفاده از دستورات متنی ساده، استفاده شود.

دولت بریتانیا نیز در دسامبر 2022، در اصلاحیه‌ای به لایحه ایمنی آنلاین، هر گونه تصویر صریح یا جنسی گرفته شده بدون رضایت شخص، از جمله عکس‌های به اصطلاح «دان بلوز» را غیرقانونی اعلام کرد.


 
 

ITMen