تصاویر Deepfake از تیلور سویفت در شبکه های اجتماعی منتشر شده است:

مجموعه جدیدی از ویدیوها و تصاویر دیپ فیک سر و صدا ایجاد کرده است – پدیده ای دوره ای که به نظر می رسد بیشتر اتفاق می افتد، زیرا چندین لایحه متمرکز بر دیپ فیک در کنگره باقی مانده است.

این موضوع این هفته به تیتر خبرها تبدیل شد، زیرا تصاویر مستهجن جعلی که تیلور سویفت، ستاره موسیقی پاپ را نشان می‌دهند، در X (که قبلاً به نام توییتر شناخته می‌شد)، تلگرام و جاهای دیگر زیاد شد. بسیاری از پست‌ها حذف شدند، اما نه قبل از اینکه برخی از آنها میلیون‌ها بازدید داشته باشند.

حمله به تصویر معروف سوئیفت به عنوان یادآوری این موضوع است که چگونه در سال‌های اخیر ساخت دیپ فیک آسان‌تر شده است. تعدادی از برنامه‌ها می‌توانند چهره افراد را با وفاداری بالا به رسانه‌های دیگر تغییر دهند، و آخرین تکرارها نوید استفاده از هوش مصنوعی را برای تولید تصاویر و ویدیوهای قانع‌کننده‌تر می‌دهند.

دیپ فیک اغلب زنان جوان را هدف قرار می دهد

بسیاری از اپلیکیشن‌های دیپ‌فیک به‌عنوان راهی برای افراد عادی برای ساختن ویدیوها و میم‌های خنده‌دار به بازار عرضه می‌شوند. اما بسیاری از نتایج نهایی با آن زمین مطابقت ندارند. همانطور که Caroline Quirk در مجله حقوقی پرینستون در سال گذشته نوشت، “از آنجایی که این فناوری به طور گسترده در دسترس قرار گرفته است، 90 تا 95٪ از ویدیوهای دیپ فیک اکنون ویدیوهای پورنوگرافی غیرقابل توافق هستند و 90٪ از این فیلم ها زنان را هدف قرار می دهند – عمدتاً زیر سن”.

اخیراً فیلم های مستهجن عمیق علیه دانش آموزان دختر دبیرستانی در نیوجرسی و ایالت واشنگتن استفاده شده است.

به گفته پروفسور دانیل سیترون، پروفسور حقوق، در هسته آنها، چنین دیپ فیک هایی حمله به حریم خصوصی هستند.

سیترون ماه گذشته در پادکستی از دانشگاه ویرجینیا، جایی که او در مورد حریم خصوصی تدریس می‌کند و می‌نویسد، گفت: «این چهره زنان را به پورن تبدیل می‌کند، هویت‌شان را می‌دزدد، بیان جنسی را اجبار می‌کند و به آنها هویتی می‌دهد که انتخاب نکرده‌اند. آزادی بیان و حقوق مدنی در دانشکده حقوق دانشگاه.

سیترون خاطرنشان می کند که تصاویر و ویدیوهای دیپ فیک صرفاً اشکال جدیدی از دروغ هستند – چیزی که بشریت هزاران سال است با آن دست و پنجه نرم می کند. او می‌گوید مشکل این است که این دروغ‌ها به صورت ویدئویی ارائه می‌شوند که تمایل دارد مردم را در سطح احشایی تحت تأثیر قرار دهد. و در بهترین دیپ‌فیک‌ها، دروغ‌ها با فناوری پیچیده‌ای پوشانده می‌شوند که تشخیص آن بسیار سخت است.

ما شاهد آمدن چنین لحظاتی بوده ایم. در سال‌های اخیر، ویدیوهای دیپ‌فیک که «تام کروز» را در تنظیمات غیرمحتمل مختلف نشان می‌دهد، صدها میلیون بازدید در TikTok و جاهای دیگر به دست آورده است. این پروژه که توسط فیلمبردار و هنرمند جلوه‌های بصری، کریس اومه و تقلید کروز، مایلز فیشر، ایجاد شده است، در مقایسه با بسیاری از کمپین‌های دیپ‌فیک دیگر، نسبتاً بی‌نظیر است و این ویدیوها دارای برچسب واترمارکی با خواندن «#deeptomcruise» هستند که به‌خاطر وضعیت غیر رسمی‌شان سر تکان می‌دهد.

دیپ فیک چالشی رو به رشد، با مقررات کمی ایجاد می کند

خطر آسیب ناشی از دیپ فیک بسیار گسترده است، از تصاحب چهره زنان برای ساختن ویدیوهای جنسی صریح، استفاده از افراد مشهور در تبلیغات غیرمجاز، تا استفاده از تصاویر دستکاری شده در کمپین های اطلاعات نادرست سیاسی.

این خطرات سال ها پیش برجسته شدند – به ویژه در سال 2017، زمانی که محققان از آنچه آنها “شکل بصری همگام سازی لب” نامیدند برای تولید چندین ویدیوی بسیار واقعی از سخنرانی باراک اوباما، رئیس جمهور سابق، استفاده کردند.

در آن آزمایش، محققان صدای واقعی صحبت کردن اوباما را با ویدئوی دستکاری شده توسط کامپیوتر جفت کردند. اما این یک اثر عصبی بود، زیرا قدرت بالقوه ویدئویی را نشان داد که می‌توانست کلمات را در دهان یکی از قدرتمندترین افراد روی کره زمین قرار دهد.

در اینجا یک کامنت‌گذار ردیت در یک ویدیوی دیپ‌فیک در سال گذشته این وضعیت مخمصه را توضیح می‌دهد: “فکر می‌کنم همه در شرف کلاهبرداری هستند: افراد مسن که فکر می‌کنند هر چیزی را که می‌بینند واقعی است و افراد جوان‌تر که بسیاری از دیپ‌فک‌ها را دیده‌اند، هیچ چیز را باور نمی‌کنند. آنها می بینند که واقعی است.”

همانطور که سیترون، استاد حقوق UVA، ماه گذشته گفت: “من فکر می کنم قانون باید دوباره به حساب دیفرانسیل و انتگرال وارد شود، زیرا در حال حاضر “اینترنت” و من از نقل قول های هوا استفاده می کنم، درست است، اغلب به عنوان مثال در نظر گرفته می شود. غرب وحشی.”

تاکنون، شدیدترین محدودیت‌های ایالات متحده در استفاده از دیپ‌فیک‌ها نه در سطح فدرال، بلکه در ایالت‌هایی از جمله کالیفرنیا، ویرجینیا و هاوایی مشاهده شده‌اند که هرزه‌نگاری دیپ‌فیک غیرقانونی را ممنوع می‌کنند.

اما همانطور که مرکز عدالت برنان گزارش می‌دهد، این قوانین و سایر قوانین ایالتی استانداردهای متفاوتی دارند و بر حالت‌های محتوای متفاوت تمرکز دارند. این مرکز ماه گذشته گفت که در سطح فدرال، حداقل هشت لایحه به دنبال تنظیم دیپ فیک و مشابه “رسانه های مصنوعی” هستند.

علاوه بر پورن انتقام جویانه و سایر جنایات، بسیاری از قوانین و پیشنهادها با هدف تعیین محدودیت ها و الزامات ویژه برای ویدیوهای مربوط به مبارزات سیاسی و انتخابات انجام می شود. اما برخی از شرکت‌ها به تنهایی عمل می‌کنند – مانند سال گذشته، زمانی که گوگل و سپس متا اعلام کردند که اگر تبلیغات سیاسی با هوش مصنوعی ساخته می‌شوند، باید برچسب داشته باشند.

و سپس کلاهبرداری وجود دارد

در ماه گذشته، بازدیدکنندگان یوتیوب، فیس‌بوک و سایر پلتفرم‌ها تبلیغات ویدیویی را دیده‌اند که ظاهراً جنیفر آنیستون را نشان می‌دهد که یک معامله بسیار توهم‌آمیز بر روی لپ‌تاپ‌های اپل ارائه می‌دهد.

ersatz Aniston در این تبلیغ می گوید: “اگر شما این ویدئو را تماشا می کنید، بخشی از یک گروه خوش شانس 10000 نفری هستید که این شانس را دارند که Macbook Pro را تنها با 2 دلار خریداری کنند.” در این ویدیو به دروغ نوشته شده است: «من جنیفر آنیستون هستم» و از مردم می‌خواهد برای ادعای رایانه جدید خود روی پیوندی کلیک کنند.

همانطور که وب سایت Malware Tips طی یک ترفند مشابه اخیر گزارش داد، یک هدف مشترک برای چنین کلاهبرداری هایی فریب دادن افراد برای ثبت نام آنلاین برای اشتراک های گران قیمت است.

اکتبر گذشته، تام هنکس، بازیگر به مردم هشدار داد که یک هوش مصنوعی از تصویر او استفاده می‌کند، ظاهراً برای فروش آنلاین بیمه دندان‌پزشکی.

هنکس در یک پست اینستاگرامی گفت: “من کاری به آن ندارم.”

بلافاصله، صبح های CBS گیل کینگ، مجری برنامه، زنگ خطر را به دلیل ویدیویی به صدا درآورد که ادعا می‌کرد لثه‌های لاغری او را تبلیغ می‌کند.

او گفت: «لطفا گول این ویدیوهای هوش مصنوعی را نخورید.