سازنده ChatGPT OpenAI بررسی می کند که آیا کاربران می توانند “مسئولانه” پورن هوش مصنوعی بسازند:

OpenAI، نیروگاه هوش مصنوعی در پشت ChatGPT و دیگر ابزارهای پیشرو هوش مصنوعی، روز چهارشنبه فاش کرد که در حال بررسی این موضوع است که چگونه «مسئولانه» به کاربران اجازه دهد پورن تولید شده توسط هوش مصنوعی و سایر محتوای صریح تولید کنند.

این افشاگری که در یک سند گسترده با هدف جمع‌آوری بازخورد در مورد قوانین محصولاتش گنجانده شده است، با توجه به تعداد مواردی که در ماه‌های اخیر از ابزارهای پیشرفته هوش مصنوعی برای ایجاد پورن‌های غیرواقعی و انواع دیگر برهنه‌های مصنوعی استفاده می‌شود، برخی ناظران را آزار داد.

بر اساس قوانین فعلی OpenAI، محتوای جنسی صریح یا حتی تلقین کننده جنسی عمدتاً ممنوع است. اما اکنون، OpenAI نگاهی دیگر به این ممنوعیت شدید دارد.

در این سند آمده است: «ما در حال بررسی این موضوع هستیم که آیا می‌توانیم به طور مسئولانه توانایی تولید محتوای NSFW را در زمینه‌های مناسب سن فراهم کنیم یا خیر.

جوآن جانگ، مدیر مدل OpenAI که به نگارش این سند کمک کرد، در مصاحبه ای با گفت که این شرکت امیدوار است در مورد اینکه آیا متن های وابسته به عشق شهوانی و تصاویر برهنه باید همیشه در محصولات هوش مصنوعی خود ممنوع شوند، گفتگو را آغاز کند.

جانگ گفت: «ما می‌خواهیم اطمینان حاصل کنیم که مردم حداکثر کنترل را دارند تا جایی که قانون یا حقوق افراد دیگر را نقض نکند، اما فعال کردن دیپ‌فیک‌ها دور از ذهن است.» “این بدان معنا نیست که ما اکنون در تلاش برای ایجاد پورن هوش مصنوعی هستیم.”

اما همچنین به این معنی است که OpenAI ممکن است روزی به کاربران اجازه ایجاد تصاویری را بدهد که می توانند پورن تولید شده توسط هوش مصنوعی در نظر گرفته شوند.

او گفت: «بستگی به تعریف شما از پورن دارد. “تا زمانی که شامل دیپ فیک نباشد. اینها دقیقاً مکالماتی هستند که ما می خواهیم داشته باشیم.”

این بحث در بحبوحه ظهور اپلیکیشن‌های “nudify” مطرح می‌شود

در حالی که جانگ تاکید می کند که شروع بحث درباره OpenAI برای ارزیابی مجدد خط مشی NSFW خود لزوماً نشان نمی دهد که تغییرات شدید قوانین در حال انجام است، این بحث در یک لحظه پرتنش برای تکثیر تصاویر مضر هوش مصنوعی مطرح می شود.

محققان در ماه‌های اخیر به‌طور فزاینده‌ای نگران یکی از آزاردهنده‌ترین استفاده‌های فناوری پیشرفته هوش مصنوعی بوده‌اند: ایجاد به اصطلاح پورن‌های جعلی عمیق برای آزار، باج‌گیری یا شرمساری قربانیان.

در عین حال، دسته جدیدی از برنامه ها و خدمات هوش مصنوعی می توانند تصاویر افراد را “برهنه” کنند، مشکلی که به ویژه در بین نوجوانان نگران کننده شده است. مجله نیویورک تایمز او را به عنوان “شکل جدید به سرعت در حال گسترش بهره کشی و آزار جنسی همسالان در مدارس” توصیف کرده است.

در اوایل سال جاری، زمانی که برهنه‌های تقلبی تیلور سویفت تولید شده توسط هوش مصنوعی در توییتر منتشر شد، جهان گسترده‌تر پیش‌نمایش چنین فناوری را دریافت کرد. در پی این حادثه، مایکروسافت تدابیر امنیتی جدیدی را به تولیدکننده هوش مصنوعی متن به تصویر خود اضافه کرد. ، نشریه خبری فناوری 404 Media گزارش داد.

سند OpenAI که در روز چهارشنبه منتشر شد شامل نمونه ای از درخواست ChatGPT مربوط به سلامت جنسی است که می تواند به آن پاسخ دهد. اما در مثال دیگری که در آن کاربر از چت بات می‌خواهد یک متن ناقص بنویسد، این درخواست رد می‌شود. در این مثال آمده است: «داستانی مبهم درباره رابطه جنسی دو نفر در قطار برای من بنویس». ChatGPT پاسخ می دهد: «متاسفم، نمی توانم در این مورد کمکی کنم.

اما جانگ با OpenAI گفت که شاید چت بات بتواند به عنوان نوعی بیان خلاقانه به آن پاسخ دهد، و شاید این اصل باید به تصاویر و ویدیوها نیز تعمیم یابد، تا زمانی که توهین آمیز یا نقض قوانین نباشد.

او گفت: “موارد خلاقانه ای وجود دارد که در آنها محتوای مربوط به جنسیت یا برهنگی برای کاربران ما مهم است.” ما این موضوع را به گونه‌ای بررسی می‌کنیم که بتوانیم این را در زمینه‌ای متناسب با سن ارائه کنیم.»

کارشناس می‌گوید: اگر سیاست NSFW آرام شود، ممکن است ضرر بیشتر از سود باشد

تیفانی لی، استاد حقوق در دانشگاه سانفرانسیسکو که بر روی جعلیات عمیق مطالعه کرده است، گفت که باز کردن درب به روی متن و تصاویر غیرمستقیم جنسی تصمیمی سخت خواهد بود.

لی گفت: “مضرات ممکن است بیشتر از سود باشد.” این یک هدف تحسین برانگیز است، کاوش در این مورد برای استفاده های آموزشی و هنری، اما آنها باید به طور فوق العاده مراقب این موضوع باشند.

رنه دی رستا، مدیر تحقیقات رصدخانه اینترنت استنفورد، موافق است که خطرات جدی وجود دارد، اما افزود: «بهتر است که آنها پورن قانونی را با در نظر گرفتن ایمنی ارائه کنند در مقابل افرادی که آن را از مدل‌های منبع باز دریافت می‌کنند که چنین نیستند».

لی گفت که اجازه دادن به هر نوع تصویر یا پورن ویدیویی تولید شده توسط هوش مصنوعی به سرعت توسط بازیگران بد ضبط می شود و بیشترین آسیب را وارد می کند، اما حتی می توان از متن های وابسته به عشق شهوانی نیز سوء استفاده کرد.

لی گفت: «سوءاستفاده مبتنی بر متن می تواند مضر باشد، اما به اندازه یک آسیب مستقیم یا تهاجمی نیست. “شاید بتوان از آن در یک کلاهبرداری عاشقانه استفاده کرد. این می تواند یک مشکل باشد.”

جانگ از OpenAI گفت، ممکن است “موارد بی ضرر” که اکنون خط مشی OpenAI NSFW را نقض می کنند، روزی مجاز شوند، اما تصاویر و ویدیوهای جنسی غیر توافقی تولید شده توسط هوش مصنوعی یا پورن های عمیق جعلی مسدود خواهند شد، حتی اگر بازیگران مخرب تلاش کنند قوانین را دور بزند

او گفت: “اگر هدف من ایجاد پورن بود.” “پس من در جای دیگری کار خواهم کرد.”