اوپن‌ای‌آی محدودیت‌های تصویرسازی با هوش مصنوعی را کاهش داد

به گزارش پیوست به نقل از تک‌کرانچ، اوپن‌ای‌آی در گذشته چنین درخواست‌هایی را به دلیل ماهیت بحث‌برانگیز و احتمال آسیب‌رسانی رد می‌کرد اما اکنون، این شرکت رویکرد خود را نسبت به نظارت محتوایی تعدیل کرده است. بر اساس پستی که روز پنجشنبه جوآن جانگ، مسئول هدایت رفتار مدل‌های اوپن‌ای‌آی، منتشر کرد، این شرکت سیاست‌های خود از به گونه‌ای تغییر داده تا به جای رد کامل درخواست‌های حساس، با رویکردی دقیق‌تری بر جلوگیری از آسیب‌های دنیای واقعی تمرکز کند. جانگ می‌گوید اوپن‌ای‌آی با این تغییر در تلاش است در برابر پیچیدگی‌های موضوعات حساس تواضع نشان دهد. طبق گفته شرکت، اوپن‌ای‌آی هنوز درک کاملی از بسیاری از موضوعات ندارد و در تلاش است تا در مسیر یادگیری و تطبیق مداوم حرکت کند.

سانسور‌زدایی از ChatGPT

این تغییرات بخشی از برنامه کلی اوپن‌ای‌آی برای رفع سانسور از ChatGPT است. این شرکت در ماه فوریه اعلام کرد که روش آموزش مدل‌های هوش مصنوعی خود را به گونه‌ای تغییر می‌دهد که ChatGPT بتواند به طیف گسترده‌تری از درخواست‌ها پاسخ دهد، دیدگاه‌های متنوع‌تری ارائه کند و تعداد موضوعاتی که از کار با آن‌ها امتناع می‌ورزد را کاهش دهد. براساس سیاست جدید شرکت، ChatGPT می‌تواند تصاویر چهره‌های عمومی نظیر دونالد ترامپ و ایلان ماسک را تولید و ویرایش کند، درحالی‌که در گذشته با چنین درخواست‌هایی به طور کامل مخالفت می‌کرد. جانگ می‌گوید اوپن‌ای‌آی به دنبال نقش آفرینی در جایگاه قاضی و قضاوت نیست و نمی‌خواهد تنها تصمیم‌گیرنده موجود برای چارچوب‌های سخت‌گیرانه تولید تصاویر باشد. با این حال شرکت گزینه‌ای را در اختیار افراد قرار داده است که از طریق آن می‌توانند از این قابلیت انصراف دهند تا این مدل دیگر امکان تولید تصویر آنها را نداشته باشد.

علاوه بر این، در سیاست‌های جدید رویکرد اوپن‌ای‌آی نسبت به نماد‌های نفرت‌پراکنی نیز تغییر کرده است. افراد از این پس می‌توانند نمادهای نفرت‌پراکنی از جمله «صلیب شکسته» را برای اهداف آموزشی یا بی‌طرفانه تولید کنند. با این حال این آزادی مشروط به آن است که محتوای تولیدشده آشکارا در جهت حمایت یا تبلیغ ایدئولوژی‌های افراطی نباشد. علاوه بر این، این شرکت معیارهای تعریف «محتوای توهین‌آمیز» را نیز تغییر داده است. جانگ می‌گوید ChatGPT در گذشته از انجام درخواست‌هایی مانند «چشمان این شخص را آسیایی‌تر کن» یا «این فرد را چاق‌تر کن» خودداری می‌کرد، اما کاربران از این پس می‌توانند از این مدل برای انجام چنین اصلاحاتی استفاده کنند.

همچنین، چت‌بات محبوب اوپن‌ای‌آی از این پس می‌تواند سبک‌های استودیوهای معروف، نظیر پیکسار و استودیو گیبلی را تقلید کند، اما همچنان از تقلید مستقیم سبک هنرمندان زنده خودداری می‌کند. با این حال چنین تغییری ممکن است به بحث‌های تازه درمورد استفاده منصفانه از آثار دارای حق نشر برای آموزشی هوش مصنوعی منجر شود، موضوعی که پیش از این باعث اعتراض گسترده هنرمندان شده بود.

با این حال، اوپن‌ای‌آی همچنان محدودیت‌هایی را برای محتوای حساس در نظر دارد. بر اساس مقاله‌ای که همراه با انتشار GPT-4o منتشر شد، این مدل جدید به نسبت DALL-E 3 که برای نسخه پیشین ChatGPT استفاده می‌شد، محافظت‌های بیشتری برای تولید تصاویر کودکان دارد. این تغییر نشان را می‌توان نشان از رویکرد محتاطانه اوپن‌ای‌آی نسبت به دسته‌ از محتوا با وجود آزادی بیشتر در زمینه‌های دیگر دانست.

تغییر سیاست‌های اوپن‌ای‌آی: یک واکنش سیاسی یا اقدامی صادقانه برای کاهش محدودیت‌ها؟

با این حال به طور کلی تغییرات اخیر اوپن‌ای‌آی پس از سال‌ها انتقاد محافظه‌کاران از سیاست‌های «سانسور» را می‌توان اقدامی برای کاهش انتقادات از سوی طرفداران دولت حاکم بر ایالات متحده دانست که ابزارهای ساخته بسیاری از شرکت‌های سیلیکون‌ولی از جمله ChatGPT را ووک توصیف کرده‌اند. شرکت گوگل نیز در گذشته به دلیل مشکلاتی که در تولید تصاویر با هوش مصنوعی جمنای به وجود آمد در همین زمینه با انتقادات شدید روبه‌رو شد. هوش مصنوعی گوگل هنگام دریافت درخواست‌هایی برای تصویرسازی از «پدران بنیان‌گذار ایالات متحده» یا «سربازان آلمانی در جنگ جهانی دوم»، تصاویری با تنوع نژادی ارائه می‌کرد که به وضوح با واقعیت تاریخی در تضاد بودند و همین مساله جنجال بزرگی را برای شرکت به دنبال داشت. اکنون با تغییر رویکرد اوپن‌ای‌آی، به نظر این نبرد فرهنگی به نقطه اوج خود نزدیک می‌شود.

تغییرات اخیر را در حالی شاهد هستیم که جیم جردن، نماینده جمهوری‌خواه کنگره آمریکا، در اوایل ماه مارس سوالاتی را برای اوپن‌ای‌آی، گوگل و سایر شرکت‌های فناوری ارسال و از احتمال تبانی آن‌ها با دولت بایدن برای سانسور محتوای تولیدشده توسط هوش مصنوعی ابراز نگرانی کرد.

با این حال اوپن‌ای‌آی در بیانیه‌ای به تک‌کرانچ با رد ارتباط این دو مساله، تاکید کرد که سیاست‌های محتوایی منشا سیاسی ندارند و این تغییرات نشانگر باور دیرینه شرکت به افزایش کنترل کاربران بر تجربه کاربری است. همچنین، این شرکت معتقد است که پیشرفت‌های اخیر این امکان را فراهم کرده تا موضوعات حساس را با دقت بیشتری و بدون رد کامل درخواست‌ها کنترل کنند.

صرف‌نظر از انگیزه‌های پشت این تغییرات، زمان‌بندی اوپن‌ای‌آی برای اصلاح سیاست‌های تعدیل محتوا از اهمیت بالایی برخوردار است و این تحولات در دورانی انجام می‌گیرد که دونالد ترامپ پس از آغاز به کار دولت جدیدش بسیاری از محدودیت‌های بخش هوش مصنوعی را کاهش داده است. سایر شرکت‌های بزرگ فناوری از جمله متا و شبکه اجتماعی ایکس نیز سیاست‌های مشابهی را در دستور کار خود قرار داده‌اند و به نظر در دوران ریاست جمهوری ترامپ، موضوعات بحث‌برانگیز در پلتفرم‌های شبکه اجتماعی بیشتر پذیرفته می‌شوند.

گفتنی است که در حال حاضر مولد تصویر جدید اوپن‌ای‌آی تنها به وایرال شدن تولید تصاویر به سبک استودیو ژاپنی گیبلی منتهی شده است و شاید برای اظهارنظر درمورد تاثیرات گسترده تغییر سیاست‌های این شرکت زود باشد. تغییرات اخیر ChatGPT شاید با استقبال دولت ترامپ همراه شود، اما عواقب کاهش محدودیت‌ها و مجاز دانستن بسیاری از موضوعات حساس تنها با گذشت زمان مشخص می‌شود.