چت‌بات محبوب اوپن‌ای‌آی به نام «دیوید مایر» حساسیت دارد؛ لیست ممنوعه‌ای در کار است؟

به گزارش پیوست به نقل از تک‌کرانچ، با درز این خبر و مطلع شدن تعداد زیادی از کاربران،‌ بسیاری سعی کردند تا چت‌بات اوپن‌ای‌آی را برای پاسخ به سوالی با استفاده از نام دیوید مایر فریب دهند اما هیچ راهکاری به پاسخ مطلوب کاربران منتهی نشد. هرگونه تلاشی برای نام بردن از دیوید مایر باعث قفل شدن چت‌جی‌پی‌تی یا حتی توقف آن در میانه پیام می‌شود.

اما خیلی زود مشخص شد که این موضوع تنها محدود به نام دیوید مایر نیست.

کاربران دریافتند که نام‌هایی مثل برایان هود، جانتان ترلی، دیوید فابر و چند نام دیگر نیز مشکل مشابهی را برای چت‌جی‌پی‌تی رقم می‌زنند.

اما اینها چه کسانی هستند و چرا ChatGPT تا این اندازه به آنها حساسیت دارد؟ اوپن‌ای‌آی هنوز به درخواست‌های اظهارنظر در این باره پاسخی نداده است اما تک‌کرانچ پاسخی برای این سوال ارائه کرده است.

برخی از این نام‌ها ممکن است مربوط به چند نفر باشند اما روابطی که کاربران ChatGPT کشف کرده‌اند نشان می‌دهد این افراد چهره‌های شناخته شده یا نیمه شناخته شده‌ای هستند که نمی‌خواهند اطلاعات «فراموش شده» آنها در موتورهای جستجو یا مدل‌های هوش مصنوعی پدیدار شود.

برای مثال برایان هود اگر همان فردی باشد که کاربران شناسایی کرده‌اند یک شهردار استرالیایی است که سال گذشته ChatGPT را به ارائه اطلاعات نادرست درمورد سابقه قضایی خود متهم کرد.

اما با وجود مذاکره وکلای او با اوپن‌ای‌آی، هیچ شکایتی در این باره مطرح نشد. او در مصاحبه با روزنامه سیدنی مورنینگ هرالد، گفت: «محتوای توهین آمیز حذف شده است و آنها نسخه ۴ را به عنوان جایگزین نسخه ۳.۵ منتشر کردند.»

دیگر نام شناخته شده این لیست هم دیوید فابر، روزنامه‌نگار شناخته شده CNBC است. جانتان تورلی یک وکیل و گزارشگر فاکس نیوز است.

البته که این نام‌ها همگی در یک حوزه شغلی نیستند اما ارتباط کمی بین آنها وجود دارد. تمامی این افراد تا حدی شناخته شده هستند و ممکن است به دلیلی از اوپن‌ای‌آی خواسته باشند که دسترسی به نام آنها را محدود کند.

اما دیوید مایر نه وکیل است، نه روزنامه‌نگار و نه شهردار، تنها فرد مرتبط با این نام پروفسور دیوید مایر، استاد نمایشنامه و تاریخ و متخصص ارتباط بین دوره اخیر ویکتوریا و سینما است. مایر در تابستان سال ۲۰۲۳ در ۹۴ سالگی از دنیا رفت اما سال‌ها است که آکادمی بریتیش امریکن با یک جدال حقوق و مشکل در جهان آنلاین روبرو بود که نام او را با یکی از مجرمان تحت تعقیب مرتبط می‌کرد تا حدی که او در برخی موارد امکان مسافرت نداشت.

پس از آنجایی که اوپن‌ای‌آی هنوز پاسخی به درخواست‌های اظهارنظر در این باره نداده است می‌توان نتیجه گرفت که احتمالا این چت‌بات لیستی از نام‌ها را دریافت کرده است که با آنها به طور ویژه رفتار می‌کند. این موضوع ممکن است مربوط به نگرانی‌های قانونی، امنیتی، حریم خصوصی یا دیگر موضوعات باشد و این نام‌ها احتمالا قوانین خاصی را پیرامون خود دارند. برای مثال ChatGPT ممکن است در صورت وجود این نام‌ها در پاسخ یک پیام، پاسخ دیگری ارائه کند.

قوانین مشابه بسیاری در این باره وجود دارد و تمام پرامپت‌ها پیش از پاسخ از یک فرایند پردازش عبور می‌کنند. با این حال مقررات پردازش پس از پرامپت، به جز در موارد خاصی مثل «عدم پیش‌بینی نتیجه انتخابات»، به صورت عمومی اعلام نشده‌اند.

لیست نام‌های محدود اوپن‌ای‌آی احتمالا به طور مداوم بروزرسانی می‌شوند و دستور‌العمل‌های خاص همراه با این نام‌ها ممکن است باعث توقف چت‌بات شود.