یک سازمان تحقیقاتی از سازنده ChatGPT شکایت کرد

به گزارش پیوست، اوپن‌ای‌آی به تازگی از GPT-4، نسل جدید زبان طبیعی این شرکت رونمایی کرد و با وجود اینکه دقت و امنیت از نقاط قوت این نسل نسبت به نسل‌های قبلی به حساب می‌آید اما همچنان احتمال اشتباه و سوءاستفاده از این ابزار وجود دارد. در شکایت روز پنجشنبه CAIDP از مقامات FTC خواسته شده است تکنولوژی هوش مصنوعی مولد اوپن‌ای‌آی و به ویژه آخرین مدل زبان طبیعی این شرکت GPT-4 را تحت بررسی قرار دهند.

این مرکز اعلام کرده است: «کمیسیون بازرگانی فدرال تصریح می‌کند استفاده از هوش مصنوعی باید شفاف، قابل توضیح، منصفانه و از لحاظ تجربی سالم و در عین حال مسئولیت‌پذیر باشد. محصول GPT-4 از شرکت اوپن‌ای‌آی هیچ کدام از این پیش‌نیاز‌ها را برآورده نمی‌کند. زمانش رسیده که FTC وارد عمل شود.»

این سازمان خیریه در ادامه می‌گوید: «نظارت و ارزیابی مستقل محصولات تجاری هوش مصنوعی در ایالات متحده ضرورت دارد. CAIDP خواستار آن است که FTC شرکت اوپن‌ای‌آی را تحت بررسی قرار دهد، از عرضه تجاری بیشتر GPT-4 جلوگیری و از وجود محدودیت‌های لازم برای محافظت از کاربران، کسب‌وکارها و بازار تجاری اطمینان حاصل کند.»

این گروه در شکایت خود به کاستی‌ها و خطراتی که در گزارشی به نام GPT-4 System Card در مورد توانمندی‌های فنی این مدل آمده است اشاره می‌کند.

گفتنی است شرکت‌ اوپن‌ای‌آی به کاستی‌های GPT-4 معترف است و به احتمال سوگیری‌های ناعادلانه، تولید متون خطرناک و انتشار اطلاعات اشتباهی که ممکن است باعث گمراهی کاربران شود اذعان دارد تا حدی که سم آلتمن، مدیرعامل اوپن‌ای‌آی، می‌گوید کمی از تاثیر این تکنولوژی بر جامعه هراسان است.

سیستم‌های بک‌اند مدیریت‌کننده مدل‌های اوپن‌ای‌آی نیز امنیت کافی ندارند و همین موضوع باعث درز اطلاعات شخصی و پرداخت برخی افراد شده است.

بر اساس بند ۵ از قانون مذکور FTC: «فعالیت‌ها و اعمال غیرمنصفانه یا فریبنده در بازرگانی یا تاثیرگذار بر آن» ممنوع است. CAIDP مدعی است اوپن‌ای‌آی با عرضه محصولی «تبعیض‌آمیز، فریبنده و خطرناک برای حریم خصوصی و امنیت جامعه» جامعه دیجیتالی را گمراه کرده و این در حالی است که شرکت از خطرات احتمالی اطلاع دارد. در این شکایت از شرکت اوپن‌ای‌آی به دلیل شفافیت ناکافی در خصوص مدل و داده‌های آموزشی نیز انتقاد شده است.

«CAIDP از کمیسیون می‌خواهد تا تفحص در مورد اوپن‌ای‌آی را آغاز و تایید کند که عرضه GPT-4 ناقض بند ۵ قانون FTC، دستورا‌لعمل‌های مشخص FTC درباره استفاده و تبلیغ محصول هوش مصنوعی توسط کسب‌وکارها و همچنین هنجار‌های نوپای حاکمیت بر هوش مصنوعی که دولت ایالات متحده رسماً از آن استقبال کرده و دستورالعمل‌های بین‌المللی برای هوش مصنوعی است که از سوی متخصصان و دانشمندان برتر پیشنهاد شده است.»

این گروه از FTC درخواست کرده است تا جلوی استفاده تجاری بیشتر از محصولات اوپن‌ای‌آی بر مبنای GPT را بگیرد، ارزیابی مستقلی روی تکنولوژی این محصول انجام دهد و پیش از عرضه مجدد از همخوانی آن با قوانین FTC اطمینان حاصل کند. با وجود اینکه این نهاد ناظر بر بخش بازرگانی و تجارت به تازگی طی بیانیه‌ای در مورد داغ شدن بیش از حد جریان هوش مصنوعی و احتمال سوءاستفاده از این محصولات هشدار داده است اما جلوگیری از عرضه GPT-4 و رویارویی تمام‌عیار با اوپن‌ای‌آی دور از ذهن به نظر می‌رسد.

منبع: Theregister