چت بات های هوش مصنوعی مانند ChatGPT چگونه کار می‌کنند؟

در این مطلب بررسی می‌کنیم که چت بات های هوش مصنوعی چگونه کار می‌کنند و پاسخ سوالات را ارائه می‌دهند.

چت‌بات‌های هوش مصنوعی چگونه آموزش می‌بینند؟

ChatGPT و دیگر چت بات های هوش مصنوعی می‌توانند با جملاتی روان و از نظر دستوری صحبت کنند که حتی ممکن است ریتم طبیعی داشته باشند. اما متخصصان می‌گویند نباید دچار این اشتباه شوید که این صحبت درست دارای فکر، احساس یا حتی قصد و منظور است.

یک چت‌بات در اصل چیزی بیش از نوعی ماشین نیست. این ماشین از محاسبات ریاضی و تجزیه و تحلیل آماری برای فراخوانی کلمات و جملات مناسب استفاده می‌کند. ربات‌هایی مانند ChatGPT بر روی مقادیر زیادی متن آموزش می‌بینند که به آن‌ها امکان می‌دهد تا با کاربران انسانی به روشی طبیعی تعامل داشته باشند. هم‌چنین آموزش‌های زیادی توسط انسان‌ها بر روی این چت بات ها انجام می‌شود که به اصلاح نقص‌ها کمک می‌کند.

OpenAI، شرکت سازنده ChatGPT، در وبسایت خود می‌گوید که ما مدل‌هایمان را بر اساس اطلاعات حاصل از طیف وسیعی از منابع، از جمله کاربران و مطالب مجاز آموزش می‌دهیم.

چت بات های هوش مصنوعی چگونه کار می‌کنند؟

چت بات ‌های هوش مصنوعی مانند ChatGPT OpenAI مبتنی بر مدل‌های زبانی بزرگ یا LLM (large language models) هستند. LLMها بر روی حجم‌های متن به‌دست‌آمده از نوشته‌های منتشر شده و اطلاعات آنلاین (که عموماً توسط انسان‌ها تولید می‌شوند) آموزش می‌بینند.

کارشناسان می‌گویند این سیستم‌ها بر روی مجموعه‌ای از کلمات آموزش می‌بینند و اهمیت کلمات را در این مجموعه‌ها یاد می‌گیرند. بنابراین، دانشی که از آن صحبت می‌کنیم نه تنها مدل‌های زبانی بزرگ را بر اساس اطلاعات واقعی آموزش می‌دهد، بلکه به الگوهای گفتار و نحوه استفاده و گروه‌بندی کلمات هم کمک می‌کند.

ربات های چت مبتنی بر هوش مصنوعی بیشتر توسط انسان‌ها آموزش می‌بینند که چگونه پاسخ‌های مناسب ارائه دهند و پیام‌های دارای اثر منفی را محدود کنند.

یکی از مربیان داده‌های هوش مصنوعی که در اینویزیبل تکنولوژیز (Invisible Technologies) – شرکتی که برای آموزش ChatGPT قرارداد دارد- کار می‌کند، قبلاً به Insider گفته بود که آن‌ها وظیفه دارند نادرستی‌های واقعی را شناسایی کنند. منظور از نادرستی شامل اشتباهات املایی و گرامری است. هم‌چنین آزار و اذیت احتمالی برای کاربر باید هنگام آزمایش پاسخ‎های چت بات مشخص و اصلاح شود.

از زبان یک متخصص

کریستین هاموند (Kristian Hammond)، استاد علوم کامپیوتر در دانشگاه نورث وسترن (Northwestern University) می‌گوید: «می‌توانید به چت بات بگویید: این یک عبارت سمی است، این جمله بیش از حد سیاسی است، این عبارت یک عقیده است و نباید به عنوان پاسخ ارائه شود» و آن را طوری تنظیم کنید که چنین عباراتی ایجاد نشود. هاموند هم‌چنین مدیر مرکز ارتقای ایمنی هوش ماشینی دانشگاه است.

هنگامی که از چت بات های هوش مصنوعی می‌خواهید به یک سوال واقعی پاسخ دهند، فرآیند یادآوری می‌تواند ساده باشد: مجموعه‌ای از الگوریتم‌ها را برای انتخاب محتمل‌ترین جمله را برای پاسخگویی به کار می‌گیرد. بهترین پاسخ‌های ممکن را در عرض میلی‌ثانیه انتخاب می‌کند و از میان آن انتخاب‌های برتر، یکی را به‌طور تصادفی ارائه می‌کند. به همین دلیل است که اگر یک سوال را به طور مکرر بپرسید، ممکن است پاسخ‌های کمی متفاوت دریافت کنید.

چت‌ بات‌ها هم‌چنین می‌توانند سؤالات را به چند بخش تقسیم کنند و به هر بخش به ترتیب پاسخ دهند. به صورتی که انگار در حال فکر کردن به سؤال هستند.

هاموند می‌گوید: «اگر به عنوان مثال از ربات بخواهید که رئیس‌جمهوری ایالات متحده را نام ببرد که نام اصلی بازیگر مرد فیلم «کاملوت» (Camelot) را دارد. ممکن است ربات ابتدا پاسخ دهد که بازیگر مورد نظر ریچارد هریس (Richard Harris) است. سپس از این پاسخ برای ارائه ریچارد نیکسون (Richard Nixon) به عنوان پاسخ سوال اصلی شما استفاده خواهد کرد.»

چت بات های هوش مصنوعی بی‌نقص نیستند و ممکن است مسائل را اشتباه بگیرند

زمانی که از چت بات های هوش مصنوعی سؤالاتی پرسیده می‌شود که پاسخی برای آن‌ها ندارند، با بیشترین دردسر مواجه می‌شوند. آن‌ها به سادگی متوجه نمی‌شوند از چه چیزهایی اطلاع ندارند. بنابراین به جای امتناع از پاسخ دادن، بر اساس آن‌چه می‌دانند، استنباط می‌کنند و حدس می‌زنند.

مشکل این است که ربات های چت به شما نمی‌گویند که در حال حدس زدن هستند. آن‌ها ممکن است به سادگی اطلاعات را به عنوان واقعیت ارائه دهند. هنگامی که یک چت بات اطلاعاتی را اختراع می‌کند که به عنوان واقعیت به کاربر ارائه دهد، به آن «توهم» می‌گویند.

وجود این احتمال که ChatGPT یک توهم را به عنوان پاسخ ارائه دهد موجب شده که برخی از کارشناسان فناوری به کاربران چت بات هشدارهایی برای مراقبت در زمان کار با آن‌ها ارائه دهند. در مطالعه اخیر گروه مشاوره بوستون (Boston Consulting Group)، محققان دریافتند که افرادی که از ChatGPT در محل کار استفاده می‌کنند، اگر خروجی‌های ربات چت را از نظر خطا بررسی نکنند، در واقع ممکن است عملکرد بدتری را در برخی وظایف کاری‌شان از خود ارائه دهند.

طبق نظر ویلیام وانگ (William Wang)، دانشیار تدریس علوم کامپیوتر در دانشگاه کالیفرنیا (University of California)، سانتا باربارا (Santa Barbara): «این چیزی است که ما آن را دانش فراتر یا فراشناخت می‌نامیم.» او که هم‌چنین یکی از مدیران گروه پردازش زبان طبیعی دانشگاه است. وانگ هم‌چنین می‌گوید که «مدل واقعاً مجهولات شناخته شده را به خوبی درک نمی‌کند.» بنابراین لازم است دانش فراتر انسانی بر عملکرد چت بات ها نظارت کند.

آیا چت‌بات‌ها می‌توانند احساسات داشته باشند؟

چت بات‌ها نمی‌توانند احساسات داشته باشند. آن‌ها الگوریتم‌های پیچیده‌ای هستند که می‌توانند روابط بین کلمات و عبارات را درک کنند. آن‌ها می‌توانند پاسخ‌هایی تولید کنند که شبیه به پاسخ‌های انسان باشد، اما آن‌ها قادر به درک یا تجربه احساسات نیستند.

آیا چت بات‌ها می‌توانند خطرناک باشند؟

چت بات‌ها می‌توانند خطرناک باشند، اگر به درستی طراحی یا پیاده‌سازی نشوند. به عنوان مثال، چت بات‌هایی که برای ارائه اطلاعات پزشکی استفاده می‌شوند، ممکن است اطلاعات نادرستی ارائه دهند که می‌تواند به سلامتی افراد آسیب برساند.

همچنین، چت بات‌هایی که برای اهداف تبلیغاتی استفاده می‌شوند، ممکن است از اطلاعات کاربران برای هدف قرار دادن آن‌ها با تبلیغات نامناسب استفاده کنند.

چت بات‌های هوش مصنوعی چگونه زبان را درک می‌کنند؟

چت بات‌های هوش مصنوعی از مدل‌های زبانی برای درک زبان طبیعی استفاده می‌کنند. مدل‌های زبانی الگوریتم‌های پیچیده‌ای هستند که می‌توانند روابط بین کلمات و عبارات را درک کنند. آن‌ها با استفاده از یک مجموعه داده بزرگ از متن و کد آموزش می‌بینند.

برای درک زبان طبیعی، چت بات‌ها از یک فرآیند به نام تجزیه و تحلیل دستور استفاده می‌کنند. تجزیه و تحلیل دستور فرآیندی است که در آن جمله‌ای به اجزای سازنده خود تجزیه می‌شود. این اجزا شامل کلمات، عبارات و ساختار‌های دستوری هستند.

پس از تجزیه و تحلیل ورودی کاربر، چت بات‌ها از یک فرآیند به نام درک معنا استفاده می‌کنند تا معنای جمله را درک کنند. درک معنا فرآیندی است که در آن معنای کلمات و عبارات در جمله درک می‌شود.

چت‌بات‌های هوش مصنوعی چگونه پاسخ تولید می‌کنند؟

چت‌بات‌های هوش مصنوعی برای تولید پاسخ از یک فرآیند به نام تولید استفاده می‌کنند. تولید فرآیندی است که در آن یک پاسخ متنی تولید می‌شود. برای تولید پاسخ، چت بات‌ها از یک فرآیند به نام بازیابی استفاده می‌کنند. بازیابی فرآیندی است که در آن چت بات از مجموعه داده خود یک پاسخ مناسب را پیدا می‌کند.

اگر چت بات نتواند پاسخ مناسبی را در مجموعه داده خود پیدا کند، از یک فرآیند به نام تولید خلاقانه استفاده می‌کند. تولید خلاقانه فرآیندی است که در آن چت بات یک پاسخ جدید و منحصر به فرد تولید می‌کند.

چه مدل‌های زبانی برای چت‌بات‌ها استفاده می‌شوند؟

محبوب‌ترین مدل‌های زبانی برای چت بات‌ها، مدل‌های Transformer هستند. مدل‌های Transformer از یک معماری شبکه عصبی استفاده می‌کنند که می‌تواند روابط طولانی مدت بین کلمات را درک کند. این امر آن‌ها را برای درک زبان طبیعی پیچیده، مانند مکالمات و داستان‌ها، مناسب می‌کند. مدل‌های زبانی دیگری که برای چت بات‌ها استفاده می‌شوند عبارتند از:

• مدل‌های RNN (شبکه‌های عصبی بازگشتی)
• مدل‌های LSTM (شبکه‌های عصبی طولانی مدت کوتاه مدت)
• مدل‌های BERT (یادگیری عمیق زبانی با توجه به متن و کد)

چت‌بات‌ها چگونه یاد می‌گیرند؟

چت بات‌های هوش مصنوعی با استفاده از فرآیندی به نام یادگیری ماشینی یاد می‌گیرند. یادگیری ماشینی فرآیندی است که در آن الگوریتم‌ها می‌توانند با استفاده از داده‌های آموزشی یاد بگیرند.

چت بات‌های هوش مصنوعی با آموزش روی مجموعه داده‌های بزرگی از متن و کد یاد می‌گیرند. این مجموعه داده‌ها شامل مکالمات، داستان‌ها، مقالات و کد است.

با آموزش روی این مجموعه داده‌ها، چت بات‌ها می‌توانند روابط بین کلمات و عبارات را یاد بگیرند. این امر آن‌ها را برای درک زبان طبیعی پیچیده و تولید پاسخ‌های معنادار و مرتبط مناسب می‌کند.

چه چالش‌هایی در راه توسعه چت بات‌های هوش مصنوعی وجود دارد؟

چت بات‌های هوش مصنوعی با چالش‌ها و محدودیت‌هایی مواجه هستند. یکی از چالش‌ها این است که آن‌ها می‌توانند به راحتی گمراه شوند. به عنوان مثال، اگر کاربر یک سؤال مبهم یا دشوار بپرسد، چت بات ممکن است پاسخ نادرستی ارائه دهد.

چالش دیگر این است که چت بات‌ها می‌توانند تبعیض‌آمیز باشند. به عنوان مثال، اگر چت بات روی مجموعه داده‌ای از متن آموزش دیده باشد که عمدتاً توسط مردان نوشته شده است، ممکن است پاسخ‌هایی ارائه دهد که تبعیض‌آمیز علیه زنان باشد.

منبع: businessinsider