۱۳ مورد از معایب ChatGPT
پیش از به‌کارگیری ChatGPT در استراتژی بازاریابی محتوایی خود، حفره‌هایش را بشناسید
این روزها به‌طور فزاینده‌ای شاهد تغییرات و رویکردهای جدیدی برای ساده‌سازی فرایند تولید محتوا هستیم. OpenAI سازندۀ ChatGPT محبوب و جنجالی، با معرفی راه‌حل‌های متعددی برای بهبود فرایند تولید محتوا، اثر قابل توجه و قابل مشاهده‌ای بر بازاریابی دیجیتال گذاشته است.
ChatGPT نوعی ابزار پردازش زبان طبیعی مبتنی بر GPT-3 است که به کاربران امکان می‌دهد مکالمات انسان‌مانندی با یک ربات چت هوش مصنوعی (AI) داشته باشند. اگرچه چت جی‌پی‌تی از زمان پیدایش خود روزبه‌روز محبوب‌تر می‌شود و شیوه‌ای عالی برای تعامل با مخاطبان است، اما در این ابزار جدید هوش مصنوعی نیز حفره‌هایی وجود دارد. بنابراین، پیش از به‌کارگیری آن در استراتژی بازاریابی محتوایی خود، معایب ChatGPT را در نظر بگیرید. این مطلب از وی‌پدیا مهم‌ترین معایبChatGPT را فهرست می‌کند.
ChatGPT (چت جی‌پی‌تی) چیست؟
ChatGPT نوعی ربات چت مبتنی بر مدل زبانی بزرگ (LLM) است که براساس نسخۀ به‌روزشدۀ GPT-3 (GPT-3.5) تنظیم شده است. بدین معنا که شما می‌توانید یک سؤال بپرسید (اعلان) و چت جی‌پی‌تی یک متن برای آن می‌نویسد که طیفی از اشعار هجو تا مقالات علمی را شامل می‌شود.
ChatGPT برای تولید متن، به درک اعلان (و پاسخ) نیازی ندارد. درعوض، اعلان زمینه‌ای به چت‌بات می‌دهد که در آن از احتمال استفاده می‌کند تا ببیند کدام کلمات به بهترین وجه ردیف می‌شوند و جملات را تشکیل می‌دهند. بدین ترتیب، متن منحصربه‌فرد جدیدی تولید می‌کند و برخلاف موتورهای جست‌وجوی معمولی (گوگل و…) منابع موجود در اینترنت را نشان نمی‌دهد.
چت جی‌پی‌تی چه توانایی‌هایی دارد؟
قابلیت‌های چت جی‌پی‌تی را می‌توان تقریباً در ۳ دسته جای داد:
- می‌توانید یک سؤال بپرسید و ChatGPT به آن پاسخ می‌دهد. این کار شبیه دستوردادن به گوگل است، با این تفاوت که گوگل منابعی را به شما معرفی می‌کند و شما باید اطلاعات را از آن منابع استخراج کنید. چت جی‌پی‌تی کارآمدتر است و یک پاسخ مکتوب منحصربه‌فرد ایجاد می‌کند. البته با این نقطه‌ضعف که بررسی درستی پاسخ و اینکه بر چه مبنایی استوار است آسان نیست. کاربران می‌توانند انواع سؤالات را از این ابزار هوش مصنوعی بپرسند تا در ازای آن پاسخ‌های ساده و بی‌دردسر دریافت کنند. به‌طور مثال، می‌توانید از این ابزار به‌عنوان یک دانشنامه استفاده کنید و از او بپرسید: «قوانین نیوتن چیست؟» یا «یک شعر از شکسپیر بنویس». علاوه‌بر‌این، ممکن است از این ربات بخواهید که یک برنامۀ کامپیوتری طراحی کند و تمام ترکیبات مختلف برای مرتب‌کردن حروف یک کلمه را نشان دهد.
- می‌توانید از ChatGPT بخواهید که یک قطعه متن تولید کند؛ برای مثال، طرح کلی یا تأملی درمورد یک موضوع خاص. این درخواست می‌تواند طول متن و سبک نوشتن مدنظر شما را شامل شود. همچنین می‌توانید درخواست ذکر منابع را داشته باشید. در پاسخ ممکن است منابع ساختگی به شما ارائه شود، بنابراین می‌توانید مشخص کنید که فقط «منابع واقعی» را می‌خواهید. در این صورت، رباتِ چتْ منابع واقعی را ارائه خواهد کرد، اما توجه داشته باشید که این منابع همیشه دقیق نیستند.
- می‌توانید تکه‌هایی از متن را وارد کنید و از ربات چت بخواهید خلاصه‌سازی، بازنویسی یا ترجمه کند و یا اشتباهات املایی را تصحیح کند، دربارۀ آن بازخورد بدهد و… . چت جی‌پی‌تی به‌خوبی می‌تواند پاسخ‌های مدنظر ما را پیش‌بینی کند. بنابراین، حتی اگر سؤالات و پاسخ‌های تولیدشده را به‌طور کامل درک نکند، همچنان می‌تواند یک ساختار منطقی ایجاد کند.
علاوه بر پاسخدهی به پرس‌وجوهای انسانی و تولید محتوای متنی، از ChatGPT می‌توان برای انجام کارهای زیر استفاده کرد:
- خلق تصاویر هنری؛
- کدنویسی و رفع اشکال کدنویسی‌ها؛
- مرتب‌سازی، مدیریت و سازمان‌دهی داده‌های ساختارنیافته؛
- توضیح و آموزش.
همچنین می‌توانید کد موردنظر خود را وارد کنید و از چت جی‌پی‌تی بپرسید که این کد چه کار می‌کند.
۱۳ مورد از معایب ChatGPT
همان‌طور که گفتیم، علاوه بر ویژگی‌های شگفت‌انگیز، این ابزار جدید هوش مصنوعی ضعف‌ها و حفره‌هایی نیز دارد. در ادامه، به ۱۳ مورد از مهم‌ترین معایب ChatGPT می‌پردازیم که از نتایج چندین پژوهش، استخراج شده است.
۱) ChatGPT ارجاعات نادرست می‌دهد
چت جی‌پی‌تی برای پاسخ‌دادن به یک سؤال یا جمع‌آوری تکه‌های متن براساس منابع متعدد، از تئوری احتمال استفاده می‌کند. بنابراین، شما هرگز نمی‌توانید تمام منابعی را که برای خروجی استفاده کرده است شناسایی کنید. بدین ترتیب، پاسخ‌ها و محتوای ChatGPT غیرشفاف، تأیید آن مشکل، و استناد صحیح و کامل به منابع (و رعایت حق نسخه‌برداری) غیرممکن می‌شود.
اگر از چت جی‌پی‌تی بخواهید منابع مورد استفادۀ خود را ارائه دهد، اغلب چند منبع غیرموجود را جعل می‌کند. شما می‌توانید منابع «واقعی» و «بررسی‌شده» را از او بخواهید. در این صورت، معمولاً منابع موجود و واقعی را ارائه می‌دهد که البته حاوی تمام داده‌هایی نیستند که پاسخ را شکل داده‌اند. بدیهی است که این مورد، از اصلی‌ترین معایب ChatGPT است و در جامعۀ علمی اشکالی اساسی محسوب می‌شود.
۲) ChatGPT ممکن است پاسخ اشتباه بدهد
اگر به محتوای ارائه‌شده توسط ChatGPT دقت کنیم، می‌بینیم که گاه اطلاعات/پاسخ‌های دقیقی ارائه نکرده است. چت جی‌پی‌تی قادر به درک سؤالات منحصربه‌فرد و انطباق خود با آن نیست و درنتیجه، متنی که ارائه می‌دهد نادرست و نامربوط خواهد بود. بنابراین، با وجود این مورد به‌عنوان یکی از مهم‌ترین معایب ChatGPT، استفاده یا تکیه بر این مدل هوش مصنوعی می‌تواند گمراه‌کننده و حتی خطرناک باشد.
۳) چت جی‌پی‌تی بسیار رسمی است
خروجی ChatGPT دارای نوعی سوگیری است که آن را از پاسخ‌گویی طبیعی باز می‌دارد. پاسخ‌های چت جی‌پی‌تی فاقد طعنه، تشبیه، استعاره و طنز است، که محتوای تولیدشده را بسیار رسمی می‌کند. این در حالی است که انسان‌ها معمولاً به شیوه‌ای غیررسمی‌تر و با استفاده از زبان روزمره و عامیانه به پرسش‌ها پاسخ می‌دهند. محققان می‌نویسند:
«…ChatGPT دوست دارد از حروف ربط و قیدها برای انتقال یک جریان منطقی فکری استفاده کند؛ مانند «به‌طور کلی»، «از سوی دیگر»، «اول، … ، دوم، … ، سرانجام» و… .
۴) ChatGPT از زبان ماشین پیروی می‌کند
محققان برای شناسایی محتوای تولیدشده توسط ماشین، ویژگی‌هایی را شناسایی کرده‌اند که به زبانْ حالت غیرطبیعی می‌دهد. فقدان اصطلاحات و عبارت‌ها در یک قطعه محتوا، یکی از این ویژگی‌هاست و این سیگنال را می‌فرستد که محتوا ممکن است توسط ماشین تولید شده باشد. این وضعیت می‌تواند بخشی از یک الگوریتم تشخیص قرار بگیرد.
هوش مصنوعی در استفاده از اصطلاحات و عبارت‌های پیچیدۀ موجود در زبان، ناتوان است. این ویژگی خاص در محتوای تولیدشده توسط ماشین، یکی از مهم‌ترین معایب ChatGPT است.
۵) داده‌های ChatGPT قدیمی است
نسخۀ فعلی ChatGPT (ژانویۀ ۲۰۲۳) برمبنای داده‌های تا سپتامبر ۲۰۲۱ آموزش داده شده است. بنابراین، این ربات چت نمی‌تواند داده‌های اخیر را تفسیر کند. با توجه به تحولات سریع چت جی‌پی‌تی، احتمالاً این محدودیت کوتاه‌مدت خواهد بود و از فهرست معایب ChatGPT حذف خواهد شد.
۶) چت جی‌پی‌تی هنوز در حال آموزش و تمرین است
به خاطر داشته باشید که ChatGPT هنوز در مرحلۀ آموزش و بهبود است. OpenAI پیشنهاد می‌کند که تمام محتوای تولیدشده توسط چت جی‌پی‌تی توسط یک انسان ارزیابی شود؛ مخصوصاً در حوزه‌های مهم و پرخطری مانند پزشکی و کدگذاری. البته بررسی انسانی محتوای تولیدشده توسط ماشین، همیشه کافی نیست؛ زیرا محتوای ChatGPT طوری طراحی شده که درست به نظر برسد، حتی اگر درست نباشد. بنابراین، مهم است که بازبینان در موضوع موردنظر متخصص باشند تا بتوانند محتوای صحیح و نادرست را از یکدیگر تشخیص دهند.
همچنین، انسان‌ها باید از محدودیت‌های سیستم آگاه باشند و به اطلاعات مورد نیاز برای تأیید خروجی‌ها دسترسی داشته باشند (به‌طور مثال، اگر برنامه یادداشت‌ها را خلاصه می‌کند، فرد بررسی‌کننده باید به یادداشت‌های اصلی دسترسی راحتی داشته باشد).
۷) ChatGPT متوجه معانی تلویحی و ضمنی نمی‌شود
ازآنجایی‌که ChatGPT همه‌چیز را بیش از حد تحت‌اللفظی در نظر می‌گیرد، گاهی‌اوقات متوجه معنای تلویحی و ضمنی برخی پرسش‌ها نمی‌شود. بنابراین، پاسخ‌هایش از منظور فرد پرسش‌‌گر دور است. درواقع، اشارات غیرمستقیم برای هوش مصنوعی قابل درک نیست و سؤال‌های مستقیم و صریح را می‌طلبد.
۸) ChatGPT فقط خلاصه می‌کند و بینش منحصربه‌فردی از موضوع ارائه نمی‌دهد
ChatGPT فقط یک موضوع/مسئله را توصیف، یا به خلاصه‌کردن آن اکتفا می‌کند، اما دیدگاه جدیدی درمورد آن موضوع ارائه نمی‌دهد. این در حالی است که انسان‌ها در پاسخدهی، علاوه بر ارائۀ اطلاعات، از ادراکات ذهنی و تجربیات شخصی نیز استفاده می‌کنند. بینش، ویژگی بارز یک مقالۀ خوب است و این چیزی است که چت جی‌پی‌تی در آن ضعف دارد. این مورد یکی از مهم‌ترین معایب ChatGPT برای استفاده در مقالات پژوهشی و دانشگاهی است.
۹) چت جی‌پی‌تی فاقد بیان و بروز عاطفی است
اگرچه خروجی چت جی‌پی‌تی از هنر تقلید می‌کند، اما فاقد ویژگی‌های واقعی بیان هنری است.
بیان هنری، بیان خلاقانۀ ایده‌ها یا احساسات است. ChatGPT قادر به ایجاد محتوایی نیست که در سطح انسانی با مردم ارتباط عاطفی برقرار کند. درنهایت، ChatGPT می‌تواند تکراری و کسل‌کننده باشد و احتمال اینکه کسی بخواهد مکالمه را به‌مدت طولانی ادامه دهد، کم است. آدم‌ها ترجیح می‌دهند با کسی حرف بزنند که بتوانند با او ارتباط عاطفی برقرار کنند.
۱۰) ChatGPT گرفتار دروغ و تعصب است
یکی دیگر از مهم‌ترین معایب ChatGPT، در داده‌های آموزشی مورد استفاده برای توسعۀ مدل است. سوگیری‌هایی در داده‌ها وجود دارد، و پاسخ‌های ChatGPT به‌احتمال زیاد منعکس‌کنندۀ این سوگیری‌ها است. OpenAI، شرکت سازندۀ چت جی‌پی‌تی، برای استخراج دروغ‌های آشکار و سوگیری‌های محرز، فیلترهایی را پیاده‌سازی می‌کند و بر نظارت انسانی تأکید دارد؛ بااینحال، این محدودیت ذاتی ChatGPT از بین نمی‌رود.
۱۱) ChatGPT بیش از حد پرحرف است
براساس یک مقالۀ مطالعاتی منتشرشده در ژانویۀ ۲۰۲۳، روندهایی درChatGPT وجود دارد که آن را برای کاربردهای حیاتی مانند پزشکی که نیاز به پاسخ‌های فوری دارد، نامناسب می‌کند. طبق این پژوهش، چت جی‌پی‌تی برای پاسخ‌دادن به سؤال‌های پزشکی ناکارآمد است؛ زیرا مردم به دنبال پاسخ‌های مستقیم و فوری هستند، اما هوش مصنوعی نمی‌تواند چنین پاسخ‌هایی ارائه دهد.
سوگیری ChatGPT در ارائۀ پاسخ‌های طولانی، چیزی است که باید هنگام استفاده از خروجی‌ها به آن توجه داشت؛ زیرا ممکن است با موقعیت‌هایی روبه‌رو شوید که پاسخ‌های کوتاه‌تر و مستقیم‌تر را بطلبد.
۱۲) گفت‌وگوهای چت جی‌پی‌تی، توهم‌آمیز و هذیان‌آلود است
در پلتفرم ChatGPT، کاربران می‌توانند درمورد موضوعات مختلف با یکدیگر چت کنند. بااینحال، برخی از کاربران گزارش داده‌اند که مکالمات آن‌ها از کنترل خارج شده و گرفتار گفت‌وگوهای توهم‌آمیز شده‌اند، و این شاید یکی از جالب‌ترین معایب ChatGPT باشد.
یکی از کاربران ادعا کرد که با عیسی مسیح مکالمه‌ای داشته‌اند و او گفته است که جهان در سال ۲۰۲۰ به پایان خواهد رسید. کاربر دیگری گفت که آن‌ها با آدولف هیتلر گفت‌وگو کرده‌اند و او گفته که هولوکاست واقعی است و در سال ۱۹۴۵ رخ داده است.
از طرفی، ChatGPT تمایل به دروغگویی دارد. این مقاله گزارش می‌دهد:
«در پاسخدهی به سؤالی که به دانش حرفه‌ای در زمینه‌ای خاص نیاز دارد، چت جی‌پی‌تی ممکن است حقایقی را جعل کند… به‌طور مثال، احتمال دارد که در سؤالات حقوقی، برخی مقررات قانونی غیرموجود را برای پاسخ به سؤال ابداع کند.
… علاوه‌بر‌این، هنگامی که یک کاربر سؤالی را مطرح می‌کند که پاسخی ندارد، ChatGPT احتمالاً برای ارائۀ پاسخ، حقایقی را جعل می‌کند… .»
۱۳) ChatGPT واگرا نیست
چت جی‌پی‌تی واگرا نیست. این بدان معناست که ترجیح می‌دهد روی بیرونی‌ترین لایۀ سؤال تمرکز کند و به معنای پنهان در لایه‌های زیرین سؤال کاری ندارد. بنابراین، همۀ مکالمات و تعاملات ChatGPT دربارۀ یک موضوع خاص، مشابه‌اند و نمی‌توانند مسیرهای متفاوتی را طی کنند. این امر می‌تواند به دسته‌ها یا گروه‌هایی از مردم منجر شود که فقط دربارۀ موارد مشابه صحبت می‌کنند و نظرات یکسانی دارند.
و در آخر…
واضح است که در حال حاضر مشکلات زیادی در چت جی‌پی‌تی وجود دارد که آن را برای تولید محتوای بدون نظارت نامناسب می‌کند. دقیق‌نبودن، تعصبات، غیرطبیعی‌بودن محتوا، ارجاعات نادرست، نبودن بینش‌های واقعی در محتوای تولیدشده و… ازجمله مهم‌ترین معایب ChatGPT است که استفاده از آن را چالش‌برانگیز می‌کند. بنابراین، باید با محتوای ChatGPT با احتیاط زیاد برخورد کنیم و از نقش نظارت انسانی در بررسی کیفیت و صحت آن غافل نشویم.