۶ ابزار برای تشخیص متن‌های ChatGPT
وقتی هوش مصنوعی، محتوای هوش مصنوعی را تشخیص نمی‌دهد
گوگل رسماً اعلام کرد که محتواهای تولیدشده توسط هوش مصنوعی منافاتی با دستورالعمل‌های او ندارند و مثل همیشه ملاک اصلی سئو تجربۀ کاربر خواهد بود. حالا دیگر تا کسی از نحوۀ تشخیص متن‌های ChatGPT می‌پرسد، بلافاصله باید جواب پس بدهد که مشکل آن چیست؟ مگر نه این است که مقالات عالی سئوشده می‌نویسد؟ شاه می‌بخشد شاه‌قلی نمی‌بخشد؟ انگار که تا قبل از این فقط ترس از رتبه‌بندی مانع از استفاده از این ابزار بوده است.
در این مطلب از وی‌پدیا اول کمی به خودمان دل می‌دهیم که تردیدهایمان بجا هستند و تقاضای به‌حقی است که بدانیم کدام محتوا کار هوش مصنوعی است. سپس ابزارهایی را معرفی می‌کنیم که در تشخیص متن‌های ChatGPT به ما کمک می‌کنند.
چرا تشخیص متن‌های ChatGPT ضروری است؟
یکی از دغدغه‌های همیشگی ما دربارۀ اینترنت این بوده که پر از اطلاعات درست‌وغلط است؛ بنابراین باید همیشه به‌نوعی از اعتبار آن‌ها اطمینان حاصل کنیم؛ ببینیم محتوایی که پیش روی ماست در چه رسانه‌ای، با استفاده از چه منابعی و به قلم چه کسانی تولید شده است. مطلب «چگونه اعتبار محتوا را بسنجیم» به‌طور کامل نحوۀ صحت‌سنجی محتوا را بررسی می‌کند.
منبع دیتای ChatGPT هم همین اینترنت است؛ بنابراین هرچقدر هم که مقاله‌هایش عالی باشند، بازهم ممکن است حاوی اطلاعات غلط باشند؛ اشتباهاتی که گاهی فقط توسط متخصصان قابل شناسایی خواهند بود. از طرفی این هوش مصنوعی با داده‌هایی که تا سال ۲۰۲۲ در دست بوده‌اند آموزش داده شده است و این یعنی خروجی آن به‌روز نیست.
حال تصور کنید مطلبی در حوزۀ پزشکی و بهداشت با آن بنویسیم که از قضا رنک بالایی هم دریافت کند و وایرال شود. اگر توصیه‌های اشتباهی در آن باشد و به سلامت مردم آسیب برساند، چه کسی مسئول آن خواهد بود؟ از این حوزه مثال زدیم چون حساسیت بیشتری در آن وجود دارد. در باقی زمینه‌ها هم اخبار غلط و فیک باعث گمراهی و تصمیم‌گیری‌های نادرست افراد خواهند شد که شاید در کوتاه‌مدت متوجه نشویم، اما حتماً در طولانی‌مدت اثر خود را نشان میدهد.
در جواب این دغدغه گفته می‌شود که محتوای تولیدشده می‌تواند مجدداً توسط نیروی انسانی چک شود؛ به این ترتیب از صحت اطلاعات، به‌روزبودن و سازگاری آن با فرهنگ و اصول جامعۀ بومی خود مطمئن خواهیم شد. بله، درست است؛ هرچند این هم به‌نوعی دوباره‌کاری به حساب می‌آید و گاهی لازم است متن از اول نوشته شود. در این بین، نگرانی مهم دیگر مربوط به صنعت آموزش است. اگر افراد برای انجام پروژه‌ها و مقاله‌های خود بدون هیچ تلاشی فقط از این ابزار استفاده کنند، آیا کیفیت آموزش کاهش پیدا نمی‌کند؟ آیا ذهن‌ها برای یادگیری، تفکر و خلق ایده تنبل نمی‌شوند؟
همۀ این‌ها دغدغۀ شرکت Open Al، خالق چت جی‌پی‌تی، هم بوده و هست. بارها از این کمپانی خواسته شد که سیستم هوشمند DALL-E 2 خود را در اختیار همه بگذارد و آن‌ها هر بار در جواب از خطرات آن می‌گفتند؛ چون به‌خوبی می‌دانستند این تکنولوژی راه را برای سوء‌استفاده، جعل و نقض قانون کپی‌رایت باز می‌کند.
این مجموعه در کنار تولید ابزارهای هوش مصنوعی همواره به دنبال راهکار برای کاهش اثرات سوء آن هم بوده است. به همین دلیل، برای تشخیص متن‌های ChatGPT خود دست‌به‌کار شد و ابزار AI Text Classifier را معرفی کرد که محتوای هوش مصنوعی را از محتوای انسانی تمیز میدهد. در ادامه علاوه بر توضیح بیشتر دربارۀ آن، ابزارهای تشخیص‌دهندۀ دیگری را هم معرفی خواهیم کرد.
۶ ابزار برای تشخیص متن‌های ChatGPT
ابزارهای زیادی ادعای تشخیص متن‌های ChatGPT را دارند، اما سطح توانمندی و دقت آن‌ها با هم متفاوت است. مجموعۀ ژورنال موتور جست‌وجو (Search Engine Journal) عملکرد برخی از آن‌ها را تست کرد. این تیم برای عناوین زیر توسط هوش مصنوعی مقاله‌هایی تولید کرد:
- سئوی محلی (Local SEO) چیست؟ چرا مهم است؟ بهترین شیوه‌های سئوی محلی؛
- حملۀ ناپلئون بناپارت به مصر؛
- تفاوت اصلی آیفون و سامسونگ گلکسی چیست؟
سپس ابزارهای زیر را به کار گرفت تا ببیند تا چه حد در تشخیص تولیدکنندۀ آن درست عمل می‌کنند:
۱) Writer.COM
این پلتفرم در تشخیص اولین مطلب شکست خورد و این محتوای چت جی‌پی‌تی را تا ۹۴% تولیدشده توسط انسان اعلام کرد. در دومی بسیار خوب عمل کرد و آن را محتوای هوش مصنوعی دانست. اما در مطلب سوم بازهم مانند مقالۀ سئوی محلی به‌اشتباه آن را حاصل دست انسان تشخیص داد. البته این ابزار مقاله‌های تولیدشده توسط انسان را ۱۰۰% درست تمیز میدهد.
۲) Copyleaks
این سیستم در آزمایش موفق شد و به‌درستی اعلام کرد که هر سه اثر توسط هوش مصنوعی نوشته شده‌اند.
۳) Originality.ai
اورجینالیتی هم عملکرد خوبی از خود نشان داد و هر سه را نوشته‌های چت جی‌پی‌تی گزارش کرد. علاوه‌بر‌این، محتواهای انسانی را هم ۱۰۰% درست تمیز داد و این نشان میدهد که از دقت بالایی برخوردار است.
۴) Contentatscale.ai
پنل Contentatscale.ai هر سه مطلب را خروجی هوش مصنوعی گزارش کرد. البته در محتوای سئوی محلی ۲۱% احتمال انسانی‌بودن را هم در نظر گرفت.
۵) GPTZero
این ابزار غیرتجاری توسط ادوارد تیان (Edward Tian) و به‌طور خاص برای شناسایی مقالات تولیدشده توسط چت جی‌پی‌تی ساخته شده است. این سیستم هم تشخیص خوبی داشت. مزیت بزرگ آن نسبت به ابزارهای دیگر این است که تجزیه‌وتحلیل‌های دقیق‌تر و جزئی‌تری ارائه میدهد. برای مثال، متن را جمله‌به‌جمله بررسی و احتمال دست‌داشتن هوش مصنوعی در هرکدام از آن‌ها را هم مشخص می‌کند.
۶) OpenAI’s AI Text Classifier
آیا خود هوش مصنوعی می‌تواند محتواهای خلق‌شده توسط خودش را تشخیص دهد یا نه؟ همان‌طور که گفته شد، AI Text Classifier یک ابزار هوش مصنوعی است که توسط کمپانی Open AI ساخته شده است. این ابزار در بررسی مطالب اول و سوم متوجه شد که پای AI وسط است. اما در کمال تعجب مقالۀ دوم را تولید انسان دانست و در جواب اعلام کرد که بعید می‌داند کار هوش مصنوعی باشد. البته این ابزار هنوز در حال تکمیل است و احتمالاً در آینده قدرت تمایز بیشتری به دست آورد.
مسابقه‌ای که هیچ‌وقت پایانی ندارد
مسلماً ابزارهای تشخیص متن‌های ChatGPT روزبه‌روز قوی‌تر و کامل‌تر می‌شوند. آن‌ها به این سمت می‌روند که حتی اگر بخش‌هایی از متن را تغییر دادیم و کلماتی را جایگزین کردیم، بازهم مصنوعی‌بودن آن را بفهمند. اما از آن طرف، تولیدکننده‌های هوش مصنوعی هم دست از رشد و تکمیل قابلیت‌های خود برنمی‌دارند.
گوگل در رقابت با چت جی‌پی‌تی از Bard رونمایی کرد و Open AI هم خبر از یک به‌روزرسانی بزرگ به نام GPT-4 تا پایان سال داده است.
همان‌طور که این رقابت‌ها و حرکت‌های روبه‌جلو ادامه دارد، ممکن است قراردادهای کاری هم تغییر کنند. آن وقت به‌جای اینکه افرادی را استخدام کنیم تا مقاله‌ها و پروژه‌های متنی ما را بنویسند، احتمالاً باید به دنبال کسانی باشیم که بتوانند محتواهای تولیدشده توسط هوش مصنوعی را بازآفرینی یا شناسایی کنند.
در مطلب خطر هوش مصنوعی برای مشاغل بازاریابی دیجیتال می‌توانید دربارۀ نحوۀ اثرگذاری این تکنولوژی بر دیجیتال‌مارکتینگ و جایگاه‌های شغلی آن بیشتر مطالعه کنید.