نتایج جستجوی ChatGPT برای اخبار «غیرقابل پیش‌بینی» و اغلب اشتباه هستند

به نظر می‌رسد نتایج جستجوی ChatGPT برای اخبار «غیرقابل پیش‌بینی» و در مواردی نیز اشتباه هستند.

طبق تحقیقات انجام شده توسط متخصصان موسسه Tow Center for Digital Journalism در کلمبیا، موتور جستجوی ChatGPT توسعه‌یافته توسط شرکت OpenAI در ارائه پاسخ‌های دقیق با چالش‌هایی مواجه است.

OpenAI این ابزار را در ماه اکتبر برای کاربران خود عرضه کرد و مدعی شد که قادر است «پاسخ‌های سریع و به روز همراه با لینک به منابع مرتبط در وب» ارائه دهد. با این حال، به گفته‌ی Futurism، پژوهشگران گزارش کرده‌اند که ChatGPT در شناسایی صحیح نقل‌قول‌ها از مقالات، حتی از ناشرانی که با OpenAI توافق‌نامه اشتراک‌گذاری داده دارند، دچار مشکل می‌شود.

محققان از ChatGPT خواستند تا منبع «200 نقل‌قول از 20 نشریه» را مشخص کند. 40 مورد از این نقل‌قول‌ها متعلق به ناشرانی بود که خزنده جستجوی OpenAI را از دسترسی به وبسایت خود منع کرده بودند. با وجود این، چت‌بات با اعتماد به نفس پاسخ‌های نادرست ارائه داد و به ندرت ابراز بی‌اطمینانی در مورد جزئیات کرد.

ChatGPT مجموعاً در 153 مورد، پاسخ‌های ناکافی یا کاملاً غلط ارائه کرد. با این‌حال، تنها در 7 مورد از این موارد، چت‌بات صراحتاً به عدم توانایی خود در ارائه پاسخ دقیق اعتراف کرد. در این 7 خروجی محدود، چت‌بات از واژه‌ها و عباراتی مانند «ظاهراً»، «ممکن است»، یا «شاید»، یا عباراتی مانند «نتوانستم مقاله دقیق را پیدا کنم» استفاده کرد.

محققان مرکز Tow، نتایج جستجوی ChatGPT را که نقل‌قولی از نامه‌ای به سردبیر Orlando Sentinel را به داستانی منتشرشده در تایم نسبت می‌داد، مستند کردند. در مثالی دیگر، هنگام درخواست شناسایی منبع نقل‌قولی از مقاله نیویورک تایمز در مورد وال‌های در معرض انقراض، ChatGPT پیوندی به وب‌سایت دیگری ارائه داد که داستان را به طور کامل کپی کرده بود.

OpenAI در پاسخ به این یافته‌ها، به موسسه Tow اعلام کرد: «بدون دسترسی به داده‌ها و روشی که این مرکز پنهان کرده است، ارزیابی و رفع اشتباهات ارجاع‌دهی دشوار است. این مطالعه، آزمایشی غیرمعمول از محصول ما را نشان می‌دهد.» این شرکت همچنین تأکید کرد که «به بهبود نتایج جستجو ادامه خواهد داد.»

منبع خبر