گوگل به تازگی امکانی جدید به خدمت خود اضافه کرده است که به کاربران این امکان را می‌دهد تا دقت متن تولید شده توسط سیستم پاسخ‌دهی خود را با جست‌و‌جو در اینترنت مجدداً بررسی کرده و نتایج اطلاعاتی بیشتری را از وب دریافت کنند.
با ظهور چت‌بات‌ها، توسعه‌دهندگان همواره هشدار داده‌اند که نباید به طور کامل به این سیستم‌ها اعتماد کنیم. متون تولید شده توسط ابزارهایی مانند ChatGPT، بر اساس یک پایگاه داده کاملاً استوار بر حقایق نباید در نظر گرفته شوند. به جای آن، چت‌بات‌ها بر اساس حجم عظیمی از متونی که مدل‌های زبان بزرگ (LLM) از آن‌ها آموزش گرفته‌اند، حدس‌هایی در مورد درستی مفاهیم می‌زنند. به همین دلیل، آن‌ها گاهی اشتباه می‌کنند و ممکن است حتی افراد مطالعه‌کرده را نیز به اشتباه به اشتباه بیاندهند.
این وضعیت موجب کاهش اعتبار چت‌بات‌ها به عنوان دستیارهای قابل اطمینان در کارهای تحقیقاتی می‌شود. این چت‌بات‌ها معمولاً به سرعت به سؤالات شما پاسخ می‌دهند، اما بیشتر مواقع بدون ارائه منبع یا مرجعی. به عبارت دیگر، ممکن است شما بخواهید وقت زیادی را صرف بررسی درستی پاسخ‌های آن‌ها کنید، در حالی که هدف اصلی از استفاده از این چت‌بات‌ها، یعنی صرفه‌جویی در زمان، از دست می‌رود.
در به‌روزرسانی اخیر، گوگل بارد یک گزینه به نام “Google It” اضافه کرده است که با کلیک روی آن، سؤال یا درخواست کاربر را در موتور جست‌و‌جوی گوگل جست‌و‌جو می‌کند و پاسخ تولید شده توسط بارد را با نتایج جست‌و‌جو مقایسه می‌کند. هر بخشی از متن که با منابع دیگر مشترک باشد، با رنگ سبز مشخص می‌شود. با کلیک بر روی جمله‌های هایلایت شده، کاربر می‌تواند لینک منبع مرتبط را ببیند.
بررسی مجدد یک درخواست باعث تغییر بسیاری از جملات در پاسخ می‌شود و برخی از آن‌ها به رنگ سبز یا نارنجی تغییر می‌کنند. جملات سبز به صفحاتی متصل هستند که به آن‌ها ارجاع داده شده‌است. اما جملات نارنجی نشان می‌دهند که نتایج جست‌و‌جو ممکن است با آن جملات مغایر باشند یا حداقل آن‌ها را تأیید نکنند. در مورد جملات بدون رنگ، بارد نمی‌تواند منبع مشخصی را تایید کند و این نکته ممکن است به وجود اشتباه اشاره کند.
افزودن امکان بررسی مجدد توسط گوگل، یک گام مثبت به جلو برای بارد است؛ اما اغلب ضروری است که جملات معرفی شده با منابع اصلی تطابق داده شده و دقت پاسخ‌های بارد تأیید شود. در زمینه تولید محتوای تحقیقاتی، هنوز هم نیاز به همکاری انسان‌ها و چت‌بات‌ها برای تولید مطالب صحیح و کارآمد وجود دارد. درخواست‌هایی مانند نگارش یک ایمیل یا تدوین پیشنهاد سفر و موارد مشابه، اغلب نیازی به بررسی مجدد و تأیید ندارند.
چت‌بات‌های گوگل اخیراً به به‌روزرسانی دیگری دست یافته‌اند و اکنون می‌توانند به سرویس‌هایی مانند جیمیل، درایو، نقشه و یوتیوب دسترسی داشته باشند. این امکان به کاربران این اجازه را می‌دهد که در حساب گوگل خود جستجو کرده و اسناد را خلاصه کنند و در مورد آن‌ها سوال بپرسند؛ اما تجربه کاربران نشان می‌دهد که هنوز هم با اشتباهات زیادی مواجه هستند.
سوال اصلی این است که در طولانی‌مدت هوش مصنوعی تا چه اندازه قادر به بررسی و ارتقاء خود خواهد بود. در حال حاضر، وظیفه هدایت چت‌بات‌ها به سوی پاسخ صحیح همچنان بر عهده کاربران است. در این شرایط، نیاز به ابزارهای هوش مصنوعی که منابع معتبر برای ربات‌ها فراهم کنند، بسیار ملموس است.
نظرات کاربران