مجله سیمدخت
0

OpenAI تأیید کرد که متن تولیدشده توسط هوش مصنوعی به راحتی تشخیص داده نمی‌شود.

بازدید 55

با تایید OpenAI، هیچ یک از ابزارهای تشخیص محتوای تولیدشده با هوش مصنوعی قادر به شناسایی آن نیستند.

در هفته گذشته، OpenAI در یک پست وبلاگ به نکات مهمی اشاره کرد که نشان می‌دهد چگونه برخی از معلمان از ChatGPT به عنوان یک ابزار کمک‌آموزشی استفاده می‌کنند. همچنین، این شرکت به صراحت اعتراف می‌کند که برنامه‌های تشخیص محتوای تولیدشده با هوش مصنوعی عملکرد دقیقی ندارند.

در بخشی از پاسخ به سوالات متداول با عنوان “آیا آشکارسازهای هوش مصنوعی کار می‌کنند؟” آمده است:

به طور خلاصه، خیر؛ در حالی که برخی شرکت‌ها ابزارهایی را منتشر کرده‌اند که ادعا می‌کنند محتوای تولیدشده با هوش مصنوعی را شناسایی می‌کنند، هیچ‌کدام از این ابزارها به صورت قاطع ثابت نشده‌اند و قادر به تمایز محتوای تولیدشده با هوش مصنوعی از محتوای تولید انسان نمی‌باشند.
– OpenAI

نتایج مثبت کاذب توسط ابزارهای تشخیص محتوای تولیدشده با هوش مصنوعی به دلیل استفاده از معیارهای اثبات‌نشده ارائه می‌شود. در واقع، نشانه‌ای خاص در متن تولید شده توسط هوش مصنوعی وجود ندارد که بتوان آن را همیشه از متن‌های انسانی تمیز داد. به راحتی با بازنویسی ساده می‌توان اینگونه ابزارها را فریب داد. OpenAI نیز پیش‌تر ابزار آزمایشی خود را که برای این منظور ایجاد شده بود، متوقف کرد؛ زیرا میزان دقت آن به سطح نامطلوب ۲۶ درصد کاهش می‌یافت.

پرسش‌های متداول OpenAI به اشتباه به واقعیت دیگری اشاره می‌کند که نشان می‌دهد ChatGPT قادر به تمیز دادن متون ساخته شده با هوش مصنوعی نیست. این شرکت اظهار می‌کند:

ChatGPT اطلاعاتی درباره محتوای تولید هوش مصنوعی ندارد و در برخی موارد به سوالاتی مثل “آیا این مقاله توسط تکنولوژی نوشته شده است؟” پاسخ‌هایی مانند “ممکن است این متن توسط هوش مصنوعی نوشته شده باشد” ارائه می‌دهد. این پاسخ بی‌اساس و تصادفی است.
– OpenAI

همچنین، OpenAI به توانایی مدل هوش مصنوعی خود در ترکیب اطلاعات نادرست اشاره می‌کند و می‌گوید:

گاهی ChatGPT ممکن است به نظر بدهد که قانع‌کننده است؛ اما اطلاعات نادرست یا گمراه‌کننده‌ای ارائه دهد. حتی در برخی موارد، این هوش مصنوعی ممکن است نقل‌قول‌های نادرستی ایجاد کند. بنابراین، نباید از آن به عنوان منبع تنها خود بهره‌برداری کنید.
– OpenAI

اگرچه ابزارهای تشخیص محتوای تولیدشده با هوش مصنوعی عملکرد رضایت‌بخشی ندارند، این به معنای ناتوانی انسان‌ها در انجام چنین کاری نیست. به عنوان مثال، یک معلم که با سبک نوشتاری عادی دانش‌آموزانش آشناست، با توجه به تغییر ناگهانی در سبک نوشته‌های آن‌ها می‌تواند محتوای ساخته‌شده با هوش مصنوعی را تشخیص دهد.

نشانه‌های گویایی مانند عبارت “به عنوان مدل زبان هوش مصنوعی” در متن‌ها نشان می‌دهند که شخص متن تولیدشده با ابزارهای هوش مصنوعی را حتی بازنویسی نکرده است و به راحتی می‌توان آن را شناسایی کرد.

اتان مولیک، تحلیلگر هوش مصنوعی، درباره ابزارهای تشخیص محتوای هوش مصنوعی اظهار کرد:

در حال حاضر نمی‌توان متن تولیدشده با هوش مصنوعی را به‌طور قاطع تشخیص داد و احتمالاً در آینده هم تغییر نخواهد کرد. ابزارهای تشخیص محتوای هوش مصنوعی درصد کارایی مثبت کاذبی دارند و به همین دلیل، نباید به آن‌ها اعتماد کرد.
– اتان مولیک، تحلیلگر هوش مصنوعی

نظرات کاربران

  •  چنانچه دیدگاهی توهین آمیز باشد و متوجه نویسندگان و سایر کاربران باشد تایید نخواهد شد.
  •  چنانچه دیدگاه شما جنبه ی تبلیغاتی داشته باشد تایید نخواهد شد.
  •  چنانچه از لینک سایر وبسایت ها و یا وبسایت خود در دیدگاه استفاده کرده باشید تایید نخواهد شد.
  •  چنانچه در دیدگاه خود از شماره تماس، ایمیل و آیدی تلگرام استفاده کرده باشید تایید نخواهد شد.
  • چنانچه دیدگاهی بی ارتباط با موضوع آموزش مطرح شود تایید نخواهد شد.

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *