hallucination
تولید پاسخی ظاهراً معتبر اما نادرست توسط مدل generative AI که آن را به‌عنوان واقعیتی دربارهٔ دنیای واقعی بیان می‌کند.
توضیح
مدل generative AI می‌تواند متنی روان و قانع‌کننده تولید کند، بدون اینکه ادعاهای آن درست باشند. وقتی اطلاعات ساختگی یا نادرست را به‌صورت واقعیت بیان می‌کند، hallucination رخ داده است؛ مثلاً منبعی ناموجود را برای یک ادعا معرفی می‌کند. صرفِ تولید داستان یا محتوای خیالی، وقتی قرار نیست واقعیت باشد، در این تعریف نمی‌گنجد.
مثال
مثل راهنمایی است که نشانی جایی را نمی‌داند، اما به‌جای گفتن «نمی‌دانم»، با اطمینان نشانیِ ساختگی می‌دهد. دقیق و طبیعی بودن توضیحش، نشانی را واقعی نمی‌کند.
چرا مهمه
هنگام استفاده از AI برای نوشتن کد، یافتن مستندات یا پاسخ‌دادن به کاربر با آن روبه‌رو می‌شوی. لحن مطمئن نشانهٔ درستی نیست؛ نام APIها، منابع و ادعاهای مهم را با مستندات معتبر و آزمون بررسی کن.
مفهوم‌های مرتبط
این کارت را هوش مصنوعی نوشته و دو بار با هوش مصنوعی بررسی شده است.
بر پایهٔ «hallucination» از Google Machine Learning Glossary (Google)، با مجوز CC BY 4.0.
مطالبی با این مفهوم
هنوز مطلبی منتشر نشده.