large language model

LLM یک language model با تعداد بسیار زیادی parameter است که الگوهای زبان را از داده‌های آموزشی یاد می‌گیرد.

توضیح

در آموزش، parameter‌های مدل تنظیم می‌شوند تا بتواند بر اساس متن قبلی، token بعدی را پیش‌بینی کند. هنگام تولید متن، این فرایند بارها تکرار می‌شود و پاسخ شکل می‌گیرد. بسیاری از این مدل‌ها از معماری Transformer استفاده می‌کنند. روان بودن خروجی به معنی درست بودن آن نیست؛ مدل ممکن است اطلاعات نادرست تولید کند.

مثال

شبیه تکمیل خودکار متن است، اما در مقیاسی بسیار بزرگ‌تر: با دیدن «برای مرتب‌سازی این فهرست»، ادامه‌ای متناسب با متن می‌سازد. این ادامه بر اساس الگوهای آموخته‌شده تولید می‌شود، نه لزوماً از روی یک پاسخ آماده یا حقیقت تأییدشده.

چرا مهمه

وقتی قابلیت‌هایی مثل گفت‌وگو، خلاصه‌سازی یا تولید کد به برنامه اضافه می‌کنی، با این مدل‌ها سروکار داری. شناخت محدودیت‌هایشان کمک می‌کند ورودی مناسب بسازی و خروجی را پیش از استفاده بررسی کنی.

این کارت را هوش مصنوعی نوشته و دو بار با هوش مصنوعی بررسی شده است.

بر پایهٔ «large language model» از Google Machine Learning Glossary (Google)، با مجوز CC BY 4.0.

مطالبی با این مفهوم

هنوز مطلبی منتشر نشده.