Provenance
اطلاعات قابل‌بررسی درباره منشأ یک model یا داده و سابقه انتقال و تغییر آن، از تولیدکننده تا محل استفاده.
این تعریف را هوش مصنوعی از روی مطالب فیدآپ نوشته است.
مطالبی با این مفهوم
- AI Security
Lazarus؛ ایجاد backdoor در AI agent با تغییر کمتر از ۱۰ neuron غیرفعال
پژوهشگران Microsoft Research نشان داده‌اند که تغییر وزن کمتر از ۱۰ neuron غیرفعال، بدون آموزش دوباره، برای ایجاد backdoor کافی است؛ model رفتار عادی دارد تا یک trigger پنهان ظاهر شود.
- Apache Projects
Apache Sourcelume؛ ثبت منشأ داده‌های آموزش مدل، بدون تضمین درستی ادعاها
Apache Sourcelume با یک مدل کوچک نشان می‌دهد چگونه می‌توان اطلاعات منشأ داده‌های آموزش را در همان اجرای آموزش ثبت کرد. این پروژه فعلاً اطلاعات ثبت‌شده را در اختیار ماشین‌ها می‌گذارد، اما درستی آن‌ها را تأیید نمی‌کند.