On-Device Inference
فرآیند اجرای مدل‌های AI به صورت محلی روی دستگاه به جای استفاده از سرورهای ابری.
این تعریف را هوش مصنوعی از روی مطالب فیدآپ نوشته است.
مطالبی با این مفهوم
- Mobile
انتشار ML Drift گوگل برای بهبود inference AI روی دستگاه
گوگل ML Drift را به عنوان یک موتور محاسباتی GPU open source برای inference AI روی دستگاه معرفی کرده است. این ابزار پیچیدگی‌های سخت‌افزارهای مختلف GPU را مدیریت می‌کند.