MoE
نوعی معماری model با چند بخش تخصصی به نام expert که برای پردازش هر ورودی، بخشی از آن‌ها انتخاب می‌شوند.
این تعریف را هوش مصنوعی از روی مطالب فیدآپ نوشته است.
مطالبی با این مفهوم
- llama.cpp
پیشنهاد اجرای بخشی از expertهای خارج از cache روی CPU در llama.cpp
pull request شمارهٔ 30966 در llama.cpp اجرای بخشی از expertهای خارج از cache روی CPU را پیشنهاد می‌کند و یک script برای تنظیم اندازهٔ cache و سهم CPU دارد.