نویسنده با استفاده از یک PCIe switch مدل Broadcom PEX88096، شش GPU را به تنها یک slot از نوع x16 روی ASUS TUF Gaming X570-Plus متصل کرده است: چهار Radeon AI PRO R9700 با حافظهٔ ۳۲ گیگابایتی و دو RTX 3090 با حافظهٔ ۲۴ گیگابایتی. سیستم با Ryzen 9 3900X، حافظهٔ RAM برابر با ۱۲۸ گیگابایت و Debian 13، هر دو محیط ROCm و CUDA را اجرا می‌کند.
در این چیدمان، CPU با یک اتصال PCIe gen4 x16 به switch وصل است و هر GPU اتصال gen4 x8 خودش را تا switch دارد؛ بنابراین motherboard به تنظیم bifurcation نیاز ندارد. این به معنی شش اتصال x8 مستقل تا CPU نیست. مزیت مهم switch در آزمایش، امکان انتقال مستقیم Peer-to-peer میان R9700ها بود: کپی روی هر چهار کارت در مجموع ۵۴٫۷ گیگابایت‌برثانیه ثبت شد، در حالی که ظرفیت یک‌طرفهٔ اتصال x16 به CPU حدود ۲۸ گیگابایت‌برثانیه است؛ پس این ترافیک داخل switch باقی می‌ماند.
راه‌اندازی بدون دردسر نبود. فعال‌کردن Resizable BAR باعث توقف سیستم در مرحلهٔ BIOS می‌شد. نویسنده آن را خاموش کرد و با یک module اختصاصی و هنوز منتشرنشدهٔ kernel، پیش از بارگذاری driverها، BAR سی‌ودوگیگابایتی را فقط به چهار R9700 اختصاص داد. این module همچنین یک bug در Linux 7.0 مربوط به کوچک‌بودن پنجرهٔ switch را دور می‌زند. برای عبور محلی ترافیک R9700ها، ACS redirect نیز غیرفعال شد؛ تغییری که به قیمت کاهش جداسازی میان این کارت‌ها تمام می‌شود.
چهار R9700 با radiance 1.4.0 و ROCm 7.2.4، مدل Qwen3.8-27B را با Tensor parallelism چهارراهه اجرا کردند. پردازش اولیهٔ prompt با اندازهٔ ۳۲ هزار token حدود ۴۶۷۴ token در ثانیه و برای ۲۳۳ هزار token، برابر با ۳۳۴۰ بود. در آزمایش ۱۶ client، مجموع خروجی به ۶۰۱٫۱ token در ثانیه رسید؛ خاموش‌کردن P2P این مقدار را تقریباً نصف کرد.
دو RTX 3090 جداگانه با vLLM 0.28 و Tensor parallelism دوراهه، Swift-1.5 را اجرا کردند. P2P برای آن‌ها خاموش بود و کپی‌ها از حافظهٔ میزبان عبور می‌کردند. با gpu-unlock، سرعت decode برای یک جریان ۶۷ و برای هشت جریان در مجموع ۴۰۰ token در ثانیه بود. این ابزار پردازش اولیهٔ prompt را ۱۳ تا ۲۰ درصد سریع‌تر کرد، اما بهبود روشنی در decode مشاهده نشد.
