《2026.10.13測試補充 — Strata使用分享》
近期熱度很高的Strata推論引擎搭配Qwen3.8-Flash-Next這個大參數MoE模型。
Strata推論引擎對於運算後端的支援，現況大致區分CUDA、HIP、SYCL。
目前Intel Arc及AMD Ryzen AI Max所屬的後端架構僅在原生Linux環境維護。
以Intel為例已有相關分支支援原生Windows環境正等待PR合併成為原生。
經過測試已成功部署在Windows 11環境並順利運行，實測生成速度令人滿意。
Strata的冷熱分層運算架構，充分發揮了整個平台中CPU與大容量主記憶體的價值。
讓模型常駐於VRAM與主記憶體各自就地運算，大幅減少搬運模型造成的傳輸瓶頸。
此外，受限於Strata目前採用的周邊套件，AMD與Intel在Linux平台上暫時是由CPU負責運算模型的視覺能力。
Intel平台移植到Windows時沿用相同做法，個人讓Windows分支中新增了CPU視覺能力支援。在PR合併之前，需使用指定分支安裝，再進行原始檔編譯或依照需求修改即可提前體驗使用。
Strata約每1~3天更新一次，進步速度驚人，因此效能的數據、使用體驗、安裝方式僅供當下參考。
本次測試刻意降規使用384GB主記憶體，以觀察在目前的軟體版本下，記憶體頻寬對生成速度的影響。
模型選用ISTA-DASLab/Qwen3.8-Flash-Next-GSQ-RCO-GGUF IQ3_S是該系列同位元量化模型中精度最高約84G。
透過Hermes Desktop作為使用入口，測試模型看到圖片後與文字生成回應的速度。
