Geliştirici Vixhal, MIT lisansı altında Qwen3.5-2B'nin ağırlıklarına doğrudan bir SIMT GPU derleyen deneysel bir model olan qwenGPU'yu yayınladı. Model, gerçek CUDA'yı, NVIDIA PTX'e derlenmiş olarak, kendi ileri geçişleri içinde çalıştırarak, önceden eğitilmiş büyük bir dil modelinin içinde tam hesaplamayı yanına değil içinde test ediyor.
Mimari, Qwen3.5'in 24 katmanını 45 derlenmiş transformer katmanı ile birleştirerek, toplamda 262.144 token bağlamına sahip 69 katman oluşturur. Entegre 4 kanallı SIMT GPU, kanal başına 15 kayıt, 4 aşamalı bir boru hattı, 32 blokluk ROM ve 126 bellek kelimesi içerir; Gated DeltaNet lineer dikkat ve SwiGLU MLP'leri bellek hücresi olarak kullanır. Host, CUDA'yı clang ile PTX'e derler, programı ve girdi dizilerini modele token olarak besler ve yürütme çıktıları yinelemeli durum kayıtları aracılığıyla geri döner.
Modeli çalıştırmak yaklaşık 16 GB boş bellek, Python 3.11, uv ve just gerektirirken, gelişmiş mod için NVPTX arka ucu olan clang da gerekir. Benchmark'lar, referans yorumlayıcının 49 test çekirdeği boyunca bir NVIDIA Tesla T4 ile eşleştiğini ve orijinal Qwen3.5-2B modeline göre metin dağılımı KL sapmasının yaklaşık 7e‑4 olduğunu gösteriyor.
Bu proje önemlidir çünkü standart önceden eğitilmiş dil modellerinin ağırlıklarına doğrudan, kesin ve çalıştırılabilir bir donanım simülasyonu yerleştirmenin mümkün olduğunu gösteriyor.