Princeton Üniversitesi, Polymathic AI, USC ISI, NYU ve Flatiron Enstitüsü'nden araştırmacılar, Qwen3-8B üzerinde kayıpsız olarak 6.14 kat hız artışı sağlayan yeni spekülatif kod çözüm drafter'ı FlashMap'i yayınladı. FlashMap, ayrık difüzyon drafter'larını sürekli bir akış haritası ile değiştirerek, token tutarlılığını korurken tek bir ileri geçişte tam 16 tokenlik bir blok üretebiliyor. Araştırma ekibi, sistemi matematik, kod ve sohbeti kapsayan dokuz benchmark'ta, sıcaklık 0 ve 1'de test etti ve tek adımlı FlashMap'in DFlash gibi yeniden eğitilmiş temel modelleri kabul uzunluğu ve genel yürütme hızı açısından geride bıraktığını buldu.
Mimari, hedef modelle aynı GPU'da çalışan 0,5 milyar parametreli bir drafter kullanıyor—özellikle Qwen3-8B için 500M, Qwen3-4B için 475M parametre. Flow Map Dil Modelleri üzerine inşa edilen FlashMap, Gauss gürültüsünü tek adımda doğrudan bir token bloğuna eşleyerek, gürültünün her slot için modu ortak olarak seçmesini sağlıyor ve geleneksel blok difüzyon drafter'larında görülen bağımsız slot tahmin hatalarını önlüyor. Eğitim, çapraz entropi ile eğitilmiş bir flow öğretmeni ve semigrup damıtımı kullanan bir flow harita öğrencisinden oluşan iki aşamalı bir süreç içeriyor; bu süreç Open-PerfectBlend'den alınan 500 000 örnek üzerinde gerçekleştirildi.
Açık kaynak sürümü, Hugging Face üzerinde bulunan Qwen3-8B ve Qwen3-4B drafter ağırlıklarını ve dağıtım için vLLM ve SGLang eklentilerini içeriyor. flashmap paketi, PyTorch ve Transformers gerektiriyor; böylece büyük dil modeli çıkarımını doğruluk kaybı yaşamadan hızlandırmak isteyen geliştiriciler için sorunsuz entegrasyon sağlıyor. Bu gelişme, token üretim gecikmesini önemli ölçüde azaltarak büyük ölçekli AI dağıtımlarının pratik verimliliğini artırıyor.