StepFun, Step 5 Preview'yi açık ağırlıklar olarak yayınladı ve geliştiricilere uzun vadeli ajan tabanlı çalışmalar, kodlama ajanları, belge analizi ve finans akışları için güçlü, kendi kendine barındırılabilir yeni bir seçenek sundu. Seyrek Karışık Uzmanlar modeli, toplam 600 milyar parametre, token başına 27 milyar aktif parametre ve 1 milyon tokena kadar geniş bir bağlam penceresi içeriyor. FP8 ve BF16 kontrol noktaları artık Hugging Face ve ModelScope üzerinde, yönetilen bir API ile birlikte hizmette.
Profesyonel bilgi çalışmaları için tasarlanan model, büyük kod tabanlarında dolaşır, kod çalıştırır, sonuçlar üzerinde yineleme yapar ve uzun belgeler, grafikler, ekran görüntüleri ve videoları analiz eder. Mimarisinde dar ve derin bir tasarımla 92 transformer bloğu bulunur; kapılı kayar‑pencere dikkati, seyrek gruplanmış sorgu dikkati, spekülatif çözümleme ve FP8 karışık hassasiyetli eğitim kullanılır. Artificial Analysis tarafından yapılan bağımsız değerlendirmeler, modelin güçlü akıl yürütme yeteneklerini vurguluyor; AA‑LCR uzun‑bağlam akıl yürütmesinde %88,3 ve Humanity’s Last Exam’de %46,5 puan elde etti.
Modelin çalıştırılması, devasa ölçeği nedeniyle büyük veri merkezi donanımı gerektirir. FP8 kontrol noktası en az dört B300 GPU ya da sekiz H200 GPU isterken, BF16 sürümü sekiz B300 GPU ya da 16 H200 GPU gerektirir. Neden önemli? Bu yayın, işletmelere ve araştırmacılara gelişmiş akıl yürütme ve uzun bağlamlı ajan görevlerini yerine getirebilen birinci sınıf bir açık‑ağırlık modeli sunuyor.