Baidu, 280 milyar parametreye sahip yeni bir açık kaynak temel modeli olan ERNIE 5.5 Flash Base'i yayınladı. Çinli şirket modeli bilinçli olarak ince ayar veya son eğitim olmadan piyasaya sürdü, geliştiricilerin yönünü belirlemesine olanak tanıdı; ardından bir son eğitimli sürümün geleceği planlanıyor.
ERNIE 5.5 modeli, toplam 280 milyar parametreli bir uzman karışımı mimarisi kullanıyor; her girişte 14 milyar parametre aktif oluyor. Model, 33,5 trilyon token üzerinde, 128.000 token’a kadar çıkabilen bir eğitim bağlamıyla ön‑eğitildi ve ince ayar ve çıkarım sırasında bir milyon token’a kadar bağlam penceresini destekleyecek şekilde tasarlandı. Baidu'ya göre model, DeepSeek V4 Flash ve MiMo V2.5 gibi benzer büyüklükteki açık temel modellerle akıl yürütme, kod ve uzun bağlam benchmark'larında rekabet ediyor; ağırlıklar artık Hugging Face'te FP8 ve BF16 formatlarında mevcut.
Bu yayın önemli çünkü geliştiricilere özelleştirilebilir ince ayar ve uzun bağlam uygulamaları için büyük ölçekli bir açık kaynak temel modeli ve uzman karışımı mimarisi sunuyor.