Bağlam Kapasitesi (GPU) — Qwen3 4B
Bu test cihazın orta boy bir dil modeline en çok ne kadar uzun metin verebildiğini ölçer (çok uzun belgeler ve sohbetler gibi). Yapay zekâ uygulamaları için önemlidir.
Nasıl ölçülür?
- Qwen3 4B, GGUF Q4_0, llama.cpp GPU yolunda. İstem 400 sözcükten başlayıp her adımda iki katına çıkar (en çok 102 400 sözcük); boş fiziksel bellek bir tabanın altına inince, arka uç ayırmayı reddedince ya da süre dolunca durur. Ulaşılan en uzun bağlam ve oradaki ön doldurma hızı yüklenir.
- Yalnız Windows koşturucusunda vardır; bilgi amaçlıdır, hiçbir puana girmez.
Platformlar ve motorlar
Motor, Toplayo'ya yüklenen sonuçların kendi etiketidir (cihaz ve GPU adları çıkarıldı). Her platformda bilinen en hızlı yol seçilir; iş ve çıktı aynı kalır.
| Platform | Motor | Ölçüm 4.0 |
|---|---|---|
| Windows | llama.cpp CUDA v0.6.0 | ölçüldü · 3 cihaz |
Hangi puana girer?
- Hiçbir süitte değildir: her platformda koşamadığı için süitlere girmez. KAI Benchmark Skoru'na katkısı yoktur.
- Üretici katmanında, bilgi amaçlıdır: KAI Üretici'ye girmez.
Referans ve puan
Puan = ölçülen ÷ referans × 1000. Referans değer 12 bin token; 1000 puan nominal termal durumdaki iPhone 15 Pro sınıfını temsil eder.
Platform. Windows.