İlk Yanıt · Kısa Soru (CPU) — Qwen3 1.7B
Bu test yalnız işlemciyle çalışan küçük bir dil modelinin kısa bir soruya ilk yanıtının ne kadar sürede başladığını ölçer (yardımcıya soru sormak gibi). Gündelik kullanımda hissedilir. Düşük olan iyidir.
GrupDil ModeliKatmanDonanımBlokTepkisellikMetrikİlk yanıt (ms) · düşük iyiReferans1 200 ms · kestirimÖrnek10TurstandartBellek1.500 MBPuanpuana girer
Nasıl ölçülür?
- 141 tokenlık sabit istem, her tekrarda boş KV önbelleği, 16 token üretim. Saat çağrıdan (tokenlaştırma dahil) ilk tokenın örneklendiği ana kadar. 1 ısınma, 10 tekrar; p90 yan metriktir.
Platformlar ve motorlar
Motor, Toplayo'ya yüklenen sonuçların kendi etiketidir (cihaz ve GPU adları çıkarıldı). Her platformda bilinen en hızlı yol seçilir; iş ve çıktı aynı kalır.
| Platform | Motor | Ölçüm 4.0 |
|---|---|---|
| iPhone ve iPad | llama.cpp CPU v0.5.0 | ölçüldü · 1 cihaz |
| Mac | llama.cpp CPU v0.5.0 | ölçüldü · 5 cihaz |
| Windows | llama.cpp CPU v0.6.0 | ölçüldü · 3 cihaz |
| Android | llama.cpp CPU v0.6.0 | yalnız ön deneme turunda (Android 4.0 ölçümleri ertelendi) |
Hangi puana girer?
- Hiçbir süitte değildir: adı bir birimi ölçtüğü için süitlere girmez (birim adlı testler kendi biriminde kalır). KAI Benchmark Skoru'na katkısı yoktur.
- Donanım katmanındadır ve KAI Donanım'ın Tepkisellik bloğunun 6 üyesinden biridir (blok ağırlığı 1,0). Bu test eksikse ya da "tamam" değilse blok verilmez; blok verilmezse KAI Donanım da verilmez. KAI Donanım.
Referans ve puan
Puan = ölçülen ÷ referans × 1000; küçük değer iyi olduğu için oran ters çevrilir (referans ÷ ölçülen × 1000). Referans değer 1 200 ms; 1000 puan nominal termal durumdaki iPhone 15 Pro sınıfını temsil eder. Bu referans henüz kestirimdir ve kalibrasyon bekler; cihazlar arası oranlar bundan etkilenmez.
Platform. iPhone ve iPad, Mac, Windows, Android.