İlk Yanıt · Uzun Belge (CPU) — Qwen3 14B
Bu test yalnız işlemciyle çalışan büyük bir dil modelinin uzun bir belge verildiğinde ilk yanıtının ne kadar sürede başladığını ölçer (belge özetletmek gibi). Yapay zekâ uygulamaları için önemlidir. Düşük olan iyidir. Yalnız en az 24 GB belleği olan cihazlarda çalışır.
GrupBüyük ModellerKatmanDonanımMetrikİlk yanıt (ms) · düşük iyiReferans143 000 ms · kestirimÖrnek3Turbüyük modellerBellek24.576 MBPuanpuana girer
Nasıl ölçülür?
- Qwen3 14B, GGUF Q4_0, yaklaşık 8,5 GB. 1 928 tokenlık belge istemi.
- Windows'ta aynı GGUF dosyası llama.cpp ile CPU'da. Bellek kapısı: sınıfın eşiği (14B ≥ 22 GiB, 32B ≥ 60 GiB) işletim sisteminin gördüğü fiziksel belleğe karşı.
Platformlar ve motorlar
Motor, Toplayo'ya yüklenen sonuçların kendi etiketidir (cihaz ve GPU adları çıkarıldı). Her platformda bilinen en hızlı yol seçilir; iş ve çıktı aynı kalır.
| Platform | Motor | Ölçüm 4.0 |
|---|---|---|
| Mac | llama.cpp CPU v0.5.0 | ölçüldü · 3 cihaz |
| Windows | llama.cpp CPU v0.6.0 | ölçüldü · 2 cihaz |
Hangi puana girer?
- Hiçbir süitte değildir: büyük modeller turunda koştuğu için süitlere girmez. KAI Benchmark Skoru'na katkısı yoktur.
- Büyük modeller turunda koşar: KAI Büyük Model'e girer. Bir sınıfın (14B, 32B) puanı yalnız hem işlemci hem GPU parçaları varsa verilir; tek parça ayrı gösterilir.
Neler değişti?
| Sürüm | Değişiklik |
|---|---|
| 3.3 R9 | Windows büyük model turu. |
Referans ve puan
Puan = ölçülen ÷ referans × 1000; küçük değer iyi olduğu için oran ters çevrilir (referans ÷ ölçülen × 1000). Referans değer 143 000 ms; 1000 puan nominal termal durumdaki iPhone 15 Pro sınıfını temsil eder. Bu referans henüz kestirimdir ve kalibrasyon bekler; cihazlar arası oranlar bundan etkilenmez.
Platform. Mac, Windows.