ToplayoKARŞILAŞTIRMA LABORATUVARI

Token Üretimi (CPU) — Qwen3 1.7B

Bu test yalnız işlemciyle çalışan küçük bir dil modelinin yanıt yazma hızını ölçer (sohbet, metin yazdırma, özetleme gibi). Yapay zekâ uygulamaları için önemlidir.

GrupDil ModeliKatmanDonanımBlokDil modeli (CPU)MetrikÜretim hızı (token/sn)Referans25 token/sn · kestirimÖrnek5TurstandartBellek1.500 MBPuanpuana girer

Nasıl ölçülür?

  • 41 tokenlık istem, 256 token üretim, 5 tekrar, açgözlü örnekleme. Hafızaya bağlı iş: her token için bütün ağırlıklar okunur.

Platformlar ve motorlar

Motor, Toplayo'ya yüklenen sonuçların kendi etiketidir (cihaz ve GPU adları çıkarıldı). Her platformda bilinen en hızlı yol seçilir; iş ve çıktı aynı kalır.

PlatformMotorÖlçüm 4.0
iPhone ve iPadllama.cpp CPU v0.5.0ölçüldü · 1 cihaz
Macllama.cpp CPU v0.5.0ölçüldü · 5 cihaz
Windowsllama.cpp CPU v0.6.0ölçüldü · 3 cihaz
Androidllama.cpp CPU v0.6.0yalnız ön deneme turunda (Android 4.0 ölçümleri ertelendi)

Hangi puana girer?

  • Hiçbir süitte değildir: adı bir birimi ölçtüğü için süitlere girmez (birim adlı testler kendi biriminde kalır). KAI Benchmark Skoru'na katkısı yoktur.
  • Donanım katmanındadır ve KAI Donanım'ın Dil modeli (CPU) bloğunun 6 üyesinden biridir (blok ağırlığı 1,0). Bu test eksikse ya da "tamam" değilse blok verilmez; blok verilmezse KAI Donanım da verilmez. KAI Donanım.

Referans ve puan

Puan = ölçülen ÷ referans × 1000. Referans değer 25 token/sn; 1000 puan nominal termal durumdaki iPhone 15 Pro sınıfını temsil eder. Bu referans henüz kestirimdir ve kalibrasyon bekler; cihazlar arası oranlar bundan etkilenmez.

Platform. iPhone ve iPad, Mac, Windows, Android.