ToplayoKARŞILAŞTIRMA LABORATUVARI

İlk Yanıt · Uzun Belge (CPU) — Qwen3 1.7B

Bu test yalnız işlemciyle çalışan küçük bir dil modelinin uzun bir belge verildiğinde ilk yanıtının ne kadar sürede başladığını ölçer (belge özetletmek gibi). Yapay zekâ uygulamaları için önemlidir. Düşük olan iyidir.

GrupDil ModeliKatmanDonanımMetrikİlk yanıt (ms) · düşük iyiReferans16 000 ms · kestirimÖrnek5TurstandartBellek2.000 MBPuanpuana girer

Nasıl ölçülür?

  • 1 928 tokenlık belge istemi, 5 tekrar. Yapay zekâ endeksine girer; blok üyesi değildir.

Platformlar ve motorlar

Motor, Toplayo'ya yüklenen sonuçların kendi etiketidir (cihaz ve GPU adları çıkarıldı). Her platformda bilinen en hızlı yol seçilir; iş ve çıktı aynı kalır.

PlatformMotorÖlçüm 4.0
iPhone ve iPadllama.cpp CPU v0.5.0ölçüldü · 1 cihaz
Macllama.cpp CPU v0.5.0ölçüldü · 5 cihaz
Windowsllama.cpp CPU v0.6.0ölçüldü · 3 cihaz
Androidllama.cpp CPU v0.6.0yalnız ön deneme turunda (Android 4.0 ölçümleri ertelendi)

Hangi puana girer?

  • Hiçbir süitte değildir: adı bir birimi ölçtüğü için süitlere girmez (birim adlı testler kendi biriminde kalır). KAI Benchmark Skoru'na katkısı yoktur.
  • Donanım katmanındadır ama KAI Donanım'ın bloklarına girmez.

Referans ve puan

Puan = ölçülen ÷ referans × 1000; küçük değer iyi olduğu için oran ters çevrilir (referans ÷ ölçülen × 1000). Referans değer 16 000 ms; 1000 puan nominal termal durumdaki iPhone 15 Pro sınıfını temsil eder. Bu referans henüz kestirimdir ve kalibrasyon bekler; cihazlar arası oranlar bundan etkilenmez.

Platform. iPhone ve iPad, Mac, Windows, Android.