NPU Toplu Verim
Bu test yapay zekâ işlemcisinin çok sayıda görseli art arda işlerken ulaştığı hızı ölçer (fotoğraf kitaplığını taramak, toplu görsel işlemek gibi). Yapay zekâ uygulamaları için önemlidir.
GrupHam HesaplamaKatmanDonanımBlokNPUMetrikNPU toplu verim (görsel/sn)Referans50 görsel/sn · kestirimÖrnek10 × boyutTurstandartBellek1.200 MBPuanpuana girer
Nasıl ölçülür?
- Aynı prob modelinin toplu iş fonksiyonları, yığın 1, 2, 4 ve 8. Her boyut için yükleme, 4 ısınma ve 10 örnek × 2 eşzamanlı çağrı.
- Görsel başına 77,3 GFLOP. Puan en iyi yığın boyutunun ortancasıdır; eşitlikte küçük boyut seçilir.
- NPU'su olmayan PC'de "desteklenmiyor"; blok yok sayılır, KAI Donanım yedi blokla hesaplanır.
Platformlar ve motorlar
Motor, Toplayo'ya yüklenen sonuçların kendi etiketidir (cihaz ve GPU adları çıkarıldı). Her platformda bilinen en hızlı yol seçilir; iş ve çıktı aynı kalır.
| Platform | Motor | Ölçüm 4.0 |
|---|---|---|
| iPhone ve iPad | Core ML · ANE | ölçüldü · 1 cihaz |
| Mac | Core ML · ANE | ölçüldü · 5 cihaz |
| Windows | — | Bu bilgisayarda NPU yürütme sağlayıcısı yok |
| Android | Qualcomm QNN 0.24.0 · HTP FP16 | yalnız ön deneme turunda (Android 4.0 ölçümleri ertelendi) |
Hangi puana girer?
- Hiçbir süitte değildir: adı bir birimi ölçtüğü için süitlere girmez (birim adlı testler kendi biriminde kalır). KAI Benchmark Skoru'na katkısı yoktur.
- Donanım katmanındadır ve KAI Donanım'ın NPU bloğunun 3 üyesinden biridir (blok ağırlığı 1,0). Bu test eksikse ya da "tamam" değilse blok verilmez; blok verilmezse KAI Donanım da verilmez. KAI Donanım.
Referans ve puan
Puan = ölçülen ÷ referans × 1000. Referans değer 50 görsel/sn; 1000 puan nominal termal durumdaki iPhone 15 Pro sınıfını temsil eder. Bu referans henüz kestirimdir ve kalibrasyon bekler; cihazlar arası oranlar bundan etkilenmez.
Platform. iPhone ve iPad, Mac, Android.