Ham Hesaplama

Neden bu grup?

Bu grubun testlerinin çoğu KAI Donanım'ın dört bloğunu besler: tek çekirdek Tepkisellik'te; derleme, veritabanı sunumu ve JavaScript CPU çok çekirdek'te; GPU matris çarpımı, bant genişliği ve GPU probu GPU bloğunda; üç NPU testi NPU bloğunda. Üretici kütüphaneleriyle ölçülen eşleri (MPS / cuBLAS, Accelerate / oneMKL, tensör çarpımı) üretici katmanındadır. Süitlere yalnız işi temsil edenler girer: tek ve çok çekirdek, derleme, veritabanı, JavaScript, FP16 GEMM.

Donanım katmanı. Aynı baytlar, aynı algoritma, aynı kaynak kod (kai-core) ya da aynı GPU çekirdeği Metal'de ve Vulkan'da; aynı garanti. KAI Donanım ve sekiz donanım bloğu bu katmandan hesaplanır. Kabul edilen istisna NPU ve GPU problarıdır: Neural Engine'e Core ML'den, NPU'ya LiteRT ya da ONNX Runtime'dan başka yol yoktur.

Üretici katmanı. Üreticinin ya da platformun en hızlı motoru: Apple'da MPS, Accelerate, MLX, Core ML, ProRes; Windows'ta CUDA, cuBLAS, TensorRT, oneMKL. Puan: KAI Üretici. Süit üyesi olan üretici testleri her platformda aynı işi yapar ve süitlerde platformlar arası karşılaştırılır.

Testler

CPU Tek Çekirdekcompute.cpu.single Bu test işlemcinin tek bir işi ne kadar hızlı bitirdiğini ölçer (uygulama açmak, sayfa yüklemek gibi). Tek çekirdekiş/sn · Donanım → CPU Çok Çekirdekcompute.cpu.multi Bu test işlemcinin bütün çekirdekleri birlikte çalışırken çıkardığı işi ölçer (dışa aktarma, arşivleme, derleme gibi uzun işler). Çok çekirdekiş/sn · Donanım → CPU Matris Çarpımı (taşınabilir)compute.cpu.gemm Bu test işlemcinin yoğun sayısal hesap gücünü ölçer (bilimsel hesap ve yapay zekâ modellerinin temel işlemi). FP32 GEMM (2048³)GFLOPS · Donanım → GPU Matris Çarpımı (taşınabilir, FP16)compute.gemm.fp16 Bu test grafik işlemcisinin ham hesap gücünü ölçer (yapay zekâ modellerinin ve görsel efektlerin temel işlemi). FP16 GEMM (4096³)GFLOPS · Donanım → GPU Matris Çarpımı (MPS / cuBLAS, FP16)compute.gemm.vendor Bu test grafik işlemcisinin, üreticinin kendi matris kütüphanesiyle ulaştığı hesap gücünü ölçer (yapay zekâ uygulamalarının çoğu bu yolu kullanır). FP16 GEMM (4096³)GFLOPS · Üretici → GPU Tensör Çarpımı (FP16)compute.gemm.tensor Bu test grafik işlemcisinin, yapay zekâ yazılımlarının kullandığı yoldaki hesap gücünü ölçer (model çalıştırma ve eğitme gibi). Tensör FP16 (4096³)GFLOPS · Üretici → Bellek Bant Genişliğicompute.bandwidth Bu test grafik işlemcisinin bellekten veriyi ne kadar hızlı okuyup yazdığını ölçer (büyük dil modellerinin yanıt yazma hızını bu belirler). Bant genişliğiGB/sn · Donanım → Neural Engine / NPU Verimicompute.probe.neuralEngine Bu test yapay zekâ işlemcisinin hızını ölçer (fotoğrafta nesne tanıma, canlı altyazı, kamera efektleri gibi). Neural Engine verimiGFLOPS · Donanım → GPU Verimicompute.probe.gpu Bu test grafik işlemcisinin bir yapay zekâ modelini ne kadar hızlı çalıştırdığını ölçer (görüntü iyileştirme, oyunlardaki akıllı ölçekleme gibi). GPU verimiGFLOPS · Donanım → NPU Toplu Verimcompute.npu.batch Bu test yapay zekâ işlemcisinin çok sayıda görseli art arda işlerken ulaştığı hızı ölçer (fotoğraf kitaplığını taramak, toplu görsel işlemek gibi). NPU toplu verimgörsel/sn · Donanım → NPU Dönüştürücücompute.npu.transformer Bu test yapay zekâ işlemcisinin metin anlayan modelleri ne kadar hızlı çalıştırdığını ölçer (çeviri, arama, yazı önerileri gibi). NPU dönüştürücü verimiçıkarım/sn · Donanım → Birleşik Motor Verimicompute.probe.all Bu test bir yapay zekâ modelinin, işi cihaz kendi birimleri arasında paylaştırdığında ne kadar hızlı çalıştığını ölçer (uygulamaların hiçbir ayar yapmadan aldığı hız). Birleşik verimGFLOPS · Üretici → CPU Matris Çarpımıcompute.matrix.cpu Bu test işlemcinin, üreticinin özel hesap birimleriyle ulaştığı sayısal hesap gücünü ölçer (ses, görüntü ve yapay zekâ hesapları gibi). FP32 GEMM (2048³)GFLOPS · Üretici → JavaScript Motorucompute.javascript Bu test web sayfalarının ve web tabanlı uygulamaların kodunu çalıştırma hızını ölçer (tarayıcı, sohbet ve ofis uygulamaları gibi). JavaScript (tüm çekirdekler)iş/sn · Donanım → Veritabanı Sunumucompute.database Bu test cihazın aynı anda çok sayıda veritabanı işlemini ne kadar hızlı yaptığını ölçer (sipariş, kayıt ve sorgu işleyen uygulamalar gibi). Eşzamanlı işlemişlem/sn · Donanım → Derlemecompute.compile Bu test büyük bir yazılım projesini derleme hızını ölçer (kaynak koddan çalışan uygulama üretmek gibi). Derleme hızısatır/sn · Donanım → Sürdürülebilir GPU Yükücompute.sustained Bu test grafik işlemcisinin kısa süreli kesintisiz yükte hızını ne kadar koruduğunu ölçer (ısınınca yavaşlama gibi). Korunan performans% · Donanım · bilgi →