Neural Magic'in DeepSparse Motoru ile YOLO11 Çıkarımlarını Optimize Etme

Ultralytics YOLO11 gibi nesne algılama modellerini çeşitli donanımlara dağıtırken, optimizasyon gibi benzersiz sorunlarla karşılaşabilirsiniz. İşte bu noktada YOLO11'in Neural Magic'in DeepSparse Engine ile entegrasyonu devreye giriyor. YOLO11 modellerinin yürütülme şeklini dönüştürür ve doğrudan CPU'lar üzerinde GPU düzeyinde performans sağlar.

Bu kılavuz, YOLO11'i Neural Magic'in DeepSparse'u kullanarak nasıl dağıtabileceğinizi, çıkarımları nasıl çalıştıracağınızı ve ayrıca optimize edildiğinden emin olmak için performansı nasıl kıyaslayacağınızı gösterir.

Neural Magic'in DeepSparse'u

Neural Magic'in DeepSparse'u, sinir ağlarının CPU'lar üzerindeki yürütülmesini optimize etmek için tasarlanmış bir çıkarım çalışma zamanıdır. Doğruluğu korurken hesaplama taleplerini önemli ölçüde azaltmak için seyreklik, budama ve niceleme gibi gelişmiş teknikler uygular. DeepSparse, çeşitli cihazlarda verimli ve ölçeklenebilir sinir ağı yürütmesi için çevik bir çözüm sunar.

Neural Magic'in DeepSparse'unun YOLO11 ile Entegrasyonunun Faydaları

DeepSparse kullanarak YOLO11'i nasıl dağıtacağımıza dalmadan önce, DeepSparse kullanmanın faydalarını anlayalım. Bazı önemli avantajlar şunlardır:

• Gelişmiş Çıkarım Hızı: 525 FPS'ye (YOLO11n üzerinde) kadar ulaşır ve YOLO11'in çıkarım yeteneklerini geleneksel yöntemlere kıyasla önemli ölçüde hızlandırır.

• Optimize Edilmiş Model Verimliliği: YOLO11'in verimliliğini artırmak için budama ve niceleme kullanır, model boyutunu ve hesaplama gereksinimlerini azaltırken doğruluğu korur.

• Standart CPU'larda Yüksek Performans: CPU'larda GPU benzeri performans sunarak çeşitli uygulamalar için daha erişilebilir ve uygun maliyetli bir seçenek sunar.

• Kolaylaştırılmış Entegrasyon ve Dağıtım: YOLO11'in uygulamalara kolay entegrasyonu için, görüntü ve video açıklama özellikleri de dahil olmak üzere kullanıcı dostu araçlar sunar.

• Çeşitli Model Türleri için Destek: Hem standart hem de seyreklik için optimize edilmiş YOLO11 modelleriyle uyumludur ve dağıtım esnekliği ekler.

• Uygun Maliyetli ve Ölçeklenebilir Çözüm: Operasyonel giderleri azaltır ve gelişmiş nesne algılama modellerinin ölçeklenebilir dağıtımını sunar.

Neural Magic'in DeepSparse Teknolojisi Nasıl Çalışır?

Neural Magic'in Deep Sparse teknolojisi, insan beyninin sinir ağı hesaplamasındaki verimliliğinden ilham almıştır. Beyinden aşağıdaki iki temel ilkeyi benimser:

• Seyreklik: Seyreltme işlemi, doğruluktan ödün vermeden daha küçük ve daha hızlı modellere yol açan derin öğrenme ağlarından yedekli bilgileri ayıklamayı içerir. Bu teknik, ağın boyutunu ve hesaplama ihtiyaçlarını önemli ölçüde azaltır.

• Referans Yerelliği (Locality of Reference): DeepSparse, ağı Tensor Sütunlarına ayırarak benzersiz bir yürütme yöntemi kullanır. Bu sütunlar, tamamen CPU'nun önbelleğine sığacak şekilde derinlemesine yürütülür. Bu yaklaşım, beynin verimliliğini taklit ederek veri hareketini en aza indirir ve CPU'nun önbellek kullanımını en üst düzeye çıkarır.

Neural Magic'in DeepSparse teknolojisinin nasıl çalıştığı hakkında daha fazla bilgi için blog gönderilerine göz atın.

Özel Bir Veri Kümesinde Eğitilmiş YOLO11'in Seyrek Bir Sürümünü Oluşturma

Neural Magic tarafından sunulan açık kaynaklı bir model deposu olan SparseZoo, önceden seyreltilmiş YOLO11 model kontrol noktaları koleksiyonu sunar. Ultralytics ile sorunsuz bir şekilde entegre edilmiş SparseML ile kullanıcılar, basit bir komut satırı arayüzü kullanarak bu seyrek kontrol noktalarını kendi özel veri kümelerinde zahmetsizce ince ayar yapabilirler.

Daha fazla ayrıntı için Neural Magic'in SparseML YOLO11 belgelerine göz atın.

Kullanım: DeepSparse kullanarak YOLO11'i dağıtma

YOLO11'i Neural Magic'in DeepSparse'u ile dağıtmak birkaç basit adım içerir. Kullanım talimatlarına dalmadan önce, Ultralytics tarafından sunulan YOLO11 modelleri yelpazesine göz atmayı unutmayın. Bu, proje gereksinimleriniz için en uygun modeli seçmenize yardımcı olacaktır. İşte nasıl başlayabileceğiniz.

Adım 1: Kurulum

Gerekli paketleri kurmak için şunu çalıştırın:

# Install the required packages
pip install deepsparse[yolov8]

Adım 2: YOLO11'i ONNX Formatına Aktarma

DeepSparse Motoru, ONNX formatında YOLO11 modelleri gerektirir. Modelinizi bu formata aktarmak, DeepSparse ile uyumluluk için önemlidir. YOLO11 modellerini dışa aktarmak için aşağıdaki komutu kullanın:

# Export YOLO11 model to ONNX format
yolo task=detect mode=export model=yolo11n.pt format=onnx opset=13

Bu komut şunu kaydedecektir: yolo11n.onnx modelinizi diskinize kaydetmenizi sağlar.

Adım 3: Çıkarımları Dağıtma ve Çalıştırma

ONNX formatındaki YOLO11 modelinizle, DeepSparse kullanarak çıkarımlar dağıtabilir ve çalıştırabilirsiniz. Bu, sezgisel python API'leri ile kolayca yapılabilir:

from deepsparse import Pipeline

# Specify the path to your YOLO11 ONNX model
model_path = "path/to/yolo11n.onnx"

# Set up the DeepSparse Pipeline
yolo_pipeline = Pipeline.create(task="yolov8", model_path=model_path)

# Run the model on your images
images = ["path/to/image.jpg"]
pipeline_outputs = yolo_pipeline(images=images)

Adım 4: Performansı Kıyaslama

YOLO11 modelinizin DeepSparse üzerinde optimum şekilde çalıştığını kontrol etmek önemlidir. Verimi ve gecikmeyi analiz etmek için modelinizin performansını benchmark yapabilirsiniz:

# Benchmark performance
deepsparse.benchmark model_path="path/to/yolo11n.onnx" --scenario=sync --input_shapes="[1,3,640,640]"

Adım 5: Ek Özellikler

DeepSparse, görüntü açıklama ve veri kümesi değerlendirmesi gibi YOLO11'in uygulamalara pratik entegrasyonu için ek özellikler sağlar.

# For image annotation
deepsparse.yolov8.annotate --source "path/to/image.jpg" --model_filepath "path/to/yolo11n.onnx"

# For evaluating model performance on a dataset
deepsparse.yolov8.eval --model_path "path/to/yolo11n.onnx"

Açıklama ekle komutunu çalıştırmak, belirttiğiniz görüntüyü işler, nesneleri algılar ve açıklamalı görüntüyü sınırlayıcı kutular ve sınıflandırmalarla kaydeder. Açıklamalı görüntü, bir açıklama-sonuçları klasöründe saklanacaktır. Bu, modelin algılama yeteneklerinin görsel bir temsilini sağlamaya yardımcı olur.

Eval komutunu çalıştırdıktan sonra, kesinlik, geri çağırma ve mAP (ortalama Ortalama Kesinlik) gibi ayrıntılı çıktı ölçümleri alacaksınız. Bu, modelinizin veri kümesi üzerindeki performansının kapsamlı bir görünümünü sağlar. Bu işlevsellik, YOLO11 modellerinizi belirli kullanım durumları için ince ayar yapmak ve optimize etmek, yüksek doğruluk ve verimlilik sağlamak için özellikle yararlıdır.

Özet

Bu kılavuz, Ultralytics'in YOLO11'inin Neural Magic'in DeepSparse Motoru ile entegrasyonunu inceledi. Bu entegrasyonun, YOLO11'in CPU platformlarındaki performansını nasıl artırdığını, GPU düzeyinde verimlilik ve gelişmiş sinir ağı seyrekliği teknikleri sunduğunu vurguladı.

Daha detaylı bilgi ve gelişmiş kullanım için Neural Magic tarafından hazırlanan DeepSparse dökümanlarını ziyaret edin. Ayrıca YOLO11 entegrasyon kılavuzunu inceleyebilir ve YouTube'da bir tanıtım oturumu izleyebilirsiniz.

Ek olarak, çeşitli YOLO11 entegrasyonlarını daha geniş bir şekilde anlamak için, başka heyecan verici entegrasyon olasılıklarını keşfedebileceğiniz Ultralytics entegrasyon kılavuzu sayfasını ziyaret edin.

SSS

Neural Magic'in DeepSparse Motoru nedir ve YOLO11 performansını nasıl optimize eder?

Neural Magic'in DeepSparse Engine'i, seyreklik, budama ve niceleme gibi gelişmiş teknikler aracılığıyla CPU'lar üzerindeki sinir ağlarının yürütülmesini optimize etmek için tasarlanmış bir çıkarım çalışma zamanıdır. DeepSparse'u YOLO11 ile entegre ederek, standart CPU'larda GPU benzeri performans elde edebilir, çıkarım hızını, model verimliliğini ve genel performansı önemli ölçüde artırırken doğruluğu koruyabilirsiniz. Daha fazla ayrıntı için Neural Magic'in DeepSparse bölümüne göz atın.

Neural Magic'in DeepSparse'unu kullanarak YOLO11'i dağıtmak için gereken paketleri nasıl kurabilirim?

Neural Magic'in DeepSparse'u ile YOLO11'i dağıtmak için gerekli paketleri yüklemek basittir. Bunları CLI'yı kullanarak kolayca yükleyebilirsiniz. İşte çalıştırmanız gereken komut:

pip install deepsparse[yolov8]

Kurulduktan sonra, ortamınızı ayarlamak ve DeepSparse'ı YOLO11 ile kullanmaya başlamak için Kurulum bölümünde verilen adımları izleyin.

YOLO11 modellerini DeepSparse ile kullanım için ONNX formatına nasıl dönüştürürüm?

YOLO11 modellerini, DeepSparse ile uyumluluk için gerekli olan ONNX formatına dönüştürmek için aşağıdaki CLI komutunu kullanabilirsiniz:

yolo task=detect mode=export model=yolo11n.pt format=onnx opset=13

Bu komut, YOLO11 modelinizi dışa aktaracaktır (yolo11n.pt) biçimine (yolo11n.onnx), DeepSparse Motoru tarafından kullanılabilen bir formattır. Model dışa aktarımı hakkında daha fazla bilgiyi şurada bulabilirsiniz: Model Dışa Aktarma bölümü.

DeepSparse Engine üzerinde YOLO11 performansını nasıl karşılaştırabilirim?

DeepSparse üzerinde YOLO11 performansını kıyaslamak, modelinizin optimize edildiğinden emin olmak için verimi ve gecikmeyi analiz etmenize yardımcı olur. Bir kıyaslama çalıştırmak için aşağıdaki CLI komutunu kullanabilirsiniz:

deepsparse.benchmark model_path="path/to/yolo11n.onnx" --scenario=sync --input_shapes="[1,3,640,640]"

Bu komut size hayati performans metrikleri sağlayacaktır. Daha fazla ayrıntı için Performans Kıyaslama bölümüne bakın.

Nesne algılama görevleri için neden Neural Magic'in DeepSparse'unu YOLO11 ile kullanmalıyım?

Neural Magic'in DeepSparse'ını YOLO11 ile entegre etmek çeşitli avantajlar sunar:

• Gelişmiş Çıkarım Hızı: 525 FPS'ye kadar ulaşır ve YOLO11'in yeteneklerini önemli ölçüde hızlandırır.
• Optimize Edilmiş Model Verimliliği: Doğruluğu korurken model boyutunu ve hesaplama ihtiyaçlarını azaltmak için seyreklik, budama ve niceleme tekniklerini kullanır.
• Standart CPU'larda Yüksek Performans: Uygun maliyetli CPU donanımında GPU benzeri performans sunar.
• Kolaylaştırılmış Entegrasyon: Kolay dağıtım ve entegrasyon için kullanıcı dostu araçlar.
• Esneklik: Hem standart hem de seyreklik için optimize edilmiş YOLO11 modellerini destekler.
• Uygun Maliyetli: Verimli kaynak kullanımı yoluyla operasyonel giderleri azaltır.

Bu avantajlara daha derinlemesine bir bakış için, Neural Magic'in DeepSparse'u ile YOLO11 Entegrasyonunun Faydaları bölümünü ziyaret edin.

📅 1 yıl önce oluşturuldu ✏️ 23 gün önce güncellendi

Yorumlar