YOLO11 Modelinden TFLite Edge TPU Formatına Aktarmayı Öğrenin
Mobil veya gömülü sistemler gibi sınırlı işlem gücüne sahip cihazlarda bilgisayar görüşü modellerini dağıtmak zor olabilir. Daha hızlı performans için optimize edilmiş bir model formatı kullanmak süreci basitleştirir. TensorFlow Lite Edge TPU veya TFLite Edge TPU model formatı, sinir ağları için hızlı performans sunarken minimum güç kullanmak üzere tasarlanmıştır.
TFLite Edge TPU biçimine dışa aktarma özelliği, Ultralytics YOLO11 modellerinizi yüksek hızlı ve düşük güçlü çıkarım için optimize etmenize olanak tanır. Bu kılavuzda, modellerinizi TFLite Edge TPU biçimine dönüştürme konusunda size yol göstereceğiz, böylece modellerinizin çeşitli mobil ve gömülü cihazlarda iyi performans göstermesini kolaylaştıracağız.
Neden TFLite Edge TPU'ya Aktarmalısınız?
Modelleri TensorFlow Edge TPU'ya aktarmak, makine öğrenimi görevlerini hızlı ve verimli hale getirir. Bu teknoloji, sınırlı güç, bilgi işlem kaynakları ve bağlantıya sahip uygulamalar için uygundur. Edge TPU, Google tarafından geliştirilen bir donanım hızlandırıcısıdır. TensorFlow Lite modellerini uç cihazlarda hızlandırır. Aşağıdaki resim, ilgili sürecin bir örneğini göstermektedir.
Edge TPU, nicelenmiş modellerle çalışır. Nicemleme, çok fazla doğruluk kaybetmeden modelleri daha küçük ve daha hızlı hale getirir. Kenar bilişimin sınırlı kaynakları için idealdir, gecikmeyi azaltarak ve bulut bağımlılığı olmadan verilerin yerel olarak hızlı bir şekilde işlenmesini sağlayarak uygulamaların hızlı yanıt vermesine olanak tanır. Yerel işleme ayrıca, uzak bir sunucuya gönderilmediği için kullanıcı verilerini gizli ve güvende tutar.
TFLite Edge TPU'nun Temel Özellikleri
İşte TFLite Edge TPU'yu geliştiriciler için harika bir model formatı seçimi yapan temel özellikler:
-
Uç Cihazlarda Optimize Edilmiş Performans: TFLite Edge TPU, niceleme, model optimizasyonu, donanım hızlandırması ve derleyici optimizasyonu yoluyla yüksek hızlı sinir ağı performansı elde eder. Minimalist mimarisi, daha küçük boyutuna ve maliyet etkinliğine katkıda bulunur.
-
Yüksek Hesaplama Verimi: TFLite Edge TPU, yüksek hesaplama verimi elde etmek için özel donanım hızlandırmasını ve verimli çalışma zamanı yürütmesini birleştirir. Uç cihazlarda zorlu performans gereksinimlerine sahip makine öğrenimi modellerini dağıtmak için çok uygundur.
-
Verimli Matris Hesaplamaları: TensorFlow Edge TPU, sinir ağı hesaplamaları için çok önemli olan matris işlemleri için optimize edilmiştir. Bu verimlilik, özellikle çok sayıda ve karmaşık matris çarpımı ve dönüşümü gerektiren makine öğrenimi modellerinde önemlidir.
TFLite Edge TPU ile Dağıtım Seçenekleri
YOLO11 modellerini TFLite Edge TPU biçimine nasıl aktaracağımıza geçmeden önce, TFLite Edge TPU modellerinin genellikle nerede kullanıldığını anlayalım.
TFLite Edge TPU, makine öğrenimi modelleri için çeşitli dağıtım seçenekleri sunar:
-
Cihaz Üzerinde Dağıtım: TensorFlow Edge TPU modelleri doğrudan mobil ve gömülü cihazlara dağıtılabilir. Cihaz üzerinde dağıtım, modellerin doğrudan donanım üzerinde çalışmasını sağlayarak bulut bağlantısı ihtiyacını ortadan kaldırır.
-
Cloud TensorFlow TPU'ları ile Edge Computing: Uç cihazların sınırlı işlem yeteneklerine sahip olduğu senaryolarda, TensorFlow Edge TPU'ları çıkarım görevlerini TPU'larla donatılmış bulut sunucularına aktarabilir.
-
Hibrit Dağıtım: Hibrit bir yaklaşım, cihaz üzerinde ve bulut dağıtımını birleştirir ve makine öğrenimi modellerini dağıtmak için çok yönlü ve ölçeklenebilir bir çözüm sunar. Avantajları arasında hızlı yanıtlar için cihaz üzerinde işleme ve daha karmaşık hesaplamalar için bulut bilişim yer alır.
YOLO11 Modellerini TFLite Edge TPU'ya Aktarma
YOLO11 modellerini TensorFlow Edge TPU'ya dönüştürerek model uyumluluğunu ve dağıtım esnekliğini artırabilirsiniz.
Kurulum
Gerekli paketi yüklemek için şunu çalıştırın:
Kurulum
# Install the required package for YOLO11
pip install ultralytics
Yükleme süreciyle ilgili ayrıntılı talimatlar ve en iyi uygulamalar için Ultralytics Kurulum kılavuzumuza bakın. YOLO11 için gerekli paketleri yüklerken herhangi bir zorlukla karşılaşırsanız, çözümler ve ipuçları için Sık Karşılaşılan Sorunlar kılavuzumuza başvurun.
Kullanım
Tüm Ultralytics YOLO11 modelleri, kutudan çıkar çıkmaz dışa aktarmayı destekleyecek şekilde tasarlanmıştır ve bu da onları tercih ettiğiniz dağıtım iş akışına entegre etmeyi kolaylaştırır. Uygulamanız için en iyi kurulumu seçmek üzere desteklenen dışa aktarma biçimlerinin ve yapılandırma seçeneklerinin tam listesini görüntüleyebilirsiniz.
Kullanım
from ultralytics import YOLO
# Load the YOLO11 model
model = YOLO("yolo11n.pt")
# Export the model to TFLite Edge TPU format
model.export(format="edgetpu") # creates 'yolo11n_full_integer_quant_edgetpu.tflite'
# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo11n_full_integer_quant_edgetpu.tflite")
# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")
# Export a YOLO11n PyTorch model to TFLite Edge TPU format
yolo export model=yolo11n.pt format=edgetpu # creates 'yolo11n_full_integer_quant_edgetpu.tflite'
# Run inference with the exported model
yolo predict model=yolo11n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'
Dışa Aktarma Argümanları
Argüman | Tür | Varsayılan | Açıklama |
---|---|---|---|
format |
str |
'edgetpu' |
Çeşitli dağıtım ortamlarıyla uyumluluğu tanımlayan, dışa aktarılan modelin hedef formatı. |
imgsz |
int veya tuple |
640 |
Model girişi için istenen görüntü boyutu. Kare görüntüler için bir tamsayı veya bir demet olabilir (height, width) belirli boyutlar için. |
device |
str |
None |
Dışa aktarma için cihazı belirtir: CPU (device=cpu ). |
İpucu
EdgeTPU'ya aktarırken lütfen bir x86 Linux makinesi kullandığınızdan emin olun.
Dışa aktarma süreci hakkında daha fazla bilgi için Ultralytics'in dışa aktarma hakkındaki dokümantasyon sayfasını ziyaret edin.
Dışa Aktarılmış YOLO11 TFLite Edge TPU Modellerini Dağıtma
Ultralytics YOLO11 modellerinizi TFLite Edge TPU formatına başarıyla aktardıktan sonra, artık bunları dağıtabilirsiniz. Bir TFLite Edge TPU modelini çalıştırmak için birincil ve önerilen ilk adım, önceki kullanım kodu parçasında belirtildiği gibi YOLO("model_edgetpu.tflite") yöntemini kullanmaktır.
Ancak, TFLite Edge TPU modellerinizi dağıtma konusunda ayrıntılı talimatlar için aşağıdaki kaynaklara göz atın:
-
Ultralytics YOLO11 ile Raspberry Pi üzerinde Coral Edge TPU: Gelişmiş makine öğrenimi yetenekleri için Coral Edge TPU'ları Raspberry Pi ile nasıl entegre edeceğinizi keşfedin.
-
Kod Örnekleri: Projelerinize başlamak için pratik TensorFlow Edge TPU dağıtım örneklerine erişin.
-
Edge TPU üzerinde Python ile Çıkarım Çalıştırma: Kurulum ve kullanım yönergeleri de dahil olmak üzere, Edge TPU uygulamaları için TensorFlow Lite Python API'sinin nasıl kullanılacağını keşfedin.
Özet
Bu kılavuzda, Ultralytics YOLO11 modellerini TFLite Edge TPU formatına nasıl aktaracağımızı öğrendik. Yukarıda bahsedilen adımları izleyerek, bilgisayarlı görü uygulamalarınızın hızını ve gücünü artırabilirsiniz.
Kullanım hakkında daha fazla bilgi için Edge TPU resmi web sitesini ziyaret edin.
Ayrıca, diğer Ultralytics YOLO11 entegrasyonları hakkında daha fazla bilgi için lütfen entegrasyon kılavuzu sayfamızı ziyaret edin. Orada, değerli kaynaklar ve içgörüler keşfedeceksiniz.
SSS
Bir YOLO11 modelini TFLite Edge TPU formatına nasıl aktarabilirim?
Bir YOLO11 modelini TFLite Edge TPU formatına aktarmak için şu adımları izleyebilirsiniz:
Kullanım
from ultralytics import YOLO
# Load the YOLO11 model
model = YOLO("yolo11n.pt")
# Export the model to TFLite Edge TPU format
model.export(format="edgetpu") # creates 'yolo11n_full_integer_quant_edgetpu.tflite'
# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo11n_full_integer_quant_edgetpu.tflite")
# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")
# Export a YOLO11n PyTorch model to TFLite Edge TPU format
yolo export model=yolo11n.pt format=edgetpu # creates 'yolo11n_full_integer_quant_edgetpu.tflite'
# Run inference with the exported model
yolo predict model=yolo11n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'
Modelleri diğer formatlara aktarma hakkında eksiksiz bilgi için dışa aktarma kılavuzumuza bakın.
YOLO11 modellerini TFLite Edge TPU'ya aktarmanın faydaları nelerdir?
YOLO11 modellerini TFLite Edge TPU'ya aktarmanın çeşitli faydaları vardır:
- Optimize Edilmiş Performans: Minimum güç tüketimiyle yüksek hızlı sinir ağı performansı elde edin.
- Azaltılmış Gecikme: Bulut bağımlılığına ihtiyaç duymadan hızlı yerel veri işleme.
- Gelişmiş Gizlilik: Yerel işleme, kullanıcı verilerini gizli ve güvende tutar.
Bu, cihazların sınırlı güç ve hesaplama kaynaklarına sahip olduğu uç bilişimdeki uygulamalar için idealdir. Neden dışa aktarmanız gerektiği hakkında daha fazla bilgi edinin.
TFLite Edge TPU modellerini mobil ve gömülü cihazlarda dağıtabilir miyim?
Evet, TensorFlow Lite Edge TPU modelleri doğrudan mobil ve gömülü cihazlara dağıtılabilir. Bu dağıtım yaklaşımı, modellerin doğrudan donanım üzerinde çalışmasını sağlayarak daha hızlı ve daha verimli çıkarım sunar. Entegrasyon örnekleri için, Raspberry Pi üzerinde Coral Edge TPU dağıtımı hakkındaki kılavuzumuza göz atın.
TFLite Edge TPU modelleri için bazı yaygın kullanım durumları nelerdir?
TFLite Edge TPU modelleri için yaygın kullanım örnekleri şunlardır:
- Akıllı Kameralar: Gerçek zamanlı görüntü ve video analizini geliştirme.
- IoT Cihazları: Akıllı ev ve endüstriyel otomasyonu etkinleştirme.
- Sağlık Hizmetleri: Tıbbi görüntüleme ve teşhisi hızlandırma.
- Perakende: Envanter yönetimini ve müşteri davranış analizini iyileştirme.
Bu uygulamalar, TFLite Edge TPU modellerinin yüksek performansı ve düşük güç tüketiminden yararlanır. Kullanım senaryoları hakkında daha fazla bilgi edinin.
TFLite Edge TPU modellerini dışa aktarırken veya dağıtırken sorunları nasıl giderebilirim?
TFLite Edge TPU modellerini dışa aktarırken veya dağıtırken sorunlarla karşılaşırsanız, sorun giderme ipuçları için Ortak Sorunlar kılavuzumuza bakın. Bu kılavuz, sorunsuz çalışmayı sağlamanıza yardımcı olmak için yaygın sorunları ve çözümleri kapsar. Ek destek için Yardım Merkezimizi ziyaret edin.