Aprenda a exportar para o formato TFLite Edge TPU a partir do modelo YOLO11

A implantação de modelos de visão computacional em dispositivos com poder computacional limitado, como sistemas móveis ou embarcados, pode ser complicada. Usar um formato de modelo otimizado para um desempenho mais rápido simplifica o processo. O formato de modelo TensorFlow Lite Edge TPU ou TFLite Edge TPU foi projetado para usar o mínimo de energia, oferecendo desempenho rápido para redes neurais.

O recurso de exportação para o formato TFLite Edge TPU permite otimizar seus modelos Ultralytics YOLO11 para inferência de alta velocidade e baixo consumo de energia. Neste guia, vamos orientá-lo sobre como converter seus modelos para o formato TFLite Edge TPU, facilitando o bom desempenho de seus modelos em vários dispositivos móveis e embarcados.

Por que você deve exportar para TFLite Edge TPU?

Exportar modelos para TensorFlow Edge TPU torna as tarefas de machine learning rápidas e eficientes. Esta tecnologia é adequada para aplicações com energia, recursos computacionais e conectividade limitados. O Edge TPU é um acelerador de hardware da Google. Ele acelera os modelos TensorFlow Lite em dispositivos de borda. A imagem abaixo mostra um exemplo do processo envolvido.

O Edge TPU funciona com modelos quantizados. A quantização torna os modelos menores e mais rápidos sem perder muita precisão. É ideal para os recursos limitados da computação de borda, permitindo que os aplicativos respondam rapidamente, reduzindo a latência e permitindo o processamento rápido de dados localmente, sem dependência da nuvem. O processamento local também mantém os dados do usuário privados e seguros, pois não são enviados para um servidor remoto.

Principais Características do TFLite Edge TPU

Aqui estão os principais recursos que tornam o TFLite Edge TPU uma ótima opção de formato de modelo para desenvolvedores:

• Desempenho Otimizado em Dispositivos Edge: O TFLite Edge TPU alcança desempenho de rede neural de alta velocidade por meio de quantização, otimização de modelo, aceleração de hardware e otimização de compilador. Sua arquitetura minimalista contribui para seu tamanho menor e custo-benefício.

• Alto Rendimento Computacional: O TFLite Edge TPU combina aceleração de hardware especializada e execução de runtime eficiente para alcançar um alto rendimento computacional. É adequado para implementar modelos de machine learning com requisitos de desempenho rigorosos em dispositivos edge.

• Computações de Matriz Eficientes: O TensorFlow Edge TPU é otimizado para operações de matriz, que são cruciais para computações de redes neurais. Essa eficiência é fundamental em modelos de aprendizado de máquina, particularmente aqueles que exigem inúmeras e complexas multiplicações e transformações de matrizes.

Opções de Implementação com TFLite Edge TPU

Antes de vermos como exportar modelos YOLO11 para o formato TFLite Edge TPU, vamos entender onde os modelos TFLite Edge TPU são normalmente usados.

O TFLite Edge TPU oferece várias opções de implementação para modelos de machine learning, incluindo:

• Implantação On-Device: Os modelos TensorFlow Edge TPU podem ser implantados diretamente em dispositivos móveis e embarcados. A implantação on-device permite que os modelos sejam executados diretamente no hardware, eliminando a necessidade de conectividade com a nuvem.

• Computação Edge com Cloud TensorFlow TPUs: Em cenários onde os dispositivos edge têm capacidades de processamento limitadas, os TensorFlow Edge TPUs podem descarregar tarefas de inferência para servidores em nuvem equipados com TPUs.

• Implantação Híbrida: Uma abordagem híbrida combina a implantação no dispositivo e na nuvem, oferecendo uma solução versátil e escalável para implementar modelos de machine learning. As vantagens incluem o processamento no dispositivo para respostas rápidas e a computação em nuvem para cálculos mais complexos.

Exportando Modelos YOLO11 para TFLite Edge TPU

Você pode expandir a compatibilidade do modelo e a flexibilidade de implantação convertendo modelos YOLO11 para TensorFlow Edge TPU.

Instalação

Para instalar o pacote necessário, execute:

# Install the required package for YOLO11
pip install ultralytics

Para obter instruções detalhadas e melhores práticas relacionadas ao processo de instalação, consulte nosso guia de instalação do Ultralytics. Ao instalar os pacotes necessários para o YOLO11, se você encontrar alguma dificuldade, consulte nosso guia de problemas comuns para obter soluções e dicas.

Utilização

Todos os modelos Ultralytics YOLO11 são projetados para suportar a exportação, facilitando a integração em seu fluxo de trabalho de implantação preferido. Você pode visualizar a lista completa de formatos de exportação e opções de configuração suportados para escolher a melhor configuração para sua aplicação.

from ultralytics import YOLO

# Load the YOLO11 model
model = YOLO("yolo11n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo11n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")

# Export a YOLO11n PyTorch model to TFLite Edge TPU format
yolo export model=yolo11n.pt format=edgetpu # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Run inference with the exported model
yolo predict model=yolo11n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'

Argumentos de Exportação

Para mais detalhes sobre o processo de exportação, visite a página de documentação da Ultralytics sobre exportação.

Implantação de Modelos TFLite Edge TPU YOLO11 Exportados

Após exportar com sucesso seus modelos Ultralytics YOLO11 para o formato TFLite Edge TPU, você já pode implementá-los. O primeiro passo principal e recomendado para executar um modelo TFLite Edge TPU é usar o método YOLO("model_edgetpu.tflite"), conforme descrito no trecho de código de uso anterior.

No entanto, para obter instruções detalhadas sobre como implementar seus modelos TFLite Edge TPU, consulte os seguintes recursos:

• Coral Edge TPU em um Raspberry Pi com Ultralytics YOLO11: Descubra como integrar Coral Edge TPUs com Raspberry Pi para recursos aprimorados de aprendizado de máquina.

• Exemplos de Código: Acesse exemplos práticos de implantação do TensorFlow Edge TPU para dar o pontapé inicial em seus projetos.

• Executar Inferência na Edge TPU com Python: Explore como usar a API Python do TensorFlow Lite para aplicações Edge TPU, incluindo diretrizes de configuração e uso.

Resumo

Neste guia, aprendemos como exportar modelos Ultralytics YOLO11 para o formato TFLite Edge TPU. Seguindo as etapas mencionadas acima, você pode aumentar a velocidade e o poder de suas aplicações de visão computacional.

Para obter mais detalhes sobre o uso, visite o site oficial do Edge TPU.

Além disso, para obter mais informações sobre outras integrações do Ultralytics YOLO11, visite nossa página do guia de integração. Lá, você descobrirá recursos e insights valiosos.

FAQ

Como exportar um modelo YOLO11 para o formato TFLite Edge TPU?

Para exportar um modelo YOLO11 para o formato TFLite Edge TPU, você pode seguir estes passos:

from ultralytics import YOLO

# Load the YOLO11 model
model = YOLO("yolo11n.pt")

# Export the model to TFLite Edge TPU format
model.export(format="edgetpu")  # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Load the exported TFLite Edge TPU model
edgetpu_model = YOLO("yolo11n_full_integer_quant_edgetpu.tflite")

# Run inference
results = edgetpu_model("https://ultralytics.com/images/bus.jpg")

# Export a YOLO11n PyTorch model to TFLite Edge TPU format
yolo export model=yolo11n.pt format=edgetpu # creates 'yolo11n_full_integer_quant_edgetpu.tflite'

# Run inference with the exported model
yolo predict model=yolo11n_full_integer_quant_edgetpu.tflite source='https://ultralytics.com/images/bus.jpg'

Para detalhes completos sobre como exportar modelos para outros formatos, consulte nosso guia de exportação.

Quais são os benefícios de exportar modelos YOLO11 para TFLite Edge TPU?

Exportar modelos YOLO11 para TFLite Edge TPU oferece vários benefícios:

• Desempenho Otimizado: Alcance desempenho de rede neural de alta velocidade com consumo mínimo de energia.
• Latência Reduzida: Processamento rápido de dados locais sem necessidade de dependência da nuvem.
• Privacidade Aprimorada: O processamento local mantém os dados do usuário privados e seguros.

Isto torna-o ideal para aplicações em edge computing, onde os dispositivos têm energia e recursos computacionais limitados. Saiba mais sobre por que você deve exportar.

Posso implementar modelos TFLite Edge TPU em dispositivos móveis e embarcados?

Sim, os modelos TensorFlow Lite Edge TPU podem ser implantados diretamente em dispositivos móveis e embarcados. Essa abordagem de implantação permite que os modelos sejam executados diretamente no hardware, oferecendo uma inferência mais rápida e eficiente. Para exemplos de integração, consulte nosso guia sobre como implantar o Coral Edge TPU no Raspberry Pi.

Quais são alguns casos de uso comuns para modelos TFLite Edge TPU?

Casos de uso comuns para modelos TFLite Edge TPU incluem:

• Câmeras Inteligentes: Aprimorando a análise de imagem e vídeo em tempo real.
• Dispositivos IoT: Habilitando casas inteligentes e automação industrial.
• Assistência Médica: Aceleração de imagens e diagnósticos médicos.
• Varejo: Melhorando o gerenciamento de estoque e a análise do comportamento do cliente.

Esses aplicativos se beneficiam do alto desempenho e baixo consumo de energia dos modelos TFLite Edge TPU. Descubra mais sobre cenários de uso.

Como posso solucionar problemas ao exportar ou implantar modelos TFLite Edge TPU?

Se você encontrar problemas ao exportar ou implantar modelos TFLite Edge TPU, consulte nosso Guia de Problemas Comuns para dicas de solução de problemas. Este guia aborda problemas e soluções comuns para ajudá-lo a garantir uma operação tranquila. Para suporte adicional, visite nossa Central de Ajuda.

📅 Criado há 1 ano ✏️ Atualizado há 3 meses

Comentários