​

Entendendo Tipos de Modelos

Diferentes tarefas de IA requerem diferentes arquiteturas de modelos. Pense nisso como escolher a ferramenta certa para o trabalho - você não usaria um martelo para pintar uma parede.

​

Language Models (LLMs)

Os modelos mais versáteis que entendem e geram linguagem humana.

​

O Que Fazem

Modelos de linguagem podem:

• Responder perguntas
• Escrever conteúdo
• Traduzir idiomas
• Resumir texto
• Gerar código
• Seguir instruções

​

Modelos Comuns

​

Quando Usar

Escolha modelos de linguagem quando precisar:

• Entendimento de linguagem natural
• Geração de texto
• Resposta a perguntas
• IA conversacional
• Geração de código

​

Modelos de Classificação

Especializados para classificar coisas em categorias.

​

Text Classification

Categorize texto em grupos predefinidos:

• Análise de sentimento (positivo/negativo)
• Classificação de tópicos
• Detecção de intenção
• Detecção de idioma

Melhores modelos: BERT, DistilBERT, RoBERTa

​

Image Classification

Identifique o que há em uma imagem:

• Reconhecimento de objetos
• Diagnóstico médico
• Controle de qualidade
• Moderação de conteúdo

Melhores modelos: ResNet, EfficientNet, Vision Transformer (ViT)

​

Multimodal Classification

Lide com texto e imagens:

• Entendimento de memes
• Análise de documentos
• Categorização de produtos

Melhores modelos: CLIP, LayoutLM, ALIGN

​

Token Classification

Rotula palavras ou tokens individuais em texto.

​

Named Entity Recognition (NER)

Encontre e rotule informações específicas:

• Nomes de pessoas, lugares, organizações
• Datas e horários
• Nomes de produtos
• Termos médicos

​

Part-of-Speech Tagging

Identifique papéis gramaticais:

• Substantivos, verbos, adjetivos
• Análise de estrutura de sentenças

Melhores modelos: BERT-NER, RoBERTa-token, SpaCy transformers

​

Sequence-to-Sequence

Transforme uma sequência em outra.

​

Translation

Converta texto entre idiomas:

• Tradução de documentos
• Tradução de chat em tempo real
• Tradução de código

​

Summarization

Condense texto longo:

• Resumos de artigos
• Notas de reunião
• Digestos de relatórios

​

Question Answering

Extraia respostas do contexto:

• Suporte ao cliente
• Q&A de documentos
• Ferramentas educacionais

Melhores modelos: T5, BART, mT5 (multilíngue)

​

Modelos de Computer Vision

Processe e entenda imagens.

​

Object Detection

Encontre e localize objetos em imagens:

• Caixas delimitadoras ao redor de objetos
• Conte itens
• Rastreie movimento

Melhores modelos: YOLO, Faster R-CNN, DETR

​

Image Segmentation

Entendimento em nível de pixel:

• Imagens médicas
• Condução autônoma
• Edição de fotos

Melhores modelos: U-Net, Mask R-CNN, SAM

​

Image Generation

Crie novas imagens:

• Geração de arte
• Visualização de produtos
• Aumento de dados

Melhores modelos: Stable Diffusion, DALL-E, Midjourney

​

Modelos Tabulares

Trabalhe com dados estruturados como planilhas.

​

Regression

Preveja valores contínuos:

• Previsão de preços
• Previsão de vendas
• Pontuação de risco

​

Classification

Categorize linhas:

• Churn de clientes
• Detecção de fraude
• Diagnóstico de doenças

Melhores modelos: XGBoost, CatBoost, TabNet

​

Escolhendo o Modelo Certo

​

Considere Seus Dados

​

Considere Seus Recursos

Recursos Limitados (< 8GB GPU)

• DistilBERT (66M parâmetros)
• MobileBERT (25M parâmetros)
• TinyBERT (15M parâmetros)

Recursos Moderados (8-16GB GPU)

• BERT-base (110M parâmetros)
• GPT-2 small (124M parâmetros)
• RoBERTa-base (125M parâmetros)

Bons Recursos (24GB+ GPU)

• GPT-2 large (774M parâmetros)
• T5-large (770M parâmetros)
• LLaMA 7B (7B parâmetros)

​

Considere Suas Necessidades de Precisão

Velocidade sobre precisão

• Use modelos destilados (DistilBERT, DistilGPT-2)
• Arquiteturas menores
• Modelos quantizados

Precisão sobre velocidade

• Use modelos maiores
• Ensemble de múltiplos modelos
• Tempos de treinamento mais longos

​

Tamanhos de Modelos e Trade-offs

​

Contagem de Parâmetros

Parâmetros são as partes ajustáveis de um modelo. Mais parâmetros geralmente significam:

• Melhor entendimento
• Maior precisão
• Mais memória necessária
• Inferência mais lenta

​

Diretrizes de Tamanho

​

Pré-treinado vs Do Zero

​

Use Modelos Pré-treinados

99% das vezes, comece com um modelo pré-treinado:

• Já entende linguagem/imagens
• Precisa de menos dados de treinamento
• Mais rápido para treinar
• Melhores resultados

​

Treine do Zero Apenas Quando

• Trabalhando com tipos de dados únicos
• Domínio especial (médico, legal)
• Arquiteturas personalizadas
• Propósitos de pesquisa

​

Estratégias de Fine-tuning

​

Full Fine-tuning

Atualize todos os parâmetros do modelo:

• Melhor precisão
• Precisa de mais memória
• Risco de overfitting

​

LoRA (Low-Rank Adaptation)

Atualize apenas pequenos adaptadores:

• 90% menos memória
• Treinamento mais rápido
• Precisão ligeiramente menor
• Perfeito para modelos grandes

​

Prompt Tuning

Treine apenas embeddings de prompt:

• Memória mínima
• Muito rápido
• Bom para few-shot learning

​

Estratégias de Freeze

Congele algumas camadas:

• Congele camadas iniciais: Mantenha características gerais
• Congele camadas finais: Mantenha características específicas da tarefa
• Descongelamento gradual: Comece congelado, descongele lentamente

​

Modelos Multi-tarefa

Alguns modelos podem lidar com múltiplas tarefas:

​

Família T5

• Resumo de texto
• Tradução
• Resposta a perguntas
• Classificação

Apenas mude o prefixo do prompt:

• “summarize: …”
• “translate English to French: …”
• “question: … context: …”

​

Modelos FLAN

Pré-treinados em muitas tarefas:

• Melhor desempenho zero-shot
• Mais flexíveis
• Bom seguimento de instruções

​

Arquiteturas Especializadas

​

Transformers

O padrão atual:

• Processamento paralelo
• Dependências de longo alcance
• A maioria dos modelos modernos

​

CNNs (Convolutional Neural Networks)

Ainda ótimos para imagens:

• Eficientes
• Bem compreendidos
• Bons para dispositivos edge

​

RNNs (Recurrent Neural Networks)

Mais antigos mas ainda úteis:

• Dados sequenciais
• Séries temporais
• Aplicações de streaming

​

Ouça: Além de LLMs - Um Mergulho Profundo

Uma conversa de 45 minutos sobre tipos de modelos além de modelos de linguagem, cobrindo visão, tabular e arquiteturas especializadas.

​

Próximos Passos

Pronto para começar a treinar?