Pular para o conteúdo
Todas as trilhas
Entender a IAInicianteSem código8 capítulos120 min

Entendendo os modelos

Os tipos de modelo que os agentes usam, de onde vêm e como compará-los. Com números, sem código.

Para quem quer saber o que há dentro dos modelos por trás das ferramentas de IA. Você vê como o texto vira tokens, como um modelo escolhe o próximo, como os modelos são feitos, qual é o tamanho deles e o que suas licenças permitem, e depois escolhe um modelo para um agente. Os exemplos combinam modelos fechados com modelos abertos, e cada número vem de um levantamento datado.

Capítulos

  1. Capítulo 1Aberto

    Tipos de modelo

    Modelos de chat, de raciocínio, multimodais e de embedding, rerankers e modelos de fala, de imagem, de guarda e pequenos fazem trabalhos diferentes, e um agente costuma usar vários.

  2. Capítulo 2Bloqueado

    Tokens

    Os modelos leem e escrevem texto como tokens, cada família de modelos divide o texto do seu jeito, e tanto os preços quanto os limites de contexto são contados em tokens.

    14 min
  3. Capítulo 3Bloqueado

    Escolher o próximo token

    Um modelo dá uma pontuação a cada próximo token possível, transforma as pontuações em probabilidades e sorteia um; a temperatura, o top-k e o top-p mudam o sorteio, e os modelos base, instruct e de raciocínio são treinados para escrever de jeitos diferentes.

    14 min
  4. Capítulo 4Bloqueado

    De onde vêm os modelos

    Um modelo é feito em etapas, dos dados e do pré-treinamento ao ajuste fino, ao feedback, à destilação e à quantização, e nos modelos abertos muitas etapas deixam um arquivo que você pode inspecionar.

    15 min
  5. Capítulo 5Bloqueado

    Tamanho e memória

    A memória de que um modelo precisa vem dos seus parâmetros e dos bits que guardam cada um, mais espaço para o seu contexto; uma mistura de especialistas usa poucos dos seus parâmetros em cada token, mas mantém todos na memória.

    15 min
  6. Capítulo 6Bloqueado

    Modelos abertos e fechados

    Alguns modelos só podem ser usados pelo serviço do criador, outros compartilham os seus pesos com licenças que vão de rígidas a permissivas, e alguns poucos são de código aberto, com os seus dados e o seu código.

    15 min
  7. Capítulo 7Bloqueado

    Comparar modelos

    Benchmarks e rankings ajudam a comparar modelos, mas as margens de erro, os ajustes de esforço, o custo, os testes vazados, os testes no limite, o programa do teste e quem o rodou mudam o que uma pontuação significa.

    15 min
  8. Capítulo 8Bloqueado

    Escolher um modelo para um agente

    Escolher um modelo é descartar os que falham em um limite rígido e depois pesar capacidade, velocidade, preço por tarefa, contexto e confiabilidade com ferramentas para o trabalho de um agente.

    18 min