LLM
É um modelo de IA de grande porte, treinado com muito texto para entender instruções e produzir conteúdo.
Exemplo: O GPT-4, da OpenAI, é um LLM conhecido por seu uso no ChatGPT.
Referência prática
Conceitos essenciais sobre modelos, conhecimento, agentes e infraestrutura explicados de forma simples e direta.
Como os modelos de IA funcionam, o que diferencia seus tamanhos e do que precisam para operar.
É um modelo de IA de grande porte, treinado com muito texto para entender instruções e produzir conteúdo.
Exemplo: O GPT-4, da OpenAI, é um LLM conhecido por seu uso no ChatGPT.
É um modelo de IA menor, criado para gastar menos recursos e resolver tarefas mais específicas.
Exemplo: O Phi-3 Mini, da Microsoft, é um SLM que pode funcionar em equipamentos mais modestos.
É um ajuste interno aprendido pelo modelo durante o treinamento e usado para decidir como responder.
Exemplo: Quanto mais parâmetros um modelo possui, mais ajustes internos ele pode usar para interpretar uma pergunta.
São abreviações usadas para indicar milhões e bilhões de parâmetros.
Exemplo: 300M significa 300 milhões, enquanto 7B significa 7 bilhões.
Indica um modelo com cerca de 300 milhões de parâmetros, normalmente leve e econômico.
Exemplo: Um modelo 300M pode ser adequado para classificação simples em uma máquina com pouca memória.
Indica um modelo com cerca de 1 bilhão de parâmetros.
Exemplo: Um modelo 1B costuma equilibrar baixo consumo e capacidade para tarefas bem definidas.
Indicam modelos progressivamente maiores, que costumam compreender tarefas mais complexas, mas exigem mais memória e processamento.
Exemplo: Um modelo 7B normalmente precisa de uma máquina mais potente do que um modelo 3B.
É um modelo que utiliza quase toda a sua capacidade interna sempre que processa uma entrada.
Exemplo: Ao responder uma pergunta, um modelo denso aciona praticamente todos os seus parâmetros.
Significa Mistura de Especialistas. O modelo possui partes especializadas e ativa somente as mais úteis para cada entrada.
Exemplo: Uma pergunta sobre programação pode ativar partes diferentes das usadas para analisar um contrato.
São os ajustes internos realmente usados pelo modelo durante um processamento.
Exemplo: Um modelo pode ter muitos parâmetros no total, mas usar apenas uma parte deles em cada resposta.
É uma pequena parte do texto que o modelo lê ou escreve. Pode ser uma palavra inteira, parte dela ou um sinal.
Exemplo: A frase “Bom dia” pode ser dividida em mais de um token.
É o limite de conteúdo que o modelo consegue considerar ao mesmo tempo.
Exemplo: Uma janela maior permite analisar um documento longo sem descartar suas primeiras páginas.
É o momento em que um modelo já treinado recebe uma entrada e produz um resultado.
Exemplo: Pedir um resumo e receber a resposta é uma inferência.
É uma forma de compactar o modelo para reduzir o uso de memória e processamento, com possível perda de qualidade.
Exemplo: Uma versão quantizada pode funcionar em uma máquina menor do que a versão original.
É um modelo executado em uma máquina controlada pelo próprio projeto, sem depender sempre de um serviço externo.
Exemplo: Uma empresa pode executar um modelo Llama em seu próprio servidor.
É a capacidade de trabalhar com diferentes tipos de conteúdo, como texto, imagem e áudio.
Exemplo: O GPT-4o pode interpretar uma imagem acompanhada de uma pergunta em texto.
Como documentos e dados são preparados, organizados e encontrados para apoiar resultados de IA.
É uma técnica que procura informações em uma base confiável antes de o modelo produzir a resposta.
Exemplo: Antes de responder sobre uma política interna, o sistema consulta os documentos oficiais da empresa.
É uma base organizada de documentos, textos ou dados que podem ser consultados pela IA.
Exemplo: Manuais, normas e perguntas frequentes podem formar uma knowledge base.
É a preparação de um conteúdo para que ele possa ser armazenado e pesquisado.
Exemplo: Um PDF é lido, limpo e separado em trechos antes de entrar na base.
É uma prévia do conteúdo preparado antes de sua gravação definitiva.
Exemplo: A pessoa revisa os trechos extraídos de um PDF e só depois confirma a inclusão.
É a organização do conteúdo em um formato que permite encontrá-lo com rapidez.
Exemplo: Depois de indexado, um manual pode ser localizado por assunto em poucos instantes.
É a repetição da indexação quando o conteúdo ou a forma de organizá-lo muda.
Exemplo: Ao substituir um regulamento antigo, a base é reindexada para usar a nova versão.
É um pequeno trecho retirado de um conteúdo maior para facilitar a busca.
Exemplo: Um documento de vinte páginas pode ser separado em dezenas de chunks.
É o processo de dividir um conteúdo em pequenos trechos.
Exemplo: Um manual pode ser dividido por parágrafos ou seções para facilitar sua consulta.
É a repetição de uma pequena parte do texto entre dois trechos vizinhos para evitar perda de contexto.
Exemplo: O fim de um parágrafo pode aparecer também no início do trecho seguinte.
É uma representação numérica criada para comparar o significado de conteúdos.
Exemplo: Os termos “carro” e “automóvel” recebem representações próximas por terem sentidos semelhantes.
É o modelo que transforma textos em representações numéricas comparáveis.
Exemplo: O Qwen3 Embedding pode transformar uma pergunta e um documento em valores usados pela busca.
É a quantidade de valores usada para representar o significado de cada conteúdo.
Exemplo: Uma representação com 1.024 dimensões contém 1.024 valores numéricos.
É um banco preparado para guardar representações numéricas e encontrar conteúdos com significados próximos.
Exemplo: Uma busca por “cancelar assinatura” pode localizar um texto chamado “encerramento de plano”.
É uma busca que considera o significado da pergunta, mesmo quando as palavras são diferentes.
Exemplo: Buscar “como encerrar meu plano” pode encontrar um documento sobre cancelamento.
É uma busca que procura palavras, códigos ou expressões iguais às informadas.
Exemplo: Pesquisar o código “NF-2048” retorna registros que contêm exatamente esse código.
É a combinação da busca por significado com a busca por palavras exatas.
Exemplo: Uma pesquisa pode considerar tanto o assunto quanto um código específico de produto.
É um método que reúne listas de resultados de diferentes buscas e favorece itens bem posicionados em mais de uma delas.
Exemplo: Um documento encontrado tanto pelo significado quanto pelas palavras usadas tende a subir na lista final.
É o limite de resultados que uma busca deve devolver.
Exemplo: Com top-k igual a 5, a busca retorna no máximo cinco resultados.
É uma nota que indica o quanto um resultado combina com a pesquisa.
Exemplo: Um resultado com nota alta tende a ser mais útil para a pergunta feita.
É a nota mínima exigida para aceitar um resultado.
Exemplo: Se o limite for 0,70, um resultado com 0,50 será descartado.
São informações que descrevem um conteúdo e ajudam a organizá-lo.
Exemplo: Nome do arquivo, autor, categoria, idioma e página são metadados.
São regras que restringem uma busca a determinados conteúdos.
Exemplo: A pesquisa pode considerar apenas documentos do setor financeiro publicados neste ano.
É uma segunda avaliação que reorganiza os resultados para colocar os mais úteis primeiro.
Exemplo: Depois da busca inicial, um modelo revê dez documentos e coloca os três melhores no topo.
É a escolha de uma categoria com base no significado do conteúdo.
Exemplo: Um documento sobre férias pode ser classificado automaticamente como “Recursos Humanos”.
É uma regra que mantém o mesmo modelo de embedding na gravação e na busca para evitar comparações incompatíveis.
Exemplo: Se uma base foi criada com Qwen3 Embedding, a pesquisa continua usando esse mesmo modelo.
É um recurso oferecido por algumas plataformas de IA para guardar arquivos e pesquisar dentro deles.
Exemplo: A OpenAI oferece File Search para consultar conteúdos enviados à sua plataforma.
É a configuração que define de onde a IA deve buscar informações, ou se deve responder sem consultar uma base.
Exemplo: Uma configuração pode usar documentos internos, a busca da plataforma contratada ou nenhuma base.
Como comportamentos, regras, informações e ações são organizados em uma solução de IA.
É a camada que organiza modelos, regras, conhecimento, ferramentas e execuções em um único lugar.
Exemplo: Um sistema usa o motor para consultar documentos, escolher um modelo e registrar o resultado.
É uma configuração de IA preparada para cumprir uma função com regras, conhecimento e ferramentas definidos.
Exemplo: Um agent pode analisar contratos seguindo critérios específicos da empresa.
É o conteúdo enviado ao modelo para explicar a tarefa e fornecer contexto.
Exemplo: “Resuma este documento em cinco tópicos” é um prompt simples.
É o conjunto principal de regras que orienta o comportamento do modelo durante toda a execução.
Exemplo: Uma regra pode determinar que o modelo responda apenas com dados encontrados nos documentos.
São orientações que explicam como a IA deve realizar uma tarefa.
Exemplo: Uma instrução pode pedir linguagem objetiva e exigir a indicação da fonte consultada.
É o componente que reúne regras, contexto e dados na ordem correta antes de enviá-los ao modelo.
Exemplo: Ele combina as regras da empresa com a pergunta e os documentos encontrados.
É um conjunto reutilizável de orientações para ensinar a IA a realizar um tipo de tarefa.
Exemplo: Uma skill pode definir como revisar um contrato ou resumir um relatório financeiro.
É a ordem em que uma skill deve ser considerada quando várias estão ativas.
Exemplo: Uma regra de segurança pode ter prioridade maior do que uma orientação de estilo.
É uma regra de proteção que limita ou bloqueia comportamentos indesejados.
Exemplo: Um guardrail pode impedir a exibição de dados pessoais em uma resposta.
É um recurso externo que a IA pode acionar para consultar dados ou executar uma tarefa.
Exemplo: Uma tool pode consultar o estoque de um produto em um sistema interno.
É o momento em que o modelo identifica a necessidade de usar uma tool e solicita sua execução.
Exemplo: Para verificar um preço atualizado, o modelo solicita a consulta ao sistema de produtos.
É uma forma automática de um sistema enviar dados para outro quando algo acontece.
Exemplo: Ao concluir um processamento, o motor envia o resultado para o sistema da empresa.
É um padrão de conexão que permite à IA acessar ferramentas e dados de outros sistemas de forma organizada.
Exemplo: Um servidor MCP pode permitir que a IA consulte produtos armazenados em um sistema antigo.
Significa manter uma pessoa no processo para revisar, aprovar ou complementar uma ação da IA.
Exemplo: Uma alteração importante só é executada depois da aprovação de um responsável.
É uma execução completa, desde o recebimento da entrada até a produção do resultado.
Exemplo: Analisar um documento e devolver sua categoria corresponde a uma run.
É um agrupamento de execuções relacionadas ao mesmo trabalho ou contexto.
Exemplo: Várias análises feitas durante o processamento de um relatório podem pertencer à mesma session.
É o armazenamento de informações que podem ser recuperadas em execuções futuras.
Exemplo: O sistema pode guardar uma preferência de formato para reutilizá-la depois.
É um resultado entregue com campos e organização previsíveis, em vez de texto livre.
Exemplo: Uma análise pode retornar sempre os campos “categoria”, “resumo” e “nível de risco”.
É uma lista de regras que define quais campos e tipos de informação um resultado estruturado deve possuir.
Exemplo: O schema pode exigir “nome” como texto e “preço” como número.
É o conjunto de informações oficiais que explica como a empresa funciona.
Exemplo: Regras comerciais, setores, políticas e processos internos formam o business context.
É uma lista organizada de produtos e suas informações para consulta pela IA.
Exemplo: Nome, preço, descrição e regras de venda podem compor o catálogo.
É um recurso que identifica o objetivo de uma entrada e direciona o processamento adequado.
Exemplo: Uma solicitação pode ser identificada como consulta de produto, análise de documento ou busca interna.
É uma comparação entre duas configurações para descobrir qual produz melhores resultados.
Exemplo: A mesma tarefa é executada com dois modelos e os resultados são comparados por qualidade, custo e velocidade.
Como os modelos são fornecidos, executados, acompanhados e mantidos em funcionamento.
É uma empresa ou plataforma que oferece acesso a modelos de IA.
Exemplo: OpenAI, Google e Anthropic são providers.
É a capacidade de trabalhar com modelos de diferentes providers na mesma solução.
Exemplo: Uma tarefa pode usar um modelo da OpenAI e outra usar um modelo do Google.
Significa usar a própria chave de acesso da empresa para contratar diretamente um provider.
Exemplo: O cliente conecta sua chave da OpenAI e o consumo é cobrado em sua própria conta.
É o ambiente de software que prepara e executa cada tarefa de IA.
Exemplo: O runtime carrega as regras, conecta as ferramentas e envia a entrada ao modelo.
É uma forma organizada de dois sistemas trocarem dados e solicitarem ações.
Exemplo: Um sistema consulta uma API para obter o preço atualizado de um produto.
É uma pequena parte independente de um sistema, responsável por uma função específica.
Exemplo: Um microserviço pode cuidar apenas da geração de embeddings.
É uma ferramenta que facilita instalar, executar e acessar modelos de IA em uma máquina própria.
Exemplo: O Ollama pode executar um modelo Llama em um servidor local.
É a produção de resultados por um modelo executado em uma máquina controlada pelo projeto.
Exemplo: Um servidor da empresa processa os documentos sem enviar o conteúdo a uma API externa.
É uma máquina ou ambiente reservado e preparado para um projeto específico.
Exemplo: Uma empresa pode ter um servidor exclusivo para seu motor e seus modelos de IA.
É o tempo de espera entre enviar uma solicitação e receber o resultado.
Exemplo: Se a resposta chega dois segundos depois do envio, a latência foi de dois segundos.
É uma cópia temporária de um resultado usada para evitar repetir o mesmo processamento.
Exemplo: Uma consulta frequente pode reutilizar um resultado recente e responder mais rápido.
É uma nova tentativa automática feita após pausas que aumentam quando um serviço continua indisponível.
Exemplo: O sistema tenta novamente após um segundo, depois dois e depois quatro.
É o registro de informações sobre o funcionamento de cada execução.
Exemplo: Duração, custo, quantidade de texto processado e erros podem aparecer em um painel.
É a capacidade de acompanhar o sistema e descobrir por que algo ficou lento, falhou ou produziu um resultado inesperado.
Exemplo: Os registros mostram em qual etapa uma análise falhou e quanto tempo ela levou.
É o valor estimado para concluir uma execução inteira.
Exemplo: O cálculo pode somar o uso do modelo, da busca e de outros serviços acionados.