Tokenização e inferência
Converter entradas em unidades do modelo e executar o cálculo que produz uma saída.
Por que está neste território
Compreender modelos e construir produtos cuja funcionalidade depende de aprendizado de máquina, LLMs, recuperação ou agentes.
Relações
requiresLarge language models (LLMs)
Ferramentas relacionadas
Transformers, Ollama, vLLM