{"id":205283,"date":"2025-12-09T10:15:18","date_gmt":"2025-12-09T13:15:18","guid":{"rendered":"https:\/\/goias.gov.br\/ligo\/?p=205283"},"modified":"2025-12-17T11:01:29","modified_gmt":"2025-12-17T14:01:29","slug":"evoluindo-a-arquitetura-de-modelos-com-langchain","status":"publish","type":"post","link":"https:\/\/goias.gov.br\/ligo\/evoluindo-a-arquitetura-de-modelos-com-langchain\/","title":{"rendered":"Evoluindo a Arquitetura de Modelos com LangChain"},"content":{"rendered":"\n

Comparando a Vers\u00e3o da Classe Ollama<\/em> e a Abordagem ChatOllama<\/em><\/strong><\/mark>
<\/strong><\/mark><\/em><\/p>\n

<\/p>\n

Quando trabalhamos com m\u00faltiplos provedores de modelos (como Ollama, Gemini, OpenAI e Azure), \u00e9 recomend\u00e1vel manter um padr\u00e3o nas tipagens e um comportamento uniforme nos projetos. Principalmente naqueles que envolvem RAG, pipelines de avalia\u00e7\u00e3o ou conversas multi-turno, qualquer inconsist\u00eancia no contrato dos modelos rapidamente se torna um gargalo t\u00e9cnico.\u00a0 Nos \u00faltimos meses, o ecossistema LangChain tem passado por mudan\u00e7as significativas, tanto na nomenclatura quanto na arquitetura interna dos seus conectores com modelos de linguagem. Um exemplo claro disso pode ser observado na migra\u00e7\u00e3o do uso da classe Ollama do LangChain <\/em>para ChatOllama <\/em>em aplica\u00e7\u00f5es que integram modelos locais. Al\u00e9m disso, h\u00e1 uma nova \u00eanfase na extra\u00e7\u00e3o de metadados de uso, como contagem de tokens, o que traz benef\u00edcios tanto operacionais quanto de controle de custos. O objetivo deste artigo \u00e9 apresentar os principais pontos de mudan\u00e7a nessa nova abordagem.<\/p>\n

<\/p>\n

Nota: Neste texto, o termo provedor (ou provider) \u00e9 usado no sentido comum da engenharia de IA, ou seja, refere-se \u00e0 plataforma ou servi\u00e7o que hospeda e disponibiliza um modelo de linguagem (como OpenAI, Google, Azure ou Ollama).<\/em><\/h4>\n

<\/p>\n

A implementa\u00e7\u00e3o da classe Ollama<\/em><\/h2>\n

<\/p>\n

A importa\u00e7\u00e3o do LangChain com o Ollama <\/em><\/strong>\u00e9 feito como:<\/p>\n

<\/p>\n

import { Ollama } from \"@langchain\/ollama\";<\/em><\/code><\/p>\n

<\/p>\n

No entanto, essa classe gen\u00e9rica Ollama <\/em>n\u00e3o estava alinhada com a interface de chat utilizada por outros provedores como OpenAI e Gemini. Isso criava inconsist\u00eancias na forma como as mensagens eram formatadas e processadas, especialmente ao usar invoke<\/em>, stream ou outros m\u00e9todos do BaseChatModel<\/em>.\u00a0 Al\u00e9m disso, n\u00e3o havia suporte expl\u00edcito para metadados de uso, o que dificultava o monitoramento de consumo de tokens em ambientes h\u00edbridos (ex: Ollama local + OpenAI em produ\u00e7\u00e3o).<\/p>\n

<\/p>\n

A implementa\u00e7\u00e3o Vers\u00e3o ChatOllama<\/em><\/h2>\n

<\/p>\n

A importa\u00e7\u00e3o do LangChain com o ChatOllama <\/em><\/strong>\u00e9 feito como:<\/p>\n

<\/p>\n

import { ChatOllama } from \"@langchain\/ollama\";<\/em><\/code><\/p>\n

<\/p>\n

Com a atualiza\u00e7\u00e3o temos consist\u00eancia de interface: Agora, todos os provedores (ChatOllama, ChatGoogleGenerativeAI, ChatOpenAI, etc.) herdam de BaseChatModel<\/em>. Isso garante que m\u00e9todos como invoke<\/em>, stream <\/em>e batch <\/em>funcionem da mesma forma, independentemente do provedor.\u00a0\u00a0<\/p>\n

<\/p>\n

Tamb\u00e9m temos compatibilidade com sistemas de mem\u00f3ria e agentes: Muitos componentes do LangChain (como ConversationalRetrievalChain, AgentExecutor) esperam um BaseChatModel<\/em>. Usar ChatOllama <\/em>torna a integra\u00e7\u00e3o mais fluida.\u00a0 Outrossim \u00e9 o suporte a mensagens estruturadas: A nova classe trabalha com objetos do tipo BaseMessage<\/em>, permitindo manipula\u00e7\u00e3o granular de HumanMessage, AIMessage, SystemMessag<\/em>e…<\/p>\n

<\/p>\n

A migra\u00e7\u00e3o<\/h2>\n

<\/p>\n

Ao optar pela migra\u00e7\u00e3o dos projetos para a vers\u00e3o ChatOllama<\/em>, temos a vantagem de trabalhar com mensagens estruturadas, nas quais o c\u00f3digo fica mais limpo, leg\u00edvel e mais alinhado \u00e0 forma como os modelos foram treinados. Al\u00e9m disso, com a formata\u00e7\u00e3o autom\u00e1tica do prompt evitamos o desperd\u00edcio de tokens em compara\u00e7\u00e3o com a formata\u00e7\u00e3o manual.<\/p>\n

<\/p>\n

Considera\u00e7\u00f5es finais<\/h2>\n

<\/p>\n

Na pr\u00e1tica da ci\u00eancia de dados aplicada a LLMs, a capacidade de isolar vari\u00e1veis, modelo,\u00a0 prompt ou contexto depende diretamente da estabilidade da interface de infer\u00eancia. A utiliza\u00e7\u00e3o da classe Ollama do LangChain <\/em>como inst\u00e2ncia de LLM (baseada em strings brutas) introduzia um vi\u00e9s sistem\u00e1tico: a formata\u00e7\u00e3o do prompt ficava sob responsabilidade do c\u00f3digo da aplica\u00e7\u00e3o, n\u00e3o do modelo. Isso n\u00e3o apenas dificultava a reprodutibilidade entre provedores, como tamb\u00e9m contaminava compara\u00e7\u00f5es de desempenho, j\u00e1 que varia\u00e7\u00f5es na estrutura do prompt impactavam diretamente no consumo de tokens e na coer\u00eancia das respostas.<\/p>\n

<\/p>\n

A migra\u00e7\u00e3o para ChatOllama <\/em>resolve esse problema ao alinhar a interface local ao padr\u00e3o BaseChatModel<\/em>, usado por OpenAI, Gemini e outros. Isso permite que:<\/p>\n

<\/p>\n