{"id":205639,"date":"2026-09-03T16:55:50","date_gmt":"2026-09-03T19:55:50","guid":{"rendered":"https:\/\/goias.gov.br\/ligo\/?p=205639"},"modified":"2026-09-08T11:52:11","modified_gmt":"2026-09-08T14:52:11","slug":"modernizacao-digital-como-a-otimizacao-de-inteligencia-artificial-reduziu-o-tempo-de-resposta-em-99-na-arquitetura-de-ia-do-estado-mantida-pelo-ligo","status":"publish","type":"post","link":"https:\/\/goias.gov.br\/ligo\/modernizacao-digital-como-a-otimizacao-de-inteligencia-artificial-reduziu-o-tempo-de-resposta-em-99-na-arquitetura-de-ia-do-estado-mantida-pelo-ligo\/","title":{"rendered":"Moderniza\u00e7\u00e3o Digital: Como a Otimiza\u00e7\u00e3o de Intelig\u00eancia Artificial Reduziu o Tempo de Resposta em 99% na Arquitetura de IA do Estado Mantida pelo LIGO"},"content":{"rendered":"\n
\"\"<\/figure>\n\n\n\n

A transforma\u00e7\u00e3o digital dos servi\u00e7os governamentais deu um salto expressivo com a recente reestrutura\u00e7\u00e3o da plataforma de Intelig\u00eancia Artificial desenvolvido e mantido pelo Laborat\u00f3rio de Inova\u00e7\u00e3o Goi\u00e1s (LIGO)<\/strong>, hospedado no DATACENTER do Estado (GO Cloud). Por meio da combina\u00e7\u00e3o de aceleradores gr\u00e1ficos NVIDIA A100<\/strong>, orquestra\u00e7\u00e3o em Red Hat OpenShift AI<\/strong> e a engine de infer\u00eancia vLLM<\/strong>, a equipe t\u00e9cnica superou gargalos hist\u00f3ricos de concorr\u00eancia e transformou o ecossistema de modelos de linguagem (LLMs) em uma estrutura de alto rendimento para toda a administra\u00e7\u00e3o p\u00fablica.<\/p>\n\n\n\n

\n\n\n\n

O Desafio da Concorr\u00eancia e a Solu\u00e7\u00e3o de Engenharia<\/strong><\/h3>\n\n\n\n

No modelo anterior, os modelos de IA operavam disputando fra\u00e7\u00f5es da mesma placa de v\u00eddeo (45% de VRAM para cada). Com o aumento da demanda em testes de 50 usu\u00e1rios simult\u00e2neos, a mem\u00f3ria tempor\u00e1ria de atendimento (KV Cache<\/em>) se esgotava, gerando longas filas de espera que chegavam a mais de um minuto por resposta.<\/p>\n\n\n\n

Para resolver o problema em definitivo, a arquitetura foi redesenhada:<\/p>\n\n\n\n

    \n
  1. Dedica\u00e7\u00e3o Exclusiva de GPU:<\/strong> O modelo de maior demanda conversacional (Qwen3 8B<\/strong>) recebeu uma GPU A100 dedicada com 95% de aproveitamento de VRAM.<\/li>\n\n\n\n
  2. Processamento Fracionado (Chunked Prefill<\/em>):<\/strong> O sistema passou a fatiar prompts longos em blocos, impedindo que textos extensos travassem as respostas de outros usu\u00e1rios.<\/li>\n\n\n\n
  3. Ajuste Fino de Paralelismo:<\/strong> Otimiza\u00e7\u00e3o dos par\u00e2metros de lote cont\u00ednuo (Continuous Batching<\/em>) para o Llama 3.1 8B<\/strong> e Qwen3 8B<\/strong>.<\/li>\n<\/ol>\n\n\n\n
    \n\n\n\n

    Desempenho Comprovado: De Minutos para Milissegundos<\/strong><\/h3>\n\n\n\n

    Os testes com 100 usu\u00e1rios simult\u00e2neos<\/strong> (o dobro da carga inicial) atestaram uma evolu\u00e7\u00e3o dr\u00e1stica nos indicadores de desempenho:<\/p>\n\n\n\n

    Modelo Analisado<\/strong><\/td>Cen\u00e1rio de Uso<\/strong><\/td>Tempo at\u00e9 o 1\u00ba Token (TTFT)<\/strong><\/td>Vaz\u00e3o (Requisi\u00e7\u00f5es\/s)<\/strong><\/td>Ganho de Efici\u00eancia<\/strong><\/td><\/tr>
    Qwen3 8B<\/strong><\/td>Antes (Legado)<\/td>64,6 segundos<\/td>0,40 req\/s<\/td>Linha de base<\/td><\/tr>
    Qwen3 8B<\/strong><\/td>Depois (Otimizado)<\/strong><\/td>0,20 segundo (207 ms)<\/strong><\/td>4,00 req\/s<\/strong><\/td>+900% de vaz\u00e3o \/ -99,7% de espera<\/strong><\/td><\/tr>
    Llama 3.1 8B<\/strong><\/td>Antes (Legado)<\/td>43,5 segundos<\/td>0,60 req\/s<\/td>Linha de base<\/td><\/tr>
    Llama 3.1 8B<\/strong><\/td>Depois (Otimizado)<\/strong><\/td>15,4 segundos<\/strong><\/td>3,50 req\/s<\/strong><\/td>+483% de vaz\u00e3o \/ -64,4% de espera<\/strong><\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n
    \"Redu\u00e7\u00e3o<\/figure>\n\n\n\n

    <\/p>\n\n\n\n

    \"Multiplica\u00e7\u00e3o<\/figure>\n\n\n\n
    \n\n\n\n

    Teste de Estresse Extremo com 250 Usu\u00e1rios Concorrentes<\/strong><\/h3>\n\n\n\n

    Para simular situa\u00e7\u00f5es reais de alta demanda \u2014 como o lan\u00e7amento de programas sociais ou abertura de inscri\u00e7\u00f5es p\u00fablicas \u2014, o Qwen3 8B foi colocado \u00e0 prova com 250 usu\u00e1rios conectados simultaneamente<\/strong>.<\/p>\n\n\n\n

    Par\u00e2metro Avaliado<\/strong><\/td>Comportamento sob 250 Usu\u00e1rios<\/strong><\/td><\/tr>
    Taxa de Confiabilidade<\/strong><\/td>100% de entregas bem-sucedidas<\/strong> (0 exce\u00e7\u00f5es e 0 falhas)<\/td><\/tr>
    Tempo at\u00e9 Iniciar Resposta<\/strong><\/td>320 ms (mediana)<\/strong> e 490 ms (m\u00e9dia)<\/strong><\/td><\/tr>
    Vaz\u00e3o Sustentada<\/strong><\/td>4,20 requisi\u00e7\u00f5es por segundo<\/strong> ininterruptas<\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n

    O resultado confirma que o ambiente absorve picos severos de uso mantendo respostas quase impercept\u00edveis ao usu\u00e1rio final.<\/p>\n\n\n\n

    \"Sustenta\u00e7\u00e3o<\/figure>\n\n\n\n
    \n\n\n\n

    Aplica\u00e7\u00f5es Pr\u00e1ticas nos Servi\u00e7os P\u00fablicos<\/strong><\/h3>\n\n\n\n

    A nova infraestrutura viabiliza a integra\u00e7\u00e3o imediata de IA generativa em diversas frentes da administra\u00e7\u00e3o:<\/p>\n\n\n\n

    Servi\u00e7o \/ Aplica\u00e7\u00e3o<\/strong><\/td>Modelo Empregado<\/strong><\/td>Benef\u00edcio Direto<\/strong><\/td><\/tr>
    Atendimento ao Cidad\u00e3o (Chatbots)<\/strong><\/td>Qwen3 8B (A100 Dedicada)<\/td>Conversa\u00e7\u00e3o natural e imediata sem filas virtuais<\/td><\/tr>
    Classifica\u00e7\u00e3o e Triagem de Demandas<\/strong><\/td>Llama 3.1 8B (vLLM Otimizado)<\/td>Automa\u00e7\u00e3o e roteamento veloz de solicita\u00e7\u00f5es administrativas<\/td><\/tr>
    An\u00e1lise Documental e Pareceres<\/strong><\/td>Qwen3 8B (Contexto 32k\u2013128k)<\/td>Leitura e resumo de processos volumosos, editais e minutas jur\u00eddicas<\/td><\/tr>
    Privacidade e Soberania de Dados<\/strong><\/td>Cluster Interno OpenShift IA<\/td>Tratamento de informa\u00e7\u00f5es sigilosas dentro do data center governamental<\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n
    \n\n\n\n

    Pr\u00f3ximos Passos: Expans\u00e3o Gradativa de Contexto<\/strong><\/h3>\n\n\n\n

    Com a capacidade confirmada nos registros do vLLM para suportar at\u00e9 128.000 tokens<\/strong> (o equivalente a centenas de p\u00e1ginas em uma \u00fanica consulta), a equipe t\u00e9cnica adotou uma estrat\u00e9gia de libera\u00e7\u00e3o progressiva: a opera\u00e7\u00e3o inicia em 32.768 tokens<\/strong> para consolidar a estabilidade e avan\u00e7ar\u00e1 para volumes maiores conforme a demanda dos \u00f3rg\u00e3os p\u00fablicos.<\/p>\n\n\n\n

    Com essa entrega do LIGO, o Estado consolida sua posi\u00e7\u00e3o de vanguarda no uso \u00e9tico, seguro e de alta performance da Intelig\u00eancia Artificial a servi\u00e7o da sociedade.<\/p>\n\n\n\n

    <\/p>\n","protected":false},"excerpt":{"rendered":"

    O Laborat\u00f3rio de Inova\u00e7\u00e3o Goi\u00e1s (LIGO) reestruturou a plataforma de Intelig\u00eancia Artificial do Estado, hospedada no data center governamental (GO Cloud). Combinando placas NVIDIA A100, orquestra\u00e7\u00e3o em Red Hat OpenShift AI e a engine de infer\u00eancia vLLM, a equipe t\u00e9cnica eliminou gargalos hist\u00f3ricos de concorr\u00eancia, reduzindo o tempo de resposta das aplica\u00e7\u00f5es em at\u00e9 99,7%.<\/p>\n

    O Desafio
    \nNo modelo legado, os modelos de linguagem (LLMs) dividiam a mem\u00f3ria tempor\u00e1ria de uma mesma placa de v\u00eddeo (45% de VRAM para cada). Sob concorr\u00eancia de 50 usu\u00e1rios simult\u00e2neos, a mem\u00f3ria de atendimento (KV Cache) esgotava-se, gerando filas de espera que ultrapassavam 1 minuto.<\/p>\n

    A Solu\u00e7\u00e3o
    \nA arquitetura foi redesenhada em tr\u00eas frentes:
    \n GPU Dedicada: O modelo Qwen3 8B recebeu uma GPU A100 exclusiva (95% de VRAM).
    \n Processamento Fracionado (Chunked Prefill): Divis\u00e3o de prompts longos em blocos para evitar travamentos.
    \n Paralelismo Avan\u00e7ado: Ajuste fino de lotes cont\u00ednuos (Continuous Batching) nos modelos Llama 3.1 8B e Qwen3 8B.<\/p>\n

    Desempenho Comprovado (100 Usu\u00e1rios Simult\u00e2neos)
    \n Qwen3 8B: O tempo at\u00e9 o primeiro token (TTFT) despencou de 64,6 segundos para 0,20 segundo (207 ms), com aumento de 900% na vaz\u00e3o de requisi\u00e7\u00f5es.
    \n Llama 3.1 8B: O tempo de in\u00edcio caiu de 43,5 para 15,4 segundos, elevando a vaz\u00e3o em 483%.<\/p>\n

    Teste de Estresse Extremo (250 Usu\u00e1rios no Qwen3 8B)
    \nO ambiente absorveu picos severos mantendo 100% de entregas bem-sucedidas (zero falhas), com tempo m\u00e9dio de resposta de apenas 490 ms (mediana de 320 ms) e vaz\u00e3o sustentada de 4,20 req\/s.
    \n\ud83d\udcbc Aplica\u00e7\u00f5es e Soberania<\/p>\n

    A nova infraestrutura viabiliza:
    \n Atendimento ao Cidad\u00e3o: Chatbots r\u00e1pidos e sem filas virtuais.
    \n Triagem de Demandas: Automa\u00e7\u00e3o veloz de fluxos internos com o Llama 3.1 8B.
    \n An\u00e1lise Documental: Leitura de processos volumosos (suporta contexto de at\u00e9 128k tokens, com libera\u00e7\u00e3o inicial est\u00e1vel em 32k).
    \n Seguran\u00e7a: Soberania e privacidade, com dados sigilosos processados estritamente dentro do cluster governamental.<\/p>\n

    Com esta entrega, o LIGO consolida uma infraestrutura de alto rendimento, segura e escal\u00e1vel para modernizar os servi\u00e7os p\u00fablicos do Estado.<\/p>\n","protected":false},"author":712,"featured_media":205649,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_links_to":"","_links_to_target":""},"categories":[55,26],"tags":[61],"class_list":["post-205639","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-inteligencia_artificial","category-publicacoes-ligo","tag-inteligencia-artificial"],"rttpg_featured_image_url":{"full":["https:\/\/goias.gov.br\/ligo\/wp-content\/uploads\/sites\/61\/2026\/09\/image_1788867645357690.png",848,1264,false],"landscape":["https:\/\/goias.gov.br\/ligo\/wp-content\/uploads\/sites\/61\/2026\/09\/image_1788867645357690.png",848,1264,false],"portraits":["https:\/\/goias.gov.br\/ligo\/wp-content\/uploads\/sites\/61\/2026\/09\/image_1788867645357690.png",848,1264,false],"thumbnail":["https:\/\/goias.gov.br\/ligo\/wp-content\/uploads\/sites\/61\/2026\/09\/image_1788867645357690-150x150.png",150,150,true],"medium":["https:\/\/goias.gov.br\/ligo\/wp-content\/uploads\/sites\/61\/2026\/09\/image_1788867645357690-201x300.png",201,300,true],"large":["https:\/\/goias.gov.br\/ligo\/wp-content\/uploads\/sites\/61\/2026\/09\/image_1788867645357690-687x1024.png",687,1024,true],"1536x1536":["https:\/\/goias.gov.br\/ligo\/wp-content\/uploads\/sites\/61\/2026\/09\/image_1788867645357690.png",848,1264,false],"2048x2048":["https:\/\/goias.gov.br\/ligo\/wp-content\/uploads\/sites\/61\/2026\/09\/image_1788867645357690.png",848,1264,false]},"rttpg_author":{"display_name":"Adriano Pericles","author_link":"https:\/\/goias.gov.br\/ligo\/author\/adrianorodrigues\/"},"rttpg_comment":0,"rttpg_category":"Intelig\u00eancia Artificial<\/a> Publica\u00e7\u00f5es Ligo<\/a>","rttpg_excerpt":"O Laborat\u00f3rio de Inova\u00e7\u00e3o Goi\u00e1s (LIGO) reestruturou a plataforma de Intelig\u00eancia Artificial do Estado, hospedada no data center governamental (GO Cloud). Combinando placas NVIDIA A100, orquestra\u00e7\u00e3o em Red Hat OpenShift AI e a engine de infer\u00eancia vLLM, a equipe t\u00e9cnica eliminou gargalos hist\u00f3ricos de concorr\u00eancia, reduzindo o tempo de resposta das aplica\u00e7\u00f5es em at\u00e9 99,7%.…","_links":{"self":[{"href":"https:\/\/goias.gov.br\/ligo\/wp-json\/wp\/v2\/posts\/205639","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/goias.gov.br\/ligo\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/goias.gov.br\/ligo\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/goias.gov.br\/ligo\/wp-json\/wp\/v2\/users\/712"}],"replies":[{"embeddable":true,"href":"https:\/\/goias.gov.br\/ligo\/wp-json\/wp\/v2\/comments?post=205639"}],"version-history":[{"count":2,"href":"https:\/\/goias.gov.br\/ligo\/wp-json\/wp\/v2\/posts\/205639\/revisions"}],"predecessor-version":[{"id":205653,"href":"https:\/\/goias.gov.br\/ligo\/wp-json\/wp\/v2\/posts\/205639\/revisions\/205653"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/goias.gov.br\/ligo\/wp-json\/wp\/v2\/media\/205649"}],"wp:attachment":[{"href":"https:\/\/goias.gov.br\/ligo\/wp-json\/wp\/v2\/media?parent=205639"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/goias.gov.br\/ligo\/wp-json\/wp\/v2\/categories?post=205639"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/goias.gov.br\/ligo\/wp-json\/wp\/v2\/tags?post=205639"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}