Rodrigo Freire Tech

Início > Projetos > GreenToken

GreenToken

FinOps & Observabilidade de IA · Paper Publicado no Zenodo

Medidor de eficiência energética e FinOps para clusters de IA. Calcula o custo real em Watts, Joules e dólares por token gerado através de instrumentação no silício (RAPL, NVML e eBPF). Pesquisa científica com dados brutos e artigo publicados no Zenodo.

Tecnologias: FinOps de IA, NVIDIA NVML, Intel/AMD RAPL, eBPF, Paper no Zenodo, Open Source

O Problema Operacional & Desafio

A explosão dos servidores de inferência de inteligência artificial (vLLM, Ollama, TGI, llama.cpp) trouxe consigo um desafio financeiro de alta magnitude: contas astronômicas de infraestrutura em nuvem e energia elétrica.

Toda liderança técnica e time de FinOps recebe a fatura agregada do data center no encerramento do mês, mas praticamente ninguém tem a resposta para a métrica mais crucial do negócio: quanto custa, em Joules físicos e em dólares, cada resposta de 1.000 tokens gerada pelo seu modelo?

As ferramentas tradicionais de observabilidade apenas informam o consumo elétrico do servidor como um todo. Se três modelos de IA dividem o mesmo computador com GPUs, é impossível saber qual deles é responsável pelo consumo desproporcional. O GreenToken foi concebido para resolver essa lacuna, atribuindo o consumo elétrico exato por processo (PID) e por fluxo de tokens gerados.

Arquitetura & Engenharia Técnica

1. Artigo Científico e Publicação Independente no Zenodo

A formulação do GreenToken é sustentada por metodologia científica formal (GT-M), com hipóteses pré-registradas em controle de versão, código de coleta público e dados brutos auditáveis hospedados com identificador persistente no repositório do CERN (Zenodo):

Citação Oficial do Artigo: Freire, R. (2026). GT-M — Medição Energética Independente para Inferência de IA: Decomposição por Fase, Fronteira de Pareto Acurácia-Energia e Energia Amortizada por Ciclo de Trabalho (com apêndice sobre deriva simulada). Zenodo. DOI Permanente: 10.5281/zenodo.22036311

2. A Série Experimental GT-M (E1, E2, E3 e E4)

O rigor da metodologia GT-M foi consolidado ao longo de quatro experimentos em hardware real:

  • Experimento E1 (Decomposição por Fase): Comprovação prática no silício da escala quadrática do mecanismo de atenção ($O(N^2)$) de acordo com o tamanho do contexto (128 a 1024 tokens), convergindo com a previsão teórica.
  • Experimento E2 (Fronteira de Pareto Acurácia-Energia): Teste de precisão numérica com acurácia controlada (FP32 a 51,68 J/inf, FP16 a 19,10 J/inf e INT8 a 34,00 J/inf), comprovando que o FP16 entrega 63,04% de economia de energia com dispersão CV entre 2,6% e 3,7%.
  • Experimento E3 (Deriva de Simulação): Apêndice metodológico mantido expressamente separado para isolar simulações matemáticas de dados físicos medidos em silício.
  • Experimento E4 (Ciclo de Trabalho e Energia Amortizada): O estudo de campo mais impactante sobre a operação de IA em regime de carga realista.

3. SEÇÃO ESPECIAL: A Descoberta Central do Experimento E4 (Duty Cycle & Degradação de 12.08x)

No fechamento da série experimental, o Experimento E4 instrumentou uma GPU NVIDIA Tesla T4 submetida à mesma quantidade de trabalho útil (20 inferências normalizadas conforme a trava do Gate G4.3) sob quatro perfis de utilização operacional:

Perfil de CargaRegime OperacionalDuração JanelaEnergia TotalEnergia Amortizada por Inferência ÚtilFator vs Pico Profile_100pct_Saturada100% Carga (Pico)8.7 s589.00 J29.45 J / inf útil1.00x (Número de Folheto) Profile_50pct_Alta50% Carga / 50% Idle17.9 s956.65 J47.83 J / inf útil1.62x de degradação Profile_20pct_Media20% Carga / 80% Idle48.3 s2124.69 J106.23 J / inf útil3.61x de degradação Profile_5pct_Baixa5% Carga / 95% Idle200.6 s7117.42 J355.87 J / inf útil12.08x de degradação!

A Física por Trás do Fenômeno: Histerese de Contexto CUDA vs Repouso Frio

A modelagem teórica ingênua presumia que, nas pausas entre requisições de baixa carga, a GPU descansaria no seu estado de sono mais profundo (P-State P8 consumindo apenas 9.9 Watts), o que geraria uma estimativa de 124,45 J por inferência (fator de 4.23x).

No entanto, a medição empírica revelou 7117.42 Joules consumidos — ou seja, 355.87 Joules por inferência útil, uma degradação real de 12.08 vezes.

A auditoria física explicou a discrepância: em servidores de produção real, o driver da GPU mantém o contexto de execução CUDA permanentemente residente na memória VRAM para não pagar a penalidade de recarregar gigabytes de pesos a cada chamada. Esse contexto residente impede que o hardware entre em repouso profundo, mantendo a GPU presa em estados P0/P2 com consumo estático de 34.02 Watts contínuos.

Conclusão Científica: O custo real de manter um modelo de inteligência artificial em produção não reside apenas no processamento ativo, mas na marcha lenta de prontidão. Em regimes de baixa demanda, o consumo por entrega útil é até doze vezes superior ao anunciado nos testes sintéticos de laboratório.

4. Arquitetura de Coleta & Princípios Invioláveis

  • Instrumentação Direta no Silício: Medição de Watts na CPU e DRAM via registradores Intel/AMD RAPL; medição de GPU em tempo real via biblioteca NVML da NVIDIA.
  • Correlação Temporal por eBPF: Rastreia o escalonador do kernel Linux (sched_switch) para mapear com precisão de microssegundos o tempo de processamento consumido por cada PID.
  • Contador Canônico de Tokens: Integração direta com os endpoints /metrics dos motores de inferência (vLLM), atestando 0.0% de erro em concorrência.
  • Zero Overhead & Totalmente Passivo: O GreenToken nunca altera cgroups, nunca reduz frequências e nunca interfere no SLA de entrega do servidor.

Outros Projetos Desenvolvidos

  • Imunno System

    Sistema imunológico autônomo para servidores Linux que opera no anel mais profundo do sistema operacional (Ring 0), interceptando invasões e ameaças em tempo real com matriz de decepção ativa Hades, protocolo Gossip em malha P2P e código genético evolutivo.

    Ver documentação técnica →
  • SysCallCage

    Jaula de segurança preventiva em Ring 0 para agentes autônomos de IA e processos locais. Intercepta chamadas de sistema no kernel Linux impedindo vazamento de credenciais (.env, chaves SSH) e conexões de rede não autorizadas com zero overhead.

    Ver documentação técnica →
  • Kernel WSL2 BPF Plus

    Kernel Linux customizado para Windows (WSL2) compilado da árvore oficial da Microsoft com suporte completo a BPF LSM, CONFIG_SECURITY_BPF e interfaces BTF, viabilizando segurança determinística em Ring 0 e validação de ferramentas de IA no Windows.

    Ver documentação técnica →

Sistemas e Engenharia para a sua Empresa

Desenvolvo sistemas sob medida com garantia de estabilidade, segurança e suporte técnico direto para empresas em Porto Velho, RO.

Solicitar avaliação da operação da sua empresa →