Início > Projetos > GreenToken
GreenToken
FinOps & Observabilidade de IA · Paper Publicado no Zenodo
Tecnologias: FinOps de IA, NVIDIA NVML, Intel/AMD RAPL, eBPF, Paper no Zenodo, Open Source
O Problema Operacional & Desafio
A explosão dos servidores de inferência de inteligência artificial (vLLM, Ollama, TGI, llama.cpp) trouxe consigo um desafio financeiro de alta magnitude: contas astronômicas de infraestrutura em nuvem e energia elétrica.
Toda liderança técnica e time de FinOps recebe a fatura agregada do data center no encerramento do mês, mas praticamente ninguém tem a resposta para a métrica mais crucial do negócio: quanto custa, em Joules físicos e em dólares, cada resposta de 1.000 tokens gerada pelo seu modelo?
As ferramentas tradicionais de observabilidade apenas informam o consumo elétrico do servidor como um todo. Se três modelos de IA dividem o mesmo computador com GPUs, é impossível saber qual deles é responsável pelo consumo desproporcional. O GreenToken foi concebido para resolver essa lacuna, atribuindo o consumo elétrico exato por processo (PID) e por fluxo de tokens gerados.
Arquitetura & Engenharia Técnica
1. Artigo Científico e Publicação Independente no Zenodo
A formulação do GreenToken é sustentada por metodologia científica formal (GT-M), com hipóteses pré-registradas em controle de versão, código de coleta público e dados brutos auditáveis hospedados com identificador persistente no repositório do CERN (Zenodo):
Citação Oficial do Artigo: Freire, R. (2026). GT-M — Medição Energética Independente para Inferência de IA: Decomposição por Fase, Fronteira de Pareto Acurácia-Energia e Energia Amortizada por Ciclo de Trabalho (com apêndice sobre deriva simulada). Zenodo. DOI Permanente: 10.5281/zenodo.22036311
2. A Série Experimental GT-M (E1, E2, E3 e E4)
O rigor da metodologia GT-M foi consolidado ao longo de quatro experimentos em hardware real:
- Experimento E1 (Decomposição por Fase): Comprovação prática no silício da escala quadrática do mecanismo de atenção ($O(N^2)$) de acordo com o tamanho do contexto (128 a 1024 tokens), convergindo com a previsão teórica.
- Experimento E2 (Fronteira de Pareto Acurácia-Energia): Teste de precisão numérica com acurácia controlada (FP32 a 51,68 J/inf, FP16 a 19,10 J/inf e INT8 a 34,00 J/inf), comprovando que o FP16 entrega 63,04% de economia de energia com dispersão CV entre 2,6% e 3,7%.
- Experimento E3 (Deriva de Simulação): Apêndice metodológico mantido expressamente separado para isolar simulações matemáticas de dados físicos medidos em silício.
- Experimento E4 (Ciclo de Trabalho e Energia Amortizada): O estudo de campo mais impactante sobre a operação de IA em regime de carga realista.
3. SEÇÃO ESPECIAL: A Descoberta Central do Experimento E4 (Duty Cycle & Degradação de 12.08x)
No fechamento da série experimental, o Experimento E4 instrumentou uma GPU NVIDIA Tesla T4 submetida à mesma quantidade de trabalho útil (20 inferências normalizadas conforme a trava do Gate G4.3) sob quatro perfis de utilização operacional:
A Física por Trás do Fenômeno: Histerese de Contexto CUDA vs Repouso Frio
A modelagem teórica ingênua presumia que, nas pausas entre requisições de baixa carga, a GPU descansaria no seu estado de sono mais profundo (P-State P8 consumindo apenas 9.9 Watts), o que geraria uma estimativa de 124,45 J por inferência (fator de 4.23x).
No entanto, a medição empírica revelou 7117.42 Joules consumidos — ou seja, 355.87 Joules por inferência útil, uma degradação real de 12.08 vezes.
A auditoria física explicou a discrepância: em servidores de produção real, o driver da GPU mantém o contexto de execução CUDA permanentemente residente na memória VRAM para não pagar a penalidade de recarregar gigabytes de pesos a cada chamada. Esse contexto residente impede que o hardware entre em repouso profundo, mantendo a GPU presa em estados P0/P2 com consumo estático de 34.02 Watts contínuos.
Conclusão Científica: O custo real de manter um modelo de inteligência artificial em produção não reside apenas no processamento ativo, mas na marcha lenta de prontidão. Em regimes de baixa demanda, o consumo por entrega útil é até doze vezes superior ao anunciado nos testes sintéticos de laboratório.
4. Arquitetura de Coleta & Princípios Invioláveis
- Instrumentação Direta no Silício: Medição de Watts na CPU e DRAM via registradores Intel/AMD RAPL; medição de GPU em tempo real via biblioteca NVML da NVIDIA.
- Correlação Temporal por eBPF: Rastreia o escalonador do kernel Linux (
sched_switch) para mapear com precisão de microssegundos o tempo de processamento consumido por cada PID. - Contador Canônico de Tokens: Integração direta com os endpoints
/metricsdos motores de inferência (vLLM), atestando 0.0% de erro em concorrência. - Zero Overhead & Totalmente Passivo: O GreenToken nunca altera cgroups, nunca reduz frequências e nunca interfere no SLA de entrega do servidor.
Outros Projetos Desenvolvidos
-
Imunno System
Sistema imunológico autônomo para servidores Linux que opera no anel mais profundo do sistema operacional (Ring 0), interceptando invasões e ameaças em tempo real com matriz de decepção ativa Hades, protocolo Gossip em malha P2P e código genético evolutivo.
Ver documentação técnica → -
SysCallCage
Jaula de segurança preventiva em Ring 0 para agentes autônomos de IA e processos locais. Intercepta chamadas de sistema no kernel Linux impedindo vazamento de credenciais (.env, chaves SSH) e conexões de rede não autorizadas com zero overhead.
Ver documentação técnica → -
Kernel WSL2 BPF Plus
Kernel Linux customizado para Windows (WSL2) compilado da árvore oficial da Microsoft com suporte completo a BPF LSM, CONFIG_SECURITY_BPF e interfaces BTF, viabilizando segurança determinística em Ring 0 e validação de ferramentas de IA no Windows.
Ver documentação técnica →
Sistemas e Engenharia para a sua Empresa
Desenvolvo sistemas sob medida com garantia de estabilidade, segurança e suporte técnico direto para empresas em Porto Velho, RO.