Atualizar um modelo de inteligência artificial parece uma decisão técnica rotineira. Mas, no mercado de reconhecimento facial, ela pode significar dias de processamento ininterruptos, semanas de GPU em uso contínuo e custos que chegam a dezenas de milhares de reais por ciclo de atualização.
Esse é o problema que a equipe de IA da Certta decidiu atacar. O resultado é o FC-Aligner, um modelo leve que converte representações biométricas entre versões diferentes de um sistema de reconhecimento facial, eliminando a necessidade de reprocessar toda a base de dados a cada atualização. O trabalho foi apresentado no NeurIPS 2024 (Conferência sobre Sistemas de Processamento de Informação Neural), que é um dos maiores e mais importantes eventos de inteligência artificial do mundo, realizado anualmente desde 1987 e agora você confere com exclusividade, em português, aqui no Conecta.
O que é backfilling em reconhecimento facial e por que ele custa tanto?
Sistemas de reconhecimento facial funcionam comparando a similaridade entre representações matemáticas de rostos, chamadas embeddings. Cada modelo de IA gera suas próprias representações, incompatíveis com as produzidas por versões anteriores ou posteriores do mesmo sistema. Quando um modelo é atualizado, todas as representações armazenadas precisam ser geradas novamente, do zero. Esse processo tem um nome específico na indústria: backfilling.
Os números do próprio caso mostram a dimensão do problema. Um backfilling sobre uma base de milhões de faces aumentou os custos de armazenamento em nuvem em 287,5%, elevou os custos de processamento em 67,32% e levou cinco dias consecutivos para ser concluído.
René Ferrari, um dos autores do paper, explica o que tornava o problema recorrente:
"Sempre que a gente atualizava o FaceMatch, todas as representações geradas anteriormente deixavam de ser compatíveis com as novas. Isso obrigava a equipe a reprocessar milhões de rostos para poder comparar os registros antigos com os novos que estavam chegando." — René Ferrari, engenheiro de IA da Certta
René Ferrari, engenheiro de IA da Certta
O problema não é exclusivo da Certta. Backfilling é um desafio conhecido em toda a indústria de IA que depende de embeddings em larga escala, de sistemas de reconhecimento facial até modelos de linguagem. Mas soluções práticas, leves e aplicáveis em ambiente de produção ainda eram escassas quando o paper foi submetido.
Como o FC-Aligner funciona
As duas arquiteturas: FC-Alignerdense e FC-Alignermb
O FC-Aligner parte de uma observação específica sobre como os modelos do FaceMatch evoluem: quando duas versões compartilham a mesma arquitetura de rede neural e diferem apenas no conjunto de dados de treinamento e nos hiperparâmetros, é possível treinar um modelo separado para converter as representações de um espaço para o outro.
Essa conversão não exige acesso às imagens originais, não depende de GPU em produção e pode ser executada em CPU comum, o que torna o processo muito mais rápido e barato do que reprocessar toda a base.
O FC-Aligner aprende a mapear embeddings antigos para o espaço do modelo mais recente, funcionando como um tradutor entre versões. A conversão não exige acesso às imagens originais, não depende de GPU em produção e pode ser executada em CPU comum.
FC-Alignerdense
O FC-Alignerdense funciona como um tradutor direto: recebe o embedding antigo e o converte para o novo espaço por um caminho único, de forma rápida e eficiente. Nos testes, apresentou o melhor equilíbrio geral entre taxa de rejeição falsa e taxa de aceitação falsa.
FC-Alignermb
O FC-Alignermb funciona como um tradutor que lê o mesmo texto por três perspectivas diferentes em paralelo, semântica, gramática e contexto, antes de produzir a versão final.
O resultado é mais preciso em situações ambíguas, mas com um custo computacional levemente maior. Se saiu melhor quando o objetivo era minimizar especificamente a taxa de aceitação falsa, o indicador mais sensível em contextos de segurança biométrica.
Otimização via ONNX: como o modelo ficou viável em produção
Um passo importante para viabilizar o modelo em produção veio de uma contribuição específica da equipe: a conversão das arquiteturas para o formato ONNX, sigla para Open Neural Network Exchange. Funciona como um padrão aberto, uma espécie de formato universal para modelos de IA. Assim como um arquivo PDF pode ser aberto em qualquer leitor independentemente do programa que o gerou, um modelo convertido para ONNX pode ser executado em diferentes ambientes de forma mais leve e eficiente, sem precisar da mesma infraestrutura usada no treinamento.
No caso do FC-Aligner, a conversão para ONNX reduziu o custo computacional da conversão sem comprometer a precisão dos resultados.
"A primeira tentativa não tinha dado certo porque a conversão ainda tinha um custo de processamento alto. Foi aí que veio a ideia de converter os modelos para ONNX, um formato que torna o modelo mais leve sem sacrificar a precisão. Com isso, conseguimos um custo de processamento muito menor e a ideia passou a funcionar." — René Ferrari
Com a otimização via ONNX, o FC-Aligner converteu 20 milhões de embeddings em 55 minutos. O backfilling equivalente levaria 5 dias.
Resultados: FC-Aligner é 11 vezes mais rápido e 2,5 vezes mais barato que o backfilling
Os testes foram realizados com aproximadamente 3,36 milhões de pares de embeddings para treinamento e validação, e 14.848 pares para avaliação final. Todo o conjunto de dados veio de um sistema real de reconhecimento facial em produção.
Os resultados mostram que o FC-Aligner mantém uma taxa de rejeição falsa próxima de 5%, alinhada à do modelo original, enquanto a taxa de aceitação falsa sobe de 0,0032% para 0,0048%. Um aumento de 0,0016 pontos percentuais, considerado aceitável para o nível de risco do sistema.
Em termos de velocidade e custo, o FC-Aligner processa a mesma base de 20 milhões de faces 11 vezes mais rápido que o backfilling convencional e a um custo pelo menos 2,5 vezes menor.
O treinamento do modelo demandou 8 horas em uma GPU comercial, contra 5 dias de processamento contínuo para um backfilling completo. Para tornar isso concreto, pense numa operação hipotética: uma fintech com 5 milhões de clientes cadastrados que precisa atualizar o modelo de reconhecimento facial usado na abertura de conta.
Com o backfilling convencional, o time de tecnologia precisaria rodar toda a base novamente, o que nessa escala poderia levar dois ou três dias de processamento, com servidores dedicados consumindo recursos em tempo integral. Durante esse período, qualquer comparação entre um cadastro antigo e uma nova verificação de identidade ficaria comprometida.
Com o FC-Aligner, o mesmo time converteria todos os embeddings em poucas horas, em máquinas comuns, sem interromper a operação. O custo que antes seria absorvido como parte do ciclo de atualização passa a ser uma fração do que era.
Álvaro Spies Nolibos, também autor do paper, detalha o que esse custo significa para empresas que operam biometria em larga escala:
"Quando lidamos com empresas grandes que trabalham com biometria, estamos falando de milhões de faces. Ao rodar um modelo de IA pesado, que exige GPU, esse número de inferências pode levar dias ou semanas de processamento e gerar custos na casa de dezenas de milhares de reais por atualização. O FC-Aligner simplesmente traduz os embeddings de um modelo para o outro, sem precisar de GPU em produção. O processo fica muito mais rápido e muito mais barato." — Álvaro Spies Nolibos, engenheiro de IA da Certta
Álvaro Spies Nolibos, engenheiro de IA da Certta
FC-Aligner no NeurIPS 2024: reconhecimento acadêmico para um problema da indústria
O NeurIPS, sigla para Conference on Neural Information Processing Systems, é um dos três maiores eventos mundiais de inteligência artificial. A apresentação do FC-Aligner aconteceu em dezembro de 2024, no Canadá, via LatinX in AI, um workshop do evento voltado para pesquisadores latino-americanos na área.
René Ferrari conta como o trabalho chegou ao evento:
"Foi uma publicação relevante porque o backfilling é um problema geral da área de IA e ainda não tinha sido publicada nenhuma solução prática sobre isso. O NeurIPS é um dos três maiores eventos mundiais da área, e apresentar lá sinalizou que o problema que a gente estava atacando tinha reconhecimento acadêmico." — René Ferrari
Desde a apresentação, o paper está disponível publicamente no acervo virtual da NeurIps e no acervo virtual da OpenReview.
FC-Aligner além do reconhecimento facial: próximas aplicações em LLMs e embeddings de texto
O paper não esconde um problema estrutural: manter e treinar novos FC-Aligners para cada par de versões de modelo se torna operacionalmente custoso à medida que o número de atualizações cresce. A equipe reconhece que uma solução universal ainda é um desafio em aberto.
Os próximos passos apontados no paper incluem testar o FC-Aligner em outros domínios além do reconhecimento facial, como embeddings de texto em modelos de linguagem e tarefas de similaridade semântica. A arquitetura proposta é genérica o suficiente para ser aplicada a qualquer sistema que dependa de embeddings em larga escala.
O FC-Aligner já está em uso na Certta: o FaceMatch, sistema de comparação biométrica da empresa, passou a ser atualizado sem interromper operações ou gerar os custos de um backfilling completo. O paper formaliza essa solução e abre caminho para que outros sistemas enfrentem o mesmo problema com uma abordagem já testada em produção.
Perguntas frequentes
O que é backfilling em sistemas de IA?
Backfilling é o processo de reprocessar toda uma base de dados de embeddings quando um modelo de IA é atualizado. Como cada versão de modelo gera representações incompatíveis com versões anteriores, todos os registros precisam ser regenerados para que comparações sejam possíveis. Em bases com milhões de entradas, isso representa dias de processamento e custos elevados.
O que é um embedding no contexto de reconhecimento facial?
Um embedding é uma representação matemática de um rosto, gerada por um modelo de IA a partir de uma imagem. Funciona como uma impressão digital: cada rosto produz um conjunto único de valores numéricos que pode ser comparado com outros embeddings para verificar se pertencem à mesma pessoa.
Como o FC-Aligner resolve o problema do backfilling?
O FC-Aligner aprende a converter embeddings gerados por uma versão anterior de um modelo para o espaço de representação de uma versão posterior. Com isso, é possível comparar registros antigos com os novos sem reprocessar as imagens originais. O modelo é leve, opera na CPU e pode ser treinado em horas.
O FC-Aligner afeta a precisão do reconhecimento facial?
A taxa de rejeição falsa se mantém próxima de 5%, igual à do modelo original. A taxa de aceitação falsa sobe de 0,0032% para 0,0048%, um aumento de 0,0016 pontos percentuais considerado aceitável para o nível de risco do sistema testado.
O FC-Aligner pode ser aplicado a outros sistemas além do reconhecimento facial?
Sim. A arquitetura é genérica e foi desenvolvida para ser aplicável a qualquer sistema que dependa de embeddings em larga escala, incluindo modelos de linguagem e sistemas de similaridade semântica. Os próximos testes planejados pela equipe incluem embeddings de texto.
O que é o NeurIPS e por que a apresentação nesse evento é relevante?
NeurIPS é a Conference on Neural Information Processing Systems, um dos três maiores eventos mundiais de inteligência artificial. A apresentação via LatinX in AI em 2024 e a aceitação posterior pelo LXAI Journal conferem ao trabalho reconhecimento acadêmico formal e ampliam seu alcance na comunidade de pesquisa.
Conceitos abordados neste artigo
Embedding: representação matemática de uma imagem ou texto, gerada por um modelo de IA. No reconhecimento facial, funciona como uma impressão digital numérica de um rosto, permitindo comparações de identidade sem armazenar a imagem original.
Backfilling: processo de reprocessar uma base de dados inteira de embeddings após a atualização de um modelo de IA. Necessário porque versões diferentes de um modelo geram representações incompatíveis entre si.
Forward compatibility: estratégia que permite traduzir representações geradas por versões antigas de um modelo para o espaço de representação de versões mais recentes, sem acesso às imagens ou dados originais.
ONNX (Open Neural Network Exchange): formato aberto para modelos de IA que reduz o tamanho e o custo computacional sem comprometer a precisão. Permite que modelos treinados em diferentes frameworks sejam executados de forma mais eficiente em produção.
FAR (False Acceptance Rate): taxa de aceitação falsa em sistemas biométricos. Mede a probabilidade de o sistema aceitar duas identidades diferentes como se fossem a mesma pessoa. É o indicador mais sensível em contextos de segurança.
FRR (False Rejection Rate): taxa de rejeição falsa em sistemas biométricos. Mede a probabilidade de o sistema rejeitar duas imagens da mesma pessoa como se fossem identidades diferentes.
NeurIPS: Conference on Neural Information Processing Systems, um dos três maiores eventos mundiais de inteligência artificial, realizado anualmente. Reúne pesquisadores acadêmicos e da indústria para apresentação e discussão de avanços na área.
LatinX in AI (LXAI): organização e workshop associado ao NeurIPS voltado para pesquisadores latino-americanos em inteligência artificial. O LXAI Journal publica trabalhos apresentados no workshop com revisão editorial formal.
Fontes
Vieira-e-Silva, A. L., Ferrari, R., Nolibos, A., Zanoni Felipe, G. FC-Aligner: A Lightweight Regressor Model for Embedding Space Conversion. Latinx in AI @ NeurIPS-24 (LXAI 2024).
Depoimentos em áudio de René Ferrari e Álvaro Nolibos, engenheiros de IA da Certta, coletados para este artigo.
