Hospitais, bancos e dispositivos de borda frequentemente querem treinar um modelo em conjunto, mas suas tabelas compartilham um esquema enquanto suas linhas precisam permanecer privadas. Esse cenário, o aprendizado federado horizontal, normalmente depende do Fed Avg, que faz a média dos pesos de cada site. O Fed Avg nunca pergunta quais atributos devem pertencer ao modelo, então cada coluna irrelevante é carregada em todas as atualizações e acrescenta ruído que os sites menores sentem mais.
O Feature Election, um método desenvolvido para essa lacuna, pede menos do que a maioria das pesquisas sobre seleção federada de atributos. Em vez de adotar um algoritmo novo e específico, cada site mantém o seletor comum em que já confia, como Lasso, importâncias de random forest ou informação mútua, executa-o sobre suas próprias linhas e envia um voto. Cada site envia uma máscara binária dos atributos mantidos, um vetor de pontuações de preferência e sua contagem de amostras. Nenhuma linha ou gradiente sai do site durante a eleição.
O servidor mantém os atributos que todos os sites selecionaram e descarta os que nenhum site selecionou. Os atributos disputados vão para uma votação ponderada pelo tamanho do site, e um parâmetro ajustável chamado grau de liberdade decide quantos deles entram no modelo. Em seguida, cada site aplica a máscara global resultante às suas colunas, e o treinamento federado comum roda sobre a tabela reduzida.
A abordagem é implementada em NumPy e demonstrada como um job no NVIDIA FLARE, com código para o Flower também exibido.
Fonte: Towards Data Science · Resumido por HeadlinesBriefing