Um framework para seleção dinâmica de múltiplos regressores heterogêneos

Abstract

O uso de Aprendizagem de Máquina (AM) tem sido cada vez mais comum em diversas áreas do conhecimento. A engenharia de software, assim como os estudos de desempenhos educacionais, são exemplos de áreas que têm aderido às técnicas de AM. Os métodos usados vão desde os individuais, que geram saídas a partir de um modelo, até os Sistema de Múltiplos Modelos (SMM). As estratégias usadas nessas combinações têm sido um importante tópico de pesquisa em AM, visto que o uso de múltiplos modelos tem diminuído o erro e a variância das previsões em relação aos modelos solos. Estas estratégias variam entre diferentes formas de selecionar e integrar os modelos selecionados. Partindo deste princípio, este trabalho propõe um framework para seleção dinâmica de múltiplos modelos de regressão heterogêneos. A partir de um conjunto de dados, um subconjunto de exemplos é separado para formar os dados de treinamento, e o restante dos dados constituem a base de teste. Diversos algoritmos de regressão são treinados e validados na base de treinamento. Três diferentes modelos são selecionados a partir do desempenho individual de cada algoritmo e, a este grupo de modelos daremos o nome de Conjunto Básico (CB). Em seguida, é criada uma base de treinamento para problemas de classificação. Base esta que consiste em identificar, para cada exemplo de treinamento, o modelo de regressão pertencente ao CB de melhor desempenho. A partir deste conjunto de dados, diferentes classificadores são gerados e avaliados. Consequentemente, um conjunto de modelos de classificação é definido e nomeado de Conjunto de Seletores (CS), de forma que, ao fim da fase de treinamento e validação, na fase de teste, os melhores classificadores (CS) são usados para selecionar de forma dinâmica e ponderada os modelos de regressão do CB. A previsão final é dada pela combinação das saídas destes regressores selecionados dinamicamente pelos classificadores. Posteriormente, a fim de validar a proposta, análises experimentais em duas áreas do conhecimento são apresentadas. Foram investigados dois repositórios de Estimativa de Esforço de Software (EES) e seis bases de dados educacionais. Além de verificar o desempenho dos métodos gerados a partir do framework proposto, também foi analisado o comportamento destes métodos quanto aos critérios de seleção dinâmica, e a possibilidade da existência de correlações entre as metas-características das bases de dados com o desempenho do framework. Os experimentos utilizaram seis métricas para análise dos resultados, sendo a média do erro absoluto usada para fins de testes estatísticos. Os resultados demonstraram que os métodos gerados por intermédio do framework proposto superaram, na maioria das vezes, os modelos individuais, assim como diferentes estratégias de combinações desses modelos.