Uma análise de otimização de redes neurais MLP por exames de partículas

Abstract

Este trabalho propõe uma metodologia para a otimização global de redes neurais MLP. O objetivo é a otimização simultânea de arquiteturas e pesos sinápticos de redes MLP, na tentativa de proporcionar um bom desempenho de classificação para qualquer conjunto de dados. A otimização simultânea de arquiteturas e pesos de redes neurais é uma abordagem interessante para a obtenção de redes eficientes com maior poder de generalização, pois cria um compromisso entre baixa complexidade estrutural do modelo e baixos índices de erro de treinamento. Tal aplicação já foi bastante investigada com a utilização de métodos de busca metaheurística tais como algoritmos genéticos, recozimento simulado, busca tabu e combinações dos mesmos. Outra técnica de busca meta-heurística menos investigada neste contexto é a otimização por enxame de partículas (PSO) que vem recebendo cada vez mais atenção da comunidade científica devido aos bons resultados obtidos ao lidar com problemas de otimização numérica contínua. A metodologia desenvolvida neste trabalho consiste na aplicação de dois algoritmos PSOs, um para a otimização de arquiteturas e outro para o ajuste dos pesos sinápticos de cada arquitetura gerada pelo primeiro PSO. Estes dois processos são intercalados por um número específico de iterações. Este trabalho apresenta resultados da aplicação da metodologia proposta em três conhecidas bases de dados de problemas de classificação de padrões de domínio médico. Nos problemas mais difíceis de classificar, a metodologia apresentada obteve resultados satisfatórios e gerou redes com baixo erro de generalização e baixa complexidade. Tais resultados são relevantes para mostrar que a técnica meta-heurística de otimização por enxames de partículas é uma opção efetiva para o ajuste de pesos e arquiteturas de redes neurais MLP