Identificação e caracterização de requisitos de confiabilidade em sistemas de machine learning

Abstract

Os avanços da tecnologia e as pesquisas no campo da Inteligência Artificial tornaram os sistemas que utilizam modelos de Aprendizagem de Máquina (ML) cada vez mais presentes no cotidiano das pessoas, inclusive em domínios críticos como saúde e mobilidade. O fato de que esses sistemas podem trazer riscos a indivíduos e para a sociedade torna-os fortes candidatos a se tornarem sistemas que precisarão demonstrar que são confiáveis por meio de artefatos chamados de casos de garantia. Este trabalho busca elaborar um conjunto estruturado de requisitos para serem utilizados na construção desses artefatos. Para isso, foi realizada uma revisão da literatura e os requisitos foram avaliados por profissionais da área por meio de um questionário. Resultou em um conjunto de requisitos organizados nas categorias de escopo, segurança, dados, desempenho e validação. Posteriormente, a análise das respostas dos especialistas permitiu revisar e refinar a proposta inicial com base em divergências observadas e sugestões fornecidas pelos participantes. Os achados oferecem uma base sólida que pode orientar as equipes que desenvolvem ML e querem garantir mais qualidade, segurança e confiança em seus sistemas.