Mapas de prominencia para la interpretación de resultados en redes neuronales convolucionales

Abstract

A lo largo de este proyecto examinaré distintos métodos, conocidos como métodos de generación de mapas de prominencia, diseñados para extraer de una red neuronal clasificadora de imágenes cualquiera una visualización interpretativa de qué está observando en sus imágenes de entrada para determinar a qué categoría pertenecen. Estos métodos reciben una imagen clasificada por la red, y la clasificación que la red le dio. Con esto, determinan de vuelta en la imagen clasificada qué partes de la imagen son las que han determinado este resultado y qué partes de la imagen son menos importantes. Para poder entender estos métodos y los mapas de prominencia que generan desde una perspectiva práctica, tomaré diversas redes de distintos tamaños y capacidades predictivas y los pondré a prueba. Además, también tomaré distintas imágenes para cada red, para tener una idea más clara de lo que los distintos métodos logran en cada caso. Lo que buscamos comparar no es la claridad de las imágenes ni la calidad de las redes, sino las cualidades de los distintos métodos. Así espero determinar cuáles son los métodos que se ejecutan con mayor velocidad, los que obtienen un resultado más fácil de entender para la percepción humana, los que funcionan mejor con redes pequeñas y grandes, potentes o básicas, y cualquier otra estadística relevante que destaque durante la experimentación. La inteligencia artificial es un campo de investigación relativamente nuevo y emocionante, con aparentemente potencial infinito para automatizar todo tipo de problemas que hasta ahora se creía que solo un humano podía hacer fiablemente. Sin embargo, el funcionamiento de estas diversas inteligencias artificiales es, por definición, una caja negra, un misterio. Podemos conocer el mecanismo por el cual diversas redes neuronales funcionan, de igual manera que estudiando la biología del cerebro humano podemos entender los mecanismos físicos en los que se basa. Pero hay una diferencia fundamental entre este entendimiento y realmente comprender la “lógica interna” que una inteligencia artificial sigue para llegar a las conclusiones que obtiene. Por supuesto, es necesario clarificar que, si bien existen muchos tipos de inteligencia artificial, también conocida como “machine learning”, este proyecto solo se centrará en un tipo bastante concreto: redes neuronales convolucionales diseñadas para la clasificación de imágenes. O en términos coloquiales, se trata de redes diseñadas para introducirles una imagen y que respondan a qué categoría o categorías corresponden de entre un número limitado y predefinido de opciones. Generalmente, esto se usa para responder a la pregunta: “¿Qué hay en esta imagen?”. El método físico por el que la red procesa la imagen es una serie de operaciones matemáticas aplicadas al valor de los píxeles de la imagen. El proceso utiliza una serie de convoluciones, donde cada iteración toma N “filtros” y los convoluciona con la imagen. Es decir, toma un tablero de números y los pone sobre parte de la imagen original. Multiplica cada número con el píxel que le corresponde y después suma el resultado de todas las multiplicaciones a un único valor. Repite este proceso para cada posición sobre la imagen y el resultado final es otro tablero de números distinto, “procesado”. Repite para todos los filtros y obtienes la colección de imágenes de entrada para la siguiente capa. Una red neuronal convolucional repite este proceso gran cantidad de veces, pasando los resultados por más filtros en una serie de etapas hasta finalmente dar su resultado, la clasificación de la imagen original. Por supuesto, el proceso real de una red tiene un par de detalles más que no he mencionado, pero como explicación simplificada es suficiente.