Proyecto CinfonIA para robustecer sistemas de IA, participa en ECCV

El Centro de Investigación y Formación en Inteligencia Artificial (CinfonIA), dirigido por el profesor Pablo Arbeláez, presentó su primer proyecto en la conferencia European Conference on Computer Vision (ECCV), una de las más importantes en el mundo en el área de Visión por Computador. ECCV se llevó a cabo de forma virtual del 23 al 28 de agosto de 2020.

CINFONIA participó con el artículo Gabor Layers Enhance Network Robustness, presentado por Juan Camilo Pérez y Guillaume Jeanneret, egresados de la maestría en Ingeniería Biomédica Uniandes. “Participar en ECCV tiene dos significados: 1) para mi este es el primer paso para seguir el camino de un investigador en el área de Visión por Computador. 2) Gracias a esta publicación, nuestro grupo de investigación es de los pocos representantes de América Latina en esta conferencia. Esto permite que grandes empresas, como Nvidia o Google, "echen ojo" a investigadores provenientes de universidades latinas”, menciona Guillaume Jeanneret.

Este proyecto nace con la motivación del grupo por unirse a los esfuerzos mundiales de la comunidad de Inteligencia Artificial (IA) por mejorar la robustez de los sistemas de IA, que se basan en técnicas de Aprendizaje de Máquina conocidas como Deep Learning (DL). Desde hace unos años, los investigadores en IA se dieron cuenta de que a pesar de las extraordinarias características que otorga el DL, es muy vulnerable a ataques maliciosos en los datos que procesa (imagen, texto, voz, entre otros). Esta fragilidad impide que se desplieguen sistemas de IA basados en DL para aplicaciones en los que la seguridad es crítica como en carros autónomos, cirugías asistidas o imágenes diagnósticas. Fortalecer los sistemas frente a los ataques es conocido como "robustez adversaria", y su objetivo, es incrementar la seguridad de los sistemas sin sacrificar el buen desempeño de los mismos. “Por ejemplo, nos gustaría que los sistemas de detección de cáncer en resonancias magnéticas se vuelvan robustos, pero tampoco queremos que, por volverse robustos, pierdan su increíble capacidad de detectar cáncer”, explica Juan Camilo Pérez.

Para abordar el problema, los investigadores de CinfonIA se enfocaron en usar métodos de estado del arte en DL y combinarlos con técnicas tradicionales de Visión por Computador. “Las técnicas tradicionales de Visión por Computador, en contraste con las técnicas de DL, están mejor caracterizadas, se entienden mejor y, lo más bello de todo, es que suelen estar inspiradas en la visión humana. La visión humana, por supuesto, es un gran ejemplo que encontramos de un sistema de inteligencia que es robusto y de gran desempeño”, explica Juan Camilo Pérez. Esto quiere decir que el proyecto introduce técnicas tradicionales de Visión por Computador, inspiradas en la visión humana, en métodos de DL para robustecer dichos métodos. En particular, estudian una técnica de Visión por Computador conocida como "filtros de Gabor", que es tradicional en el campo, pero que se habían dejado de lado con el surgimiento del DL.

Este proyecto es el resultado de una colaboración entre Uniandes y la Universidad de Ciencia y Tecnología del Rey Abdullah (KAUST) en Arabia Saudita. Investigadores Uniandes: Pablo Arbeláez (profesor), Juan Camilo Pérez y Guillaume Jeanneret (estudiantes de maestría en Ingeniería Biomédica). Investigadores KAUST: Motasem Alfarra y Adel Bibi (estudiantes de PhD), Bernard Ghanem (profesor) y Ali Thabet (investigador científico).