El reto de la inteligencia artificial del futuro: aprender a cooperar, negociar y decidir

El reto de la inteligencia artificial del futuro: aprender a cooperar, negociar y decidir 

La próxima generación de sistemas de inteligencia artificial no solo responderá preguntas: también negociará, cooperará y tomará decisiones junto a las personas y con otros sistemas de inteligencia artificial. En este nuevo escenario, surge un desafío clave: garantizar que estas interacciones sean seguras, confiables y alineadas con los objetivos para los que fueron diseñadas. 

Responder a esta pregunta es el objetivo de una investigación interdisciplinaria liderada desde la Facultad de Ingeniería de la Universidad de los Andes, con la participación de los departamentos de Ingeniería Biomédica, Ingeniería Eléctrica y Electrónica, e Ingeniería de Sistemas y Computación. 

El proyecto es desarrollado por los estudiantes doctorales Manuela Chacón y Manuel Ríos, quienes estudian el comportamiento de agentes autónomos basados en inteligencia artificial en escenarios donde deben cooperar, negociar o tomar decisiones estratégicas, tanto entre ellos como con seres humanos. 

Comprender la confianza en sistemas autónomos 

La investigación busca entender qué tan confiables son estos sistemas cuando enfrentan situaciones nuevas o complejas, y si pueden desarrollar comportamientos inesperados que afecten sus interacciones o el cumplimiento de los objetivos para los que fueron diseñados. 

Este conocimiento resulta fundamental en un contexto donde tecnologías como asistentes virtuales, robots colaborativos y plataformas automatizadas de decisión tendrán un papel cada vez más relevante en la vida cotidiana. 

Un esfuerzo interdisciplinario con impacto global 

El proyecto es dirigido por los profesores Luis Felipe Giraldo, del Departamento de Ingeniería Biomédica; Nicanor Quijano, de Ingeniería Eléctrica y Electrónica; y Rubén Manrique, de Ingeniería de Sistemas y Computación. 

Además, cuenta con el respaldo de aliados estratégicos que fortalecen su proyección internacional: el doctorado de Manuela Chacón es financiado por Google DeepMind, mientras que el de Manuel Ríos es cofinanciado por Bancolombia y la Universidad de los Andes. 

Este esfuerzo conjunto busca sentar las bases para el desarrollo de sistemas de inteligencia artificial más seguros, confiables y capaces de colaborar eficazmente, tanto entre sí como con las personas. 

Reconocimiento en escenarios científicos de alto nivel 

Los avances de esta línea de investigación han sido publicados en algunos de los espacios científicos más relevantes a nivel mundial en inteligencia artificial, como la revista IEEE Transactions on Artificial Intelligence y la conferencia NeurIPS, lo que evidencia su impacto y reconocimiento internacional. 

Aplicaciones en salud y bienestar 

Aunque esta investigación aborda principios fundamentales de la inteligencia artificial, sus aplicaciones son especialmente importantes en sectores como la salud, donde será creciente la necesidad de que múltiples sistemas inteligentes se coordinen entre sí y colaboren de manera confiable con profesionales y pacientes. 

Este trabajo hace parte de la línea de investigación IA en Salud y Bienestar, liderada por el profesor Luis Felipe Giraldo, que busca desarrollar soluciones de inteligencia artificial para mejorar la salud mediante cuatro ejes: generación de datos biomédicos, análisis de datos de salud, apoyo a la toma de decisiones clínicas e inteligencia artificial cooperativa. 

En particular, este proyecto se enmarca en este último eje, enfocado en comprender cómo múltiples agentes de IA pueden interactuar, coordinarse y adaptarse en sistemas complejos, favoreciendo la resiliencia y la toma de decisiones colaborativa. 

Una mirada hacia el futuro de la inteligencia artificial 

A medida que la inteligencia artificial se integra cada vez más en diferentes ámbitos de la vida, comprender cómo estos sistemas interactúan entre sí y con las personas será clave para construir un futuro donde la tecnología no solo sea poderosa, sino también segura, ética y confiable.