Judea Pearl gana el premio Fronteras del Conocimiento por sentar las bases de la IA moderna
Sus contribuciones han abierto la puerta al desarrollo de ordenadores capaces de «predecir resultados» basados en los cálculos de probabilidades y «resolver situaciones hipotéticas del mundo real»
El Premio Fundación BBVA Fronteras del Conocimiento en Tecnologías de la Información y la Comunicación ha sido concedido en su XIV edición a Judea Pearl , por aportar una base moderna a la Inteligencia Artificial». Pearl, catedrático de Ciencias de la Computación y director del Laboratorio de Sistemas Cognitivos de la Universidad de California en Los Ángeles (UCLA), ha hecho contribuciones conceptuales, formales y matemáticas para que los programas de Inteligencia Artificial puedan interiorizar de manera eficaz dos grandes vías que utilizamos los humanos para entender el mundo y tomar decisiones: la probabilidad y la causalidad. Gracias al lenguaje formal que ha desarrollado, esos procesos esenciales en la toma de decisiones pueden ser integrados en los programas informáticos.
En una entrevista realizada tras conocerse el fallo, Pearl ha resumido en una frase la que considera su aportación fundamental a la Inteligencia Artificial moderna: «Es la primera vez que podemos entender lo que significa entender, la primera vez que tenemos un modelo computacional de la comprensión profunda». Y comprender, para Pearl, significa «ser capaz de responder preguntas en tres niveles importantes: la predicción (qué ocurrirá en tal o cual circunstancia); el efecto de las acciones; y su explicación, por qué las cosas ocurrieron como lo hicieron y qué habría pasado si hubieran ocurrido de otra manera. Estos tres niveles de sofisticación son los que el lenguaje computacional capta ahora y eso es lo que entendemos por comprensión».
En el acta, el jurado del premio destaca que «al sentar una base matemática para el razonamiento probabilístico y la inferencia de relaciones causales, Pearl construyó un marco para una serie de campos que incluyen las ciencias de la computación, las matemáticas y la estadística, la epidemiología y la salud, y las ciencias sociales».
Los métodos de Pearl se enseñan hoy en todas las facultades de Informática y sus libros «han inspirado avances trascendentales en la comprensión del razonamiento y el pensamiento». Su «amplio y profundo impacto» se percibe en multitud de áreas y aplicaciones, como «en el desarrollo de ensayos clínicos médicos no sesgados y eficaces, en la psicología, la robótica y la biología», añade.
La candidatura de Pearl ha estado avalada por 11 destacados investigadores en Europa y Estados Unidos , expertos en ciencias de la computación, Inteligencia Artificial, psicología, economía, y filosofía. Entre ellos se encuentra el premio Nobel de Economía Daniel Kahneman, que al apoyar su candidatura afirma: «A lo largo de mi carrera he conocido a bastantes académicos reconocidos como gigantes en su campo. Creo que nunca he encontrado uno que suscite tanta reverencia y tanto afecto como Judea Pearl».
Otro de los nominadores es Vinton G. Cerf, vicepresidente y Chief Internet Evangelist en Google (EE.UU.), que dice haber observado «con admiración cómo su trabajo ha abierto nuevos caminos, a menudo en contra de la sabiduría convencional. Judea Pearl siguió investigando a pesar del escepticismo y sus esfuerzos se vieron recompensados con creces».
«El trabajo de Pearl es fundamental porque aporta herramientas que van a permitir dotar a las máquinas de conocimientos basados en las relaciones causa-efecto que utilizamos las personas en la vida cotidiana», explica por su parte el profesor Ramón López de Mántaras, director del Instituto de Investigación de Inteligencia Artificial (IIIA) del CSIC, otro de los nominadores. «Ha contribuido a crear un lenguaje matemático para que un sistema de Inteligencia Artificial pueda explicar no solamente el por qué de sus decisiones (es decir responder a las preguntas de tipo Why?), sino también responder a preguntas de tipo What if?, es decir, ¿qué hubiera pasado si las cosas se hubieran hecho de otra manera? Por ejemplo, en el campo de la medicina, ¿qué hubiera pasado si hubiéramos dado otra medicación a un paciente?».
Una IA «menos opaca»
Los nominadores destacan que frente a otras líneas de la IA y la estadística, como el deep learning o las redes neuronales, la contribución de Pearl aporta una transparencia que es imprescindible en algunas áreas de aplicación , como la toma de decisiones en medicina o en cuestiones legales y económicas.
Vinton G. Cerf ha señalado que los libros más recientes de Pearl sobre causalidad y razonamiento «son hitos en el análisis bayesiano y el aprendizaje automático. Pearl argumenta con fuerza que, sin un modelo causal, las correlaciones descubiertas por las redes neuronales profundas no darán muchos frutos».
Pedro Larrañaga, catedrático de Inteligencia Artificial (IA) en la Universidad Politécnica de Madrid (UPM), lleva tres décadas investigando teóricamente y aplicando las contribuciones de Pearl en dominios como la bioinfomática, la neurociencia o la industria. Según explica, la aportación del premiado hace posible una Inteligencia Artificial «menos opaca», que permite entender las razones por las que los sistemas inteligentes llegan a determinadas conclusiones: «Gran parte de los éxitos recientes de la IA se basan en redes neuronales que emplean algoritmos de aprendizaje profundo (deep learning). Pero estos programas son como cajas negras, no es posible interpretar cómo han llegado a resolver el problema. Frente a ello está la línea que considera que la interpretabilidad debe estar en la base de la IA, y ahí nos situamos quienes trabajamos con las redes bayesianas de Pearl».
Larrañaga apuesta por un crecimiento de la IA en esta dirección, en especial en áreas como la medicina o en decisiones con consecuencias legales o financieras. «Tanto en EE.UU. como en Europa hay una tendencia a pedir una ética de la IA, y a auditar los procesos. Por eso creo que prevalecerá la línea de trabajo de Pearl, porque ofrece mayor transparencia», señala.
En esto coincide también Ramón López de Mántaras, para quien las herramientas aportadas por el trabajo de Pearl «permiten la explicabilidad, es decir, ofrecen una trazabilidad en la cadena de razonamiento que ha utilizado una Inteligencia Artificial para llegar a una determinada conclusión. Este tipo de sistemas es más complejo, pero merecen la pena, porque ofrecen mucha mayor confianza, ya que así, por ejemplo, un médico puede conocer las razones por las que la máquina ha alcanzado un diagnóstico o recomienda un tratamiento a un paciente».
