El mito de la inteligencia artificial

En resumen, las inferencias abductivas, misteriosas y maravillosas, impregnan nuestra cultura; son, en un sentido amplio, lo que nos convierte en humanos. Es posible que el sueño de una IA capture algún día esos saltos de manera automática, pero mientras tanto deberíamos admitir que la verdad es que no sabemos cómo mecanizar nuestra experiencia.

Para abducir tenemos que resolver el problema de selección que existe entre las causas o factores enfrentados, y para resolver ese problema tenemos que captar de alguna manera lo que resulta relevante en una situación u otra. El problema es que nadie tiene ni idea de cómo hacerlo. Nuestras inferencias actuales son a menudo suposiciones que consideramos relevantes o verosímiles, pero no son deducciones ni inducciones. Ese es el motivo por el que, desde el punto de vista de la IA, parecen mágicas.

Es evidente que el conocimiento y el razonamiento están ligados, porque no podemos inferir lo que ignoramos, y no podemos hacer uso del conocimiento que tenemos sin una capacidad de inferencia adecuada. Yo me refiero a esos problemas como «el pozo sin fondo del conocimiento» y «el motor de la inferencia mágica».

La imaginación incluye inferencias que no existen dentro de un conjunto de datos. Y el acto de imaginar requiere, más que ninguna otra cosa, de la conjetura. La abducción es una inferencia que yace en el centro de toda la inteligencia.

Es importante que en el peldaño más alto de la escalera de Pearl se encuentren los contrafactuales, donde realizamos preguntas hipotéticas cuyas respuestas no existen en ningún conjunto de datos (por definición, porque preguntamos por cosas que no han sucedido).

Tiene sentido que el foco recaiga sobre el aprendizaje profundo porque, al fin y al cabo, son los algoritmos, y no los datos por sí solos, los responsables de haber aplastado a los campeones humanos de go, los que dominan los juegos de Atari, los que conducen coches y todo lo demás.

En 2008, las provocativas declaraciones de Chris Anderson, el director de Wired, para quien los macrodatos marcarían el fin de la teoría científica, representaron el punto culminante del sensacionalismo relacionado con el tema.10

Los datos solo son hechos que han sido observados y almacenados en ordenadores para poder acceder a ellos. Y la observación de hechos, por mucho que los analicemos, no nos conduce a una comprensión general ni a la inteligencia.

Holmes conoce el valor de la simple observación —cuanto más simple, mejor—, porque aquello que creemos saber puede impedir que veamos algo nuevo.

La relevancia, en otras palabras, a menudo presupone el conocimiento de la causalidad, donde un hecho produce en realidad un resultado, o hace que suceda algo.