En el verano de 2009, inesperadamente, un avión de Air France perdió altura y se hundió en el mar. En mitad del Océano Atlántico, no iba a ser fácil localizar los restos del accidente. Hasta entonces, el método habitual consistía en ir trazando sobre un mapa círculos concéntricos alrededor de la última posición conocida y explorarlos sistemáticamente. Aquella vez, en cambio, las autoridades trataron de encontrar un método más eficiente.
Para ello, contrataron a oceanógrafos y matemáticos de varios países, que después de sesudos análisis idearon un algoritmo de búsqueda novedoso. El tiempo apremiaba. Allá en el fondo del océano, la caja negra del avión emitía señales cada vez más débiles, y su batería no duraría más de 30 días. Los equipos de rescate, sin embargo, no encontraron nada y Air France tardó casi dos años en localizar los restos del avión.
El modelo matemático adoptado para la búsqueda no había funcionado. Peor todavía: el lugar del accidente estaba a sólo 10 km de la última posición conocida, y el método de los círculos concéntricos habría dado resultado en muy pocos días.
Nadie tiene una bola de cristal
En todo el mundo, sin embargo, los modelos matemáticos hacían furor. En Estados Unidos, una empresa inmobiliaria llamada Zillow decidió también usar un modelo matemático para predecir las fluctuaciones de los precios de la vivienda. Aplicando el nuevo algoritmo, compraron 1.900 viviendas... y terminaron perdiendo más de 300 millones de dólares.
Ha sucedido una y otra vez. Los modelos matemáticos se estrellan contra la realidad. Como sucede con el ‘efecto mariposa’, cualquier mínima fluctuación de una variable puede terminar amplificándose hasta desencadenar una catástrofe. Como dijo el economista Kenneth Galbraith, la única utilidad real de las predicciones económicas es hacer de la astrología una ciencia respetable.
Lo cual demostró también el Wall Street Journal. Durante años, el periódico encargó a cinco analistas seleccionar un valor de bolsa que, según ellos, habría subido de precio un mes después. Cuenta la leyenda que, al mismo tiempo, ponían a un chimpancé a arrojar dardos a un mural con los nombres de las empresas cotizadas. Un mes más tarde, descubrieron que el chimpancé acertaba más a menudo que los analistas.
¿Inteligencia artificial o patinazo artificial?
El furor por los modelos matemáticos ha alcanzado su cénit con la inteligencia artificial. Pero también en ese campo está habiendo tropezones. Como sucedió, por ejemplo, con cierto sistema de inteligencia artificial. El modelo, que estaba adiestrado para detectar el covid 19, fallaba estrepitosamente cuando el paciente estaba de pie. Había sido entrenado sólo con enfermos postrados en cama.
La solución, sin embargo, no es evidente. Incorpore al entrenamiento pacientes que estaban sentados, o de pie, y tarde o temprano el programa encontrará una correlación entre el covid y el color de los zapatos. O del cabello.
Algo así sucedió durante la retransmisión de un partido de fútbol en 2020. La cámara había sido entrenada para que siguiera los movimientos del balón, pero uno de los jugadores tenía la cabeza afeitada y la cámara decidió que aquella superficie redonda era la pelota. Imagínese usted mismo el resultado.
También Amazon metió la pata con la inteligencia artificial. Desarrolló un modelo que detectaba delincuentes analizando los rasgos de su cara y lo vendió a varios departamentos de policía de Estados Unidos. La American Civil Liberties Union decidió entonces comparar las fotos de 20.000 delincuentes con imágenes de los congresistas. El modelo de Amazon señaló a 28 congresistas como delincuentes fichados por la policía.
Sálvese quien pueda
Pero los modelos de inteligencia artificial pueden tener consecuencias todavía más serias. No hace mucho tiempo, un chatbot de OpenAI entrenado para interpretar los síntomas de los pacientes respondía sistemáticamente que sí cuando un paciente le preguntaba si debía suicidarse.
Y en 2018 un automóvil ‘inteligente’ de Uber arrolló a una mujer que se cruzó en su camino, causándole la muerte. El automóvil rodaba a sólo 40 km/h. No llevaba ni conductor ni asistente humano, y no consiguió reconocer a la mujer como una persona. No sólo eso. Ni siquiera fue capaz de predecir la trayectoria de la mujer a través de la calzada.
Esto no quiere decir que la inteligencia artificial no tenga futuro. Por desgracia lo tendrá, a medida que la tecnología se vaya perfeccionando. Pero no es difícil imaginar que conducirá a situaciones kafkianas. Imagínese que un modelo de inteligencia artificial se ha equivocado con usted. Normalmente, tendrá la posibilidad de reclamar. Pero, ¿deberá presentar su reclamación a un ser humano... o a otro sistema de inteligencia artificial?
¿Le parece un escenario descabellado? Haga memoria. ¿Le suena a algo eso de: “Si desea contactar con el departamento de averías, pulse 1. Si desea información sobre su contrato, pulse 2. Si desea…”?
Un retrovisor defectuoso
En 2001, el Grupo Intergubernamental de Expertos sobre el Cambio Climático (IPCC) declaró que “Nos encontramos ante un sistema caótico no lineal acoplado, y por lo tanto no es posible predecir los estados futuros del clima”. E inmediatamente se lanzó a predecir los estados futuros del clima, cosa que continúa haciendo desde hace más de 20 años.
Pero tenía razón. Tampoco los modelos del clima son fiables, y ni siquiera han sido capaces de predecir el pasado que todos conocemos. Exceptuando un modelo ruso (que acertó por casualidad), ninguno de los modelos climáticos desarrollados en los últimos treinta años ha conseguido predecir la temperatura que más tarde midieron los satélites y los globos sonda.
Ningún modelo ha logrado predecir, por ejemplo, la terrible sequía que padecieron en Estados Unidos durante los años 30 (el ‘Dust Bowl’) a partir de los datos climáticos de 1900.
El clima es intrínsecamente impredecible. Está sujeto a una infinidad de variaciones muchísimo más complejas que las que determinan un diagnóstico, la evolución de una pelota o las facciones de una persona. Esencialmente, los modelos del clima merecen tanta confianza como los modelos matemáticos de las pandemias, de los agujeros negros o –si me apura usted– de los orígenes del universo.
No se desanime. No todo está perdido. En meteorología, al menos, todavía hay un pronóstico que siempre será infalible:
“Sol y nubes”.