Fotocopias de fotocopias
La inteligencia artificial y la endogamia
Sus vecinos acaban de llegar de vacaciones. Este año habían decidido visitar una ciudad remota del lejano oriente y están ya deseosos de relatar su experiencia. Naturalmente, ilustran su relato con una pródiga colección de fotografías.
“¡Esta –señalan con el dedo, entusiasmados– era la calle principal!”. Usted examina la foto. Efectivamente, la mayoría de los paseantes tienen rasgos orientales, pero las tiendas que aparecen a ambos lados de la calle son las mismas que en la ciudad donde usted vive. Si ignoramos los ojos rasgados de los viandantes, aquella calle podría perfectamente estar sacada de un mapa de Johannesburgo, de Varsovia o de São Paulo.
Por suerte para las agencias de viajes, no todo es decepcionante, y las guías turísticas se encargan de señalarnos las diferencias. Es un alivio, porque las repeticiones, francamente, son aburridas. Además de comprimir la vida cotidiana en un exiguo repertorio de experiencias previsibles, la rutina nos hace a todos más iguales. Nos hace predecibles y, a la larga, atrofia nuestra creatividad y nuestra capacidad de improvisación. Y, por lo tanto, de supervivencia.
Cambiar todo para que nada cambie
Quizá fue eso lo que les sucedió a nuestros antepasados más lejanos. Según han averiguado los arqueólogos, ciertas técnicas artesanales, como la talla de huesos, en muchos casos no subsistieron. La extinción de los neanderthales pudo deberse, al menos en parte, a esa pérdida de creatividad. Cuando las poblaciones son pequeñas, los conocimientos terminan perdiéndose y la innovación escasea. Además, muchas de aquellas poblaciones primitivas no tuvieron más remedio que recurrir a la endogamia.
La endogamia es enemiga de la evolución. Como las monarquías europeas saben por experiencia, la endogamia aumenta la probabilidad de que los hijos hereden genes recesivos –a menudo perjudiciales–, que en una población diversificada tienden a desaparecer. Para que una especie sobreviva, sus mutaciones beneficiosas tienen que triunfar sobre las perjudiciales.
La evolución es una batalla permanente del orden contra el desorden. O, dicho de otro modo, del desorden natural frente al desorden accidental. Fotocopie usted fotocopias de fotocopias de un cuadro abstracto, y observará cómo la imagen original se va desdibujando. En cambio, antes de cada operación introduzca al azar un defecto óptico en la fotocopiadora y podrá seguir obteniendo imágenes abstractas aceptablemente nítidas… sólo que diferentes del original.
La evolución consigue mantener el orden, pero pagando un precio: el orden tiene que ir cambiando. Es decir, evolucionando. Precisamente para mantener ese orden cambiante que les permite sobrevivir, muchas de las especies animales han desarrollado mecanismos, unas veces instintivos y otras veces sociales, para evitar la endogamia.
El bosque nos permite ver los árboles
Lo cual nos conduce a un territorio inesperado, aunque de candente actualidad. Pero, antes de entrar en materia, nos vendría bien aclarar un par de cosas sobre el funcionamiento de la mente humana.
¿Alguna vez se ha preguntado usted por qué reconocemos un árbol en cuanto lo vemos? Desde luego, no porque hayamos leído en un diccionario la definición de ‘árbol’, sino porque hemos visto ya muchos árboles a lo largo de nuestra vida. Con el paso del tiempo, nuestro cerebro ha ido refundiendo todas esas imágenes y se ha quedado con lo esencial: lo que diferencia esencialmente un árbol de, digamos, una iguana o un volcán o un tenedor.
Por lo tanto, cuantos más árboles hayamos visto, más claro será nuestro concepto de ‘árbol’, y más difícil será que lo confundamos con un cactus o con un coral. Y, por lo tanto, más claramente podremos definirlo. Por ejemplo, en un diccionario.
Algo parecido sucede con la inteligencia artificial. Los modelos de IA acumulan cantidades ingentes de textos, imágenes, vídeos o audios para poder extraer conclusiones. Cuanto más material reúnan, mejor. Seguidamente, estructuran toda esa información y la usan para predecir… por ejemplo, un árbol imaginario. Si Conan Doyle hubiera escrito siete mil millones de relatos sobre Sherlock Holmes, predecir uno nuevo sería pan comido.
Naturalmente, también la IA se equivoca. Pero algunos sistemas de IA aprenden a reconocer sus errores y se reajustan para no volver a meter la pata. No porque entiendan la causa de su equivocación, sino porque sus creadores los someten a un largo –y ciego– entrenamiento.
La rutina y el ruido
Pero hay un problema. El material generado por IA termina mezclándose con el material genuinamente producido por seres humanos. Aunque le parezca alucinante, a día de hoy usted probablemente ha leído ya mas de un artículo serio escrito por algún programa de IA. Y la tendencia va en aumento.
La situación empieza a ser parecida a la de la fotocopiadora. Cuando el sistema se alimenta de sí mismo, el ruido espontáneo –o, si lo prefiere usted, la endogamia– empieza a deteriorar los resultados. Este efecto no es sólo una conclusión razonada. Un artículo recientemente publicado en la revista Nature ha constatado que el fenómeno es real.
Además, a fuerza de repetir una y otra vez las mismas operaciones, un programa de IA terminará siendo un superexperto en la materia, pero no aprenderá nada nuevo ni generará conocimientos. Para contrarrestar ese inconveniente, los programadores están empezando a introducir ‘ruido’ externo en los datos de los que se alimenta la IA. Es decir, a evitar la endogamia.
En un experimento reciente, el texto producido por un sistema de IA después de nueve ciclos de alimentarse de sus propios textos era absolutamente incomprensible. Es lo que técnicamente se llama el ‘colapso’ del modelo. Para determinar hasta qué punto es aceptable un texto, los programadores han ideado una escala de niveles de “perplejidad”, aunque en este caso ni siquiera era necesario. Saltaba a la vista.
¿Un futuro de siervos?
Para bien o para mal, el futuro de la IA dependerá de nosotros. ‘Personalizar’ una aplicación en nuestro móvil, o incluir en nuestro perfil datos personales, es la mejor manera de informar a la IA de nuestras preferencias y estados de ánimo. Aunque muchos no lo sepan, nuestros intercambios de mensajes, audios e imágenes son constantemente analizados por programas de IA. Lea (si su paciencia es suficientemente sobrehumana) los “Términos y condiciones” de las aplicaciones ‘gratuitas’ que tiene instaladas en su móvil y lo comprenderá.
Mientras la IA sea una herramienta de control en manos de poderosos, nuestra cooperación –consciente o no– será un boomerang que, si nadie lo remedia, terminará sometiéndonos. Y estamos sólo en los balbuceos de esa tecnología. Los programadores sueñan ya (o tal vez deliran) con sistemas que, además de aplicar ciegamente algoritmos, como hasta ahora, comprendan lo que están haciendo, se reproduzcan o, en un supuesto que asustaría al mismísimo George Orwell, sean conscientes de su propia existencia. Y, por lo tanto, actúen en consecuencia.
Pero eso no es lo peor que podría suceder. Si un sistema de IA que se alimenta de sí mismo puede terminar ‘alucinando’, sería deseable que ese sistema no regulara los semáforos de nuestras ciudades, no sustituyera a nuestros médicos o jueces o no supervisara nuestras compras digitales. La locura puede ser todavía más nefasta que la maldad, o que el ansia de poder.
¿Le parece que exagero? Desengáñese. Todos estos escenarios están a la vuelta de la esquina, y sólo de nosotros –con suerte– dependerá que la inteligencia artificial destruya o no radicalmente nuestra sociedad tal como la conocemos.
Y a nosotros con ella.