El viejo cañón

En su último libro (Human Compatible: Artificial Intelligence and the Problem of Control), publicado el mes pasado, el científico británico Stuart Russell, con una larga y prestigiosa carrera dedicada a la inteligencia artificial (IA), pinta un cuadro inquietante de lo que nuestro mundo podría llegar a ser si muchas de las actividades que los humanos desarrollamos ahora personalmente llegaran a ser encomendadas a máquinas dotadas de una inteligencia superior a la nuestra. O dicho de otro modo: ¿Hasta qué punto esas máquinas podrían ser compatibles con la humanidad tal como hoy la conocemos?

Es frecuente insistir en que tales máquinas serían el mayor invento jamás ideado, pero no son pocos los que creen que también podría ser "el último". La era de las transformaciones técnicas que se aceleró con la Revolución Industrial nos ha enseñado a desconfiar de lo que se presenta como un gran avance científico o tecnológico, sin conocer los efectos que a largo plazo pudiera producir.

Una creación espectacular puede resolver hoy un problema y generar mañana otro más grave. La invención de los plásticos (desde la vieja baquelita hasta los más recientes biodegradables) fue saludada con entusiasmo y todavía hoy parece casi imposible prescindir de ellos. Pero, a la vez, la irreversible degradación que algunos producen en el medio ambiente, sobre todo acuático, empieza ya a mostrarse como un serio peligro para el crítico equilibrio ecológico del planeta.

Para Russell, el modo como se controlen las máquinas de IA "es quizá la cuestión más importante que afronta la humanidad". ¡Abrumadora declaración!  ¿Otro nuevo problema enmarañado a resolver por una humanidad desbordada? se preguntará el lector. Parece como si no tuviéramos bastante con la temible emergencia climática; con el deterioro que las redes sociales internáuticas causan a los procesos políticos; con la extendida sensación de inestabilidad que hace brotar en los cuatro puntos cardinales multitudinarias protestas de pueblos insatisfechos... etc.

Pues así es y no le falta razón a Russell al alertar sobre el nuevo peligro. Una máquina capaz de absorber y procesar toda la información disponible en el mundo adquiriría un conocimiento total muy superior al de cualquier persona y siempre tomaría las decisiones más adecuadas en cualquier momento.

Su utilización indudablemente podría mejorar los métodos de enseñanza y ayudaría eficazmente a los médicos en su lucha contra la enfermedad. Pero también permitiría a los Gobiernos ejercer tal grado de vigilancia y control sobre sus pueblos que, según Russell, "la Stasi alemana parecería cosa de aficionados". La guerra podría ser eficazmente desarrollada por robots asesinos que actuarían de modo selectivo e implacable. La imaginación no encuentra límites.

Pero, para Russell, la perspectiva más inquietante de las máquinas con IA es que no podrían ser paralizadas. Una de sus primeras decisiones "lógicas" sería impedir cualquier intento de desconexión -porque les impediría cumplir la misión asignada- y dispondrían de medios para lograrlo. (Recuerde el lector la película "2001: una odisea en el espacio"). Los proyectos de Russell se encaminan hacia una lógica que, para evitar la temida autonomía de la máquina, introduzca en sus algoritmos una cierta "duda" que evite convertirla en un dispositivo automático e incontrolable, pero al coste de no trabajar siempre del modo perfecto para el que podría haber sido diseñada. Sería un problema psicológico para la IA.

En ese mundo posible, el trabajo físico o mental de las personas correría a cargo de las máquinas con IA y, como consecuencia, ello nos daría tiempo libre para dedicarnos al ocio, al arte o simplemente a hacer nuestra voluntad. Pero, a la vez, la especie humana se debilitaría paulatinamente porque resultaría innecesario esforzarse, aprender, inventar... 

Ese panorama distópico es inquietante. Queda la esperanza de que saberlo a tiempo permita establecer las necesarias defensas frente al presumible dominio de unas máquinas implacables pero, al fin y al cabo, simples creaciones del cerebro humano. Y de que los temores de Russell no se materialicen.

Publicado en República de las ideas el 14 de noviembre de 2019.