De Terminator a Trumpinator

 

Estos días ha vuelto a instalarse en la conversación pública uno de los grandes temores de nuestro tiempo: la posibilidad de que la inteligencia artificial (IA) termine escapando al control humano. Jacob Coxon, antiguo investigador de OpenAI y posteriormente de Anthropic, ha abandonado esta última compañía denunciando la carrera en la que se encuentran inmersas las grandes empresas tecnológicas para desarrollar sistemas cada vez más potentes. Su advertencia ha adquirido un tono especialmente inquietante después de que Evan Hubinger, responsable de investigación sobre alineamiento en Anthropic, haya estimado en más de un 10 % la probabilidad de que la inteligencia artificial pueda provocar la extinción humana durante la próxima década.

No sabemos qué capacidades alcanzarán los sistemas de IA en los próximos años ni podemos asegurar que seremos capaces de controlar sistemas progresivamente más autónomos, y supongo que quienes alertan sobre este riesgo no están pensando en una versión literal de Terminator, con máquinas que adquieren conciencia, desarrollan odio hacia la humanidad y deciden exterminarla. Su argumento señala a la posibilidad de desarrollo de modelos de IA capaces de mejorar sus propias capacidades, acelerar extraordinariamente su desarrollo y adquirir una autonomía creciente para intervenir en sistemas informáticos, gestionar recursos, realizar ciberataques, manipular información o desarrollar investigación científica. Si sus objetivos no estuvieran suficientemente alineados con los humanos, podríamos encontrarnos ante comportamientos que escapasen progresivamente a nuestro control.

Seguro que hay posibilidades de desarrollo de la IA que deben preocuparnos; por cierto, algunas de estas preocupaciones no son futuras, sino actuales, como su enorme impacto ecológico. Pero hay algo en la forma en que imaginamos ese peligro que me resulta profundamente insatisfactorio. ¿De verdad imaginamos que una IA decidirá algún día lanzar dos bombas atómicas sobre sendas ciudades densamente pobladas, provocando decenas de miles de muertes instantáneas? ¿Necesitará una superinteligencia descubrir que la violación masiva de mujeres puede utilizarse como arma de guerra? ¿Será una máquina autónoma la que invente la posibilidad de privar deliberadamente de alimentos, agua y asistencia sanitaria a una población civil? ¿Necesitaremos algoritmos desalineados para organizar deportaciones, campos de concentración, esclavitud, tortura, limpieza étnica o genocidio?

Hiroshima y Nagasaki no necesitaron IA, Auschwitz tampoco. Las violaciones sistemáticas utilizadas como instrumento de terror y dominación no fueron concebidas por algoritmos. Las hambrunas provocadas deliberadamente, las deportaciones masivas y los genocidios fueron y son decisiones humanas, ejecutadas por seres humanos y organizadas mediante instituciones humanas. Tampoco necesitamos esperar a que aparezca una superinteligencia desalineada para comprobar que existen actores perfectamente humanos dispuestos a poner en peligro las condiciones de vida de millones de personas. Por eso me preocupa que la fascinación contemporánea por la denominada «hipótesis Terminator» pueda terminar desplazando nuestra atención del problema políticamente más inmediato. No porque los riesgos asociados a una IA extraordinariamente avanzada sean inexistentes, sino porque, mientras contemplamos la posibilidad de que algún día las máquinas adquieran una capacidad autónoma para hacernos daño, podemos dejar de mirar la utilización que personas, empresas, gobiernos y ejércitos están haciendo ya, y harán cada vez más, de esas mismas tecnologías.

Langdon Winner formuló hace décadas una idea que resulta especialmente pertinente en este debate: los artefactos tienen política. La tecnología no constituye una esfera neutral situada fuera de la sociedad, al contrario, los sistemas tecnológicos son también sistemas sociales que incorporan prioridades, distribuyen capacidades, cristalizan relaciones de poder y hacen más fáciles determinadas formas de organización mientras dificultan otras. No basta, por tanto, con afirmar que una tecnología es neutral y que todo depende de cómo la utilicemos, pero tampoco imaginarla como una fuerza plenamente autónoma que avanza siguiendo una lógica completamente independiente de las sociedades que la producen.

Precisamente porque los artefactos tienen política debemos preguntarnos quién los diseña, quién los posee, quién decide sus objetivos, quién obtiene sus beneficios, quién soporta sus costes y bajo qué instituciones se gobiernan. Desde esta perspectiva, frente a la «hipótesis Terminator» convendría empezar a considerar lo que podríamos llamar la «hipótesis Trumpinator». Trump representa de manera particularmente visible una racionalidad política que concibe el desarrollo tecnológico en términos de competición, dominación y superioridad estratégica: hay una carrera y debemos ganarla, existen adversarios y debemos superarlos, cualquier regulación que pueda ralentizarnos constituye una desventaja, disponer de la tecnología más poderosa posible es un objetivo en sí mismo. Pero esta racionalidad ni nació con Trump ni desaparecerá con él, está profundamente arraigada en el capitalismo de competencia entre empresas, Estados y bloques geopolíticos.

La hipótesis Trumpinator plantea una posibilidad menos espectacular que la película Terminator, pero mucho más inmediata: que el principal peligro no consista en que las máquinas se vuelvan demasiado humanas, sino en que construyamos máquinas extraordinariamente poderosas al servicio de algunas de las tendencias más inhumanas que ya existen en nuestras sociedades. Para que esto ocurra, la IA no necesita odiarnos, tener conciencia ni desarrollar deseos, resentimiento, voluntad de poder o instinto de conservación; no necesita «querer» absolutamente nada. Basta con que permita a determinados actores vigilar mejor, seleccionar objetivos militares con mayor rapidez, controlar fronteras más eficazmente, identificar disidentes, manipular comportamientos, producir propaganda a escala industrial, realizar ciberataques, desarrollar nuevas armas, sustituir trabajo humano, discriminar de manera aparentemente objetiva o concentrar todavía más riqueza y poder.

Y aquí aparece una cuestión que el lenguaje que utilizamos puede contribuir a ocultar. Cada vez resulta más habitual escuchar que «la IA ha decidido», «la IA discriminó», «la IA seleccionó», «la IA se rebeló» o «la IA escapó a nuestro control». Pero ese desplazamiento gramatical del sujeto se convierte en un desplazamiento de la verdadera responsabilidad. Cuando afirmamos que «un algoritmo discriminó a las mujeres» estamos dejando fuera de la frase quién seleccionó los datos, quién diseñó el sistema, quién decidió utilizarlo para seleccionar personal y qué organización consideró conveniente delegar esa decisión en una máquina. Cuando decimos que «una IA seleccionó un objetivo militar» podemos olvidar quién adquirió el sistema, quién estableció sus parámetros, quién decidió desplegarlo y qué doctrina política y militar autorizó su utilización. Y cuando afirmamos que «la IA podría exterminarnos» corremos el riesgo de convertir un problema eminentemente político en un problema fundamentalmente técnico, reducido al llamado alignment problem: ¿cómo conseguiremos que una IA extraordinariamente poderosa permanezca «alineada» con los valores y objetivos humanos? Pero, ¿qué valores humanos? ¿Los valores de quién?

La humanidad no constituye un sujeto homogéneo con una única función de utilidad. Los intereses de quien trabaja para una plataforma digital no coinciden con los de sus accionistas; los de una persona refugiada se enfrentan a los del gobierno que pretende impedirle atravesar una frontera; los de una población sometida a bombardeos nunca coincidirán con los del ejército que utiliza sistemas algorítmicos para seleccionar sus objetivos. Antes del problema del alineamiento de las máquinas existe, por tanto, otro mucho más profundo: el problema del alineamiento humano. De manera que la pregunta no puede ser cómo alinear la IA con «nuestros» valores, sino quién tiene el poder de decidir cuáles son esos valores, convertirlos en instrucciones y dotarlos de una capacidad tecnológica sin precedentes.

Terminator nos impulsa a imaginar un enemigo exterior, una IA que un día se emancipa de quienes la crearon, desarrolla sus propios objetivos y se vuelve contra la humanidad. Trumpinator nos invita a contemplar una posibilidad bastante más preocupante y en absoluto hipotética: que la máquina funcione perfectamente, que no se rebele, que no adquiera conciencia, que permanezca disciplinadamente alineada y que, precisamente por ello, haga extraordinariamente bien aquello que determinados seres humanos le ordenen hacer. Vista así, la amenaza de la IA se convierte en algo mucho menos exótico de lo que parece y tras ella encontramos capitalismo y competencia empresarial, rivalidad geopolítica, concentración de poder, secretismo, seguridad nacional, militarización y ausencia de instituciones globales suficientemente poderosas para imponer límites compartidos. No necesitamos elegir entre creer que la IA resolverá nuestros problemas y temer que termine exterminándonos. Podemos reconocer que sistemas crecientemente autónomos plantean riesgos nuevos y potencialmente extraordinarios y, al mismo tiempo, negarnos a permitir que esos riesgos futuros invisibilicen los peligros presentes derivados de su inserción en estructuras económicas, políticas y militares que conocemos demasiado bien.

Más que preocuparnos por la posibilidad de que algún día perdamos el control sobre la IA deberíamos preocuparnos por algo que ya está ocurriendo, la extraordinaria concentración del control sobre la IA en manos de empresas, gobiernos y aparatos militares que escapan a la deliberación y el control democráticos. Nos asusta imaginar una inteligencia extraordinariamente poderosa que deje de obedecer a los seres humanos, pero considerando Hiroshima, Auschwitz, las violaciones masivas, las hambrunas provocadas, los genocidios y las guerras que jalonan nuestra historia, deberíamos plantearnos si tenemos tan claro que sea tranquilizador construir una inteligencia extraordinariamente poderosa que esté perfectamente alineada con los intereses de tipos como Trump.