Estos días ha vuelto a instalarse en la conversación pública uno de los
grandes temores de nuestro tiempo: la posibilidad de que la inteligencia
artificial (IA) termine escapando al control humano. Jacob Coxon, antiguo
investigador de OpenAI y posteriormente de Anthropic, ha abandonado esta última
compañía denunciando la carrera en la que se encuentran inmersas las grandes
empresas tecnológicas para desarrollar sistemas cada vez más potentes. Su
advertencia ha adquirido un tono especialmente inquietante después de que Evan Hubinger, responsable
de investigación sobre alineamiento en Anthropic, haya estimado en más de un 10
% la probabilidad de que la inteligencia artificial pueda provocar la extinción
humana durante la próxima década.
No sabemos qué capacidades alcanzarán los sistemas de IA en los próximos
años ni podemos asegurar que seremos capaces de controlar sistemas
progresivamente más autónomos, y supongo que quienes alertan sobre este riesgo no
están pensando en una versión literal de Terminator, con máquinas que
adquieren conciencia, desarrollan odio hacia la humanidad y deciden
exterminarla. Su argumento señala a la posibilidad de desarrollo de modelos de IA
capaces de mejorar sus propias capacidades, acelerar extraordinariamente su
desarrollo y adquirir una autonomía creciente para intervenir en sistemas
informáticos, gestionar recursos, realizar ciberataques, manipular información
o desarrollar investigación científica. Si sus objetivos no estuvieran
suficientemente alineados con los humanos, podríamos encontrarnos ante
comportamientos que escapasen progresivamente a nuestro control.
Seguro que hay posibilidades de desarrollo de la IA que deben preocuparnos;
por cierto, algunas de estas preocupaciones no son futuras, sino actuales, como
su enorme impacto ecológico. Pero hay algo en la forma en que imaginamos ese peligro que me resulta
profundamente insatisfactorio. ¿De verdad imaginamos que una IA decidirá algún
día lanzar dos bombas atómicas sobre sendas ciudades densamente pobladas,
provocando decenas de miles de muertes instantáneas? ¿Necesitará una
superinteligencia descubrir que la violación masiva de mujeres puede utilizarse
como arma de guerra? ¿Será una máquina autónoma la que invente la posibilidad
de privar deliberadamente de alimentos, agua y asistencia sanitaria a una
población civil? ¿Necesitaremos algoritmos desalineados para organizar
deportaciones, campos de concentración, esclavitud, tortura, limpieza étnica o
genocidio?
Hiroshima y Nagasaki no necesitaron IA, Auschwitz tampoco. Las violaciones
sistemáticas utilizadas como instrumento de terror y dominación no fueron
concebidas por algoritmos. Las hambrunas provocadas deliberadamente, las
deportaciones masivas y los genocidios fueron y son decisiones humanas,
ejecutadas por seres humanos y organizadas mediante instituciones humanas.
Tampoco necesitamos esperar a que aparezca una superinteligencia desalineada
para comprobar que existen actores perfectamente humanos dispuestos a poner en
peligro las condiciones de vida de millones de personas. Por eso me preocupa
que la fascinación contemporánea por la denominada «hipótesis Terminator» pueda
terminar desplazando nuestra atención del problema políticamente más inmediato.
No porque los riesgos asociados a una IA extraordinariamente avanzada sean inexistentes,
sino porque, mientras contemplamos la posibilidad de que algún día las máquinas
adquieran una capacidad autónoma para hacernos daño, podemos dejar de mirar la
utilización que personas, empresas, gobiernos y ejércitos están haciendo ya, y
harán cada vez más, de esas mismas tecnologías.
Langdon Winner formuló hace décadas una idea que resulta especialmente pertinente en este
debate: los artefactos tienen política.
La tecnología no constituye una esfera neutral situada fuera de la sociedad, al
contrario, los sistemas tecnológicos son también sistemas sociales que
incorporan prioridades, distribuyen capacidades, cristalizan relaciones de
poder y hacen más fáciles determinadas formas de organización mientras
dificultan otras. No basta, por tanto, con afirmar que una tecnología es
neutral y que todo depende de cómo la utilicemos, pero tampoco imaginarla como
una fuerza plenamente autónoma que avanza siguiendo una lógica completamente
independiente de las sociedades que la producen.
Precisamente porque los artefactos tienen política debemos preguntarnos
quién los diseña, quién los posee, quién decide sus objetivos, quién obtiene
sus beneficios, quién soporta sus costes y bajo qué instituciones se gobiernan.
Desde esta perspectiva, frente a la «hipótesis
Terminator» convendría empezar a considerar lo que podríamos llamar la «hipótesis Trumpinator». Trump
representa de manera particularmente visible una racionalidad política que
concibe el desarrollo tecnológico en términos de competición, dominación y
superioridad estratégica: hay una carrera y debemos ganarla, existen adversarios
y debemos superarlos, cualquier regulación que pueda ralentizarnos constituye
una desventaja, disponer de la tecnología más poderosa posible es un objetivo
en sí mismo. Pero esta racionalidad ni nació con Trump ni desaparecerá con él,
está profundamente arraigada en el capitalismo de competencia entre empresas,
Estados y bloques geopolíticos.
La hipótesis Trumpinator plantea una posibilidad menos espectacular que la
película Terminator, pero mucho más inmediata: que el principal peligro no consista en que las máquinas se vuelvan demasiado
humanas, sino en que construyamos máquinas extraordinariamente poderosas al
servicio de algunas de las tendencias más inhumanas que ya existen en nuestras
sociedades. Para que esto ocurra, la IA no necesita odiarnos, tener
conciencia ni desarrollar deseos, resentimiento, voluntad de poder o instinto
de conservación; no necesita «querer» absolutamente nada. Basta con que permita
a determinados actores vigilar mejor, seleccionar objetivos militares con mayor
rapidez, controlar fronteras más eficazmente, identificar disidentes, manipular
comportamientos, producir propaganda a escala industrial, realizar
ciberataques, desarrollar nuevas armas, sustituir trabajo humano, discriminar
de manera aparentemente objetiva o concentrar todavía más riqueza y poder.
Y aquí aparece una cuestión que el lenguaje que utilizamos puede contribuir
a ocultar. Cada vez resulta más habitual escuchar que «la IA ha decidido», «la
IA discriminó», «la IA seleccionó», «la IA se rebeló» o «la IA escapó a nuestro
control». Pero ese desplazamiento gramatical del sujeto se convierte en un
desplazamiento de la verdadera responsabilidad. Cuando afirmamos que «un
algoritmo discriminó a las mujeres» estamos dejando fuera de la frase quién
seleccionó los datos, quién diseñó el sistema, quién decidió utilizarlo para
seleccionar personal y qué organización consideró conveniente delegar esa
decisión en una máquina. Cuando decimos que «una IA seleccionó un objetivo
militar» podemos olvidar quién adquirió el sistema, quién estableció sus
parámetros, quién decidió desplegarlo y qué doctrina política y militar
autorizó su utilización. Y cuando afirmamos que «la IA podría exterminarnos»
corremos el riesgo de convertir un problema eminentemente político en un problema
fundamentalmente técnico, reducido al llamado alignment problem: ¿cómo
conseguiremos que una IA extraordinariamente poderosa permanezca «alineada» con
los valores y objetivos humanos? Pero, ¿qué
valores humanos? ¿Los valores de quién?
La humanidad no constituye un sujeto homogéneo con una única función de
utilidad. Los intereses de quien trabaja para una plataforma digital no
coinciden con los de sus accionistas; los de una persona refugiada se enfrentan
a los del gobierno que pretende impedirle atravesar una frontera; los de una
población sometida a bombardeos nunca coincidirán con los del ejército que
utiliza sistemas algorítmicos para seleccionar sus objetivos. Antes del
problema del alineamiento de las máquinas existe, por tanto, otro mucho más profundo:
el problema del alineamiento humano.
De manera que la pregunta no puede ser cómo alinear la IA con «nuestros»
valores, sino quién tiene el poder de
decidir cuáles son esos valores, convertirlos en instrucciones y dotarlos de
una capacidad tecnológica sin precedentes.
Terminator nos impulsa a imaginar un enemigo exterior, una IA
que un día se emancipa de quienes la crearon, desarrolla sus propios objetivos
y se vuelve contra la humanidad. Trumpinator nos invita a contemplar una
posibilidad bastante más preocupante y en absoluto hipotética: que la máquina
funcione perfectamente, que no se rebele, que no adquiera conciencia, que
permanezca disciplinadamente alineada y que, precisamente por ello, haga
extraordinariamente bien aquello que determinados seres humanos le ordenen
hacer. Vista así, la amenaza de la IA se convierte en algo mucho menos exótico
de lo que parece y tras ella encontramos capitalismo y competencia empresarial,
rivalidad geopolítica, concentración de poder, secretismo, seguridad nacional,
militarización y ausencia de instituciones globales suficientemente poderosas
para imponer límites compartidos. No necesitamos elegir entre creer que la IA
resolverá nuestros problemas y temer que termine exterminándonos. Podemos
reconocer que sistemas crecientemente autónomos plantean riesgos nuevos y
potencialmente extraordinarios y, al mismo tiempo, negarnos a permitir que esos
riesgos futuros invisibilicen los peligros presentes derivados de su inserción
en estructuras económicas, políticas y militares que conocemos demasiado bien.
Más que preocuparnos por la posibilidad de que algún día perdamos el
control sobre la IA deberíamos preocuparnos por algo que ya está ocurriendo, la extraordinaria concentración del control
sobre la IA en manos de empresas, gobiernos y aparatos militares que escapan a la
deliberación y el control democráticos. Nos asusta imaginar una
inteligencia extraordinariamente poderosa que deje de obedecer a los seres
humanos, pero considerando Hiroshima, Auschwitz, las violaciones masivas, las
hambrunas provocadas, los genocidios y las guerras que jalonan nuestra
historia, deberíamos plantearnos si tenemos tan claro que sea tranquilizador
construir una inteligencia extraordinariamente poderosa que esté perfectamente alineada con los intereses de
tipos como Trump.
