En esta novela Charlotte Wood se adentra en la experiencia religiosa sin exigir que la fe sea la llave que permita acceder a ella. Su protagonista, una mujer de mediana edad cuyo nombre nunca conocemos, llega a una pequeña comunidad de monjas católicas situada en las áridas llanuras de Monaro, en Nueva Gales del Sur (Australia), sin vocación religiosa y declarándose incluso atea. Al principio parece buscar simplemente un lugar en el que detenerse, alejada de una vida que ha dejado de resultarle habitable: su matrimonio, su trabajo relacionado con la conservación medioambiental, sus compromisos, la sensación de impotencia ante un mundo que se deteriora. Pero regresa una vez, y otra, hasta que finalmente deja de regresar a su vida anterior y el convento se convierte en su hogar.
La autora consigue convertir esta situación, potencialmente propicia para toda clase de sentimentalismos espirituales, en una reflexión sobre la espiritualidad absolutamente alejada de cualquier "espiriyoalismo". No encontramos revelaciones, experiencias extraordinarias, técnicas para encontrarse con una misma ni promesas de armonía interior; tampoco encontramos una naturaleza convertida en decorado terapéutico. Hay frío, cansancio, cocina, limpieza, huerto, horarios, animales muertos, pequeños enfados y personas con las que no siempre resulta fácil convivir. La espiritualidad aparece encarnada en prácticas extremadamente materiales: permanecer, atender, repetir, cuidar, cocinar, limpiar, enterrar, acompañar.
Charlotte Wood ha explicado que le interesaba la vida monástica como una existencia ordenada por el ritual y por una concepción del trabajo en la que las tareas más ordinarias pueden adquirir significado; también ha señalado su interés por la quietud y por una forma de retirada que nuestra cultura, obsesionada con la actividad, tiende a contemplar con sospecha. Esta es, a mi juicio, una de las preguntas más profundas de El retiro: ¿es posible que no hacer determinadas cosas sea también una forma de hacer el bien?
La protagonista procede de un mundo moral construido alrededor del compromiso y la acción, ha trabajado en la defensa del medio ambiente y conoce demasiado bien la magnitud de la catástrofe ecológica. Desde esa perspectiva, encerrarse en un convento puede parecer una deserción. Mientras el mundo arde, estas mujeres rezan, cantan, cultivan verduras y realizan las mismas tareas un día tras otro y la propia narradora se pregunta qué utilidad puede tener todo aquello. Pero poco a poco empieza a descubrir una ética diferente, mucho menos espectacular: allí, al menos, se intenta no hacer daño.
La intuición es desconcertante porque contradice buena parte de nuestra cultura política y moral, incluida la de quienes aspiramos a transformar el mundo. Estamos acostumbradas a identificar el bien con la intervención, el compromiso y la capacidad de producir efectos. La novela no niega esa responsabilidad -la figura de la hermana Jenny, asesinada después de haber salido del convento para trabajar con mujeres pobres en Tailandia, impide cualquier lectura complaciente del retiro-, pero introduce la duda de si nuestra voluntad de hacer el bien puede estar atravesada por la vanidad, la impaciencia, la necesidad de reconocimiento o la violencia. Frente a ella, la contención, la repetición y el cuidado de lo próximo pueden poseer una dignidad moral que nuestra obsesión por la eficacia nos impide reconocer.
Aquí aparece una de las tensiones más interesantes de la novela: adentro y afuera. Dentro del convento se intenta construir un pequeño espacio donde el daño sea mínimo mientras afuera continúan la injusticia, la violencia, el deterioro ecológico. Pero la frontera nunca permanece cerrada y el mundo entra continuamente en el convento. Lo hace literalmente mediante la plaga de ratones provocada por las alteraciones ambientales que asola a la zona; entra con los huesos de la hermana Jenny, asesinada muchos años antes; entra con Helen Parry, una célebre monja activista medioambiental que pertenece además al pasado de la protagonista. Las tres "visitaciones" que estructuran la novela impiden que el convento pueda convertirse en una burbuja de aislada inocencia.
Y esto hace especialmente interesante su aproximación a la vocación cristiana. Jenny salió al mundo y fue asesinada, las demás permanecieron: ¿quién escogió el camino correcto? La novela se niega a contestar, no contrapone una vida contemplativa egoísta a una vida activa moralmente superior, pero tampoco convierte el retiro en una sabiduría superior a la acción. Mantiene abierta la herida entre contemplación y compromiso, protección y exposición, silencio y palabra, retirada y presencia, acaso porque la pregunta verdaderamente cristiana no sea cuál de esas opciones es pura, sino cómo vivir sabiendo que ninguna permite quedar completamente a salvo de la responsabilidad hacia las demás personas.
Por eso el convento es un hogar, pero la autora tiene el enorme acierto de no convertirlo en un hogar ideal. Las monjas no constituyen una comunidad de mujeres extraordinariamente sabias y bondadosas y entre ellas, como es lógico, hay manías, irritaciones, desacuerdos, debilidades, personalidades más o menos agradables. Pero precisamente por ello la comunidad resulta creíble. Charlotte Wood ha explicado que una de las cuestiones que atraviesan su obra es cómo convivimos decentemente con personas que no hemos elegido. Quizá esa sea una definición bastante buena de comunidad, no el lugar donde encontramos a "nuestra gente", sino aquel donde aprendemos a vivir con otras personas sin exigirles que sean las personas que nosotras habríamos escogido.
Esto permite comprender otra de las singularidades más hermosas de la novela: la protagonista puede habitar un espacio confesional sin apropiarse de su fe ni fingir poseerla. No necesita convertirse para pertenecer, continúa sin saber exactamente qué cree, si es que cree algo. La oración le resulta extraña, algunos lenguajes religiosos incluso la incomodan o irritan, pero aprende a respetar prácticas cuyo fundamento teológico no comprende porque descubre que contienen una determinada forma de estar en el mundo, una forma institucionalizada de vida, con reglas, tiempos, obligaciones, rituales y memoria. Puede no creer en aquello en lo que creen las monjas y, sin embargo, reconocer que ese mundo contiene recursos para vivir que ella necesita. Su relación con el convento no consiste tanto en compartir unas creencias como en aprender una forma de atención. No es casualidad que por las páginas de la novela asome en dos ocasiones Simone Weil.
Y quizá sea esa atención la que permite comprender el movimiento más profundo de la novela, y es que la protagonista parece retirarse de su vida, pero ocurre exactamente lo contrario: cuando se detiene, su vida entera vuelve a ella. La estructura fragmentaria del relato, construido mediante recuerdos que aparecen mientras cocina, limpia, pasea o realiza cualquier tarea cotidiana, reproduce ese movimiento. El convento no permite olvidar el pasado, crea las condiciones para que pueda reaparecer. Como ha explicado la propia autora, la quietud y la repetición pueden hacer que recuerdos, imágenes y sueños adquieran una intensidad que la actividad permanente mantiene normalmente a distancia. Al desaparecer buena parte del ruido del presente, la memoria empieza a hablar.
Regresan entonces su infancia, sus amistades, las decisiones que tomó, las personas a las que hizo daño y, sobre todo, sus padres y la relación con su madre. No estamos ante un ejercicio terapéutico de reconciliación con el pasado, algunas cosa. La narradora rescata su vida al recordarla, vuel a pensarla, modifica silenciosamente algunos juicios, reconoce crueldades propias y ajenas, comprende tardíamente ciertos gestos y aprende a mirar con mayor misericordia a personas que había conservado congeladas en una determinada imagen. Nada de lo sucedido deja de haber sucedido (la madre muerta no regresa, las decisiones equivocadas no pueden deshacerse, las personas heridas no dejan retrospectivamente de haber sufrido), y, sin embargo, algo cambia cuando todo ello puede volver a ser acogido en el presente.
Quizá por eso esta pueda ser leída como una novela sobre la salvación, aunque su protagonista no sepa si cree en Dios. Una salvación que adquiere un significado sorprendentemente material: recoger lo que parecía perdido, hacerse cargo de ello y concederle nuevamente un lugar. Los huesos de Jenny regresan al convento para ser enterrados, los ratones muertos deben ser recogidos y enterrados una y otra vez, los recuerdos regresan para encontrar también un lugar entre las cosas vivas. Todo aquello que vuelve reclama atención. De ahí que la retirada de la protagonista resulte paradójica. Parece abandonar el mundo, pero el mundo entero termina alcanzándola, parece abandonar su biografía, pero acaba recuperándola, arece entrar en un espacio religioso sin fe y termina habitándolo sin necesidad de resolver definitivamente la cuestión de Dios.
¿Pudiera ser que la vida y su densidad espiritual vayan de esto? Quizá una vida pueda empezar a salvarse no cuando conseguimos convertirla en otra distinta, sino cuando encontramos un lugar (físico, comunitario, simbólico) desde el que podemos regresar a ella, recoger incluso aquello que habíamos preferido abandonar y decir, finalmente: también esto forma parte de mi vida y puedo hacerle un sitio.
"He leído en algún sitio que los católicos creen que la desesperanza es el único pecado que no se puede perdonar. Me parece que tienen razón; es perversa, sangra y se extiende. Una vez se han perdido, no sé si la verdadera esperanza o la fe -¿son lo mismo?- pueden volver".
Estos días ha vuelto a instalarse en la conversación pública uno de los
grandes temores de nuestro tiempo: la posibilidad de que la inteligencia
artificial (IA) termine escapando al control humano. Jacob Coxon, antiguo
investigador de OpenAI y posteriormente de Anthropic, ha abandonado esta última
compañía denunciando la carrera en la que se encuentran inmersas las grandes
empresas tecnológicas para desarrollar sistemas cada vez más potentes. Su
advertencia ha adquirido un tono especialmente inquietante después de que Evan Hubinger, responsable
de investigación sobre alineamiento en Anthropic, haya estimado en más de un 10
% la probabilidad de que la inteligencia artificial pueda provocar la extinción
humana durante la próxima década.
No sabemos qué capacidades alcanzarán los sistemas de IA en los próximos
años ni podemos asegurar que seremos capaces de controlar sistemas
progresivamente más autónomos, y supongo que quienes alertan sobre este riesgo no
están pensando en una versión literal de Terminator, con máquinas que
adquieren conciencia, desarrollan odio hacia la humanidad y deciden
exterminarla. Su argumento señala a la posibilidad de desarrollo de modelos de IA
capaces de mejorar sus propias capacidades, acelerar extraordinariamente su
desarrollo y adquirir una autonomía creciente para intervenir en sistemas
informáticos, gestionar recursos, realizar ciberataques, manipular información
o desarrollar investigación científica. Si sus objetivos no estuvieran
suficientemente alineados con los humanos, podríamos encontrarnos ante
comportamientos que escapasen progresivamente a nuestro control.
Seguro que hay posibilidades de desarrollo de la IA que deben preocuparnos;
por cierto, algunas de estas preocupaciones no son futuras, sino actuales, como
su enorme impacto ecológico. Pero hay algo en la forma en que imaginamos ese peligro que me resulta
profundamente insatisfactorio. ¿De verdad imaginamos que una IA decidirá algún
día lanzar dos bombas atómicas sobre sendas ciudades densamente pobladas,
provocando decenas de miles de muertes instantáneas? ¿Necesitará una
superinteligencia descubrir que la violación masiva de mujeres puede utilizarse
como arma de guerra? ¿Será una máquina autónoma la que invente la posibilidad
de privar deliberadamente de alimentos, agua y asistencia sanitaria a una
población civil? ¿Necesitaremos algoritmos desalineados para organizar
deportaciones, campos de concentración, esclavitud, tortura, limpieza étnica o
genocidio?
Hiroshima y Nagasaki no necesitaron IA, Auschwitz tampoco. Las violaciones
sistemáticas utilizadas como instrumento de terror y dominación no fueron
concebidas por algoritmos. Las hambrunas provocadas deliberadamente, las
deportaciones masivas y los genocidios fueron y son decisiones humanas,
ejecutadas por seres humanos y organizadas mediante instituciones humanas.
Tampoco necesitamos esperar a que aparezca una superinteligencia desalineada
para comprobar que existen actores perfectamente humanos dispuestos a poner en
peligro las condiciones de vida de millones de personas. Por eso me preocupa
que la fascinación contemporánea por la denominada «hipótesis Terminator» pueda
terminar desplazando nuestra atención del problema políticamente más inmediato.
No porque los riesgos asociados a una IA extraordinariamente avanzada sean inexistentes,
sino porque, mientras contemplamos la posibilidad de que algún día las máquinas
adquieran una capacidad autónoma para hacernos daño, podemos dejar de mirar la
utilización que personas, empresas, gobiernos y ejércitos están haciendo ya, y
harán cada vez más, de esas mismas tecnologías.
Langdon Winner formuló hace décadas una idea que resulta especialmente pertinente en este
debate: los artefactos tienen política.
La tecnología no constituye una esfera neutral situada fuera de la sociedad, al
contrario, los sistemas tecnológicos son también sistemas sociales que
incorporan prioridades, distribuyen capacidades, cristalizan relaciones de
poder y hacen más fáciles determinadas formas de organización mientras
dificultan otras. No basta, por tanto, con afirmar que una tecnología es
neutral y que todo depende de cómo la utilicemos, pero tampoco imaginarla como
una fuerza plenamente autónoma que avanza siguiendo una lógica completamente
independiente de las sociedades que la producen.
Precisamente porque los artefactos tienen política debemos preguntarnos
quién los diseña, quién los posee, quién decide sus objetivos, quién obtiene
sus beneficios, quién soporta sus costes y bajo qué instituciones se gobiernan.
Desde esta perspectiva, frente a la «hipótesis
Terminator» convendría empezar a considerar lo que podríamos llamar la «hipótesis Trumpinator». Trump
representa de manera particularmente visible una racionalidad política que
concibe el desarrollo tecnológico en términos de competición, dominación y
superioridad estratégica: hay una carrera y debemos ganarla, existen adversarios
y debemos superarlos, cualquier regulación que pueda ralentizarnos constituye
una desventaja, disponer de la tecnología más poderosa posible es un objetivo
en sí mismo. Pero esta racionalidad ni nació con Trump ni desaparecerá con él,
está profundamente arraigada en el capitalismo de competencia entre empresas,
Estados y bloques geopolíticos.
La hipótesis Trumpinator plantea una posibilidad menos espectacular que la
película Terminator, pero mucho más inmediata: que el principal peligro no consista en que las máquinas se vuelvan demasiado
humanas, sino en que construyamos máquinas extraordinariamente poderosas al
servicio de algunas de las tendencias más inhumanas que ya existen en nuestras
sociedades. Para que esto ocurra, la IA no necesita odiarnos, tener
conciencia ni desarrollar deseos, resentimiento, voluntad de poder o instinto
de conservación; no necesita «querer» absolutamente nada. Basta con que permita
a determinados actores vigilar mejor, seleccionar objetivos militares con mayor
rapidez, controlar fronteras más eficazmente, identificar disidentes, manipular
comportamientos, producir propaganda a escala industrial, realizar
ciberataques, desarrollar nuevas armas, sustituir trabajo humano, discriminar
de manera aparentemente objetiva o concentrar todavía más riqueza y poder.
Y aquí aparece una cuestión que el lenguaje que utilizamos puede contribuir
a ocultar. Cada vez resulta más habitual escuchar que «la IA ha decidido», «la
IA discriminó», «la IA seleccionó», «la IA se rebeló» o «la IA escapó a nuestro
control». Pero ese desplazamiento gramatical del sujeto se convierte en un
desplazamiento de la verdadera responsabilidad. Cuando afirmamos que «un
algoritmo discriminó a las mujeres» estamos dejando fuera de la frase quién
seleccionó los datos, quién diseñó el sistema, quién decidió utilizarlo para
seleccionar personal y qué organización consideró conveniente delegar esa
decisión en una máquina. Cuando decimos que «una IA seleccionó un objetivo
militar» podemos olvidar quién adquirió el sistema, quién estableció sus
parámetros, quién decidió desplegarlo y qué doctrina política y militar
autorizó su utilización. Y cuando afirmamos que «la IA podría exterminarnos»
corremos el riesgo de convertir un problema eminentemente político en un problema
fundamentalmente técnico, reducido al llamado alignment problem: ¿cómo
conseguiremos que una IA extraordinariamente poderosa permanezca «alineada» con
los valores y objetivos humanos? Pero, ¿qué
valores humanos? ¿Los valores de quién?
La humanidad no constituye un sujeto homogéneo con una única función de
utilidad. Los intereses de quien trabaja para una plataforma digital no
coinciden con los de sus accionistas; los de una persona refugiada se enfrentan
a los del gobierno que pretende impedirle atravesar una frontera; los de una
población sometida a bombardeos nunca coincidirán con los del ejército que
utiliza sistemas algorítmicos para seleccionar sus objetivos. Antes del
problema del alineamiento de las máquinas existe, por tanto, otro mucho más profundo:
el problema del alineamiento humano.
De manera que la pregunta no puede ser cómo alinear la IA con «nuestros»
valores, sino quién tiene el poder de
decidir cuáles son esos valores, convertirlos en instrucciones y dotarlos de
una capacidad tecnológica sin precedentes.
Terminator nos impulsa a imaginar un enemigo exterior, una IA
que un día se emancipa de quienes la crearon, desarrolla sus propios objetivos
y se vuelve contra la humanidad. Trumpinator nos invita a contemplar una
posibilidad bastante más preocupante y en absoluto hipotética: que la máquina
funcione perfectamente, que no se rebele, que no adquiera conciencia, que
permanezca disciplinadamente alineada y que, precisamente por ello, haga
extraordinariamente bien aquello que determinados seres humanos le ordenen
hacer. Vista así, la amenaza de la IA se convierte en algo mucho menos exótico
de lo que parece y tras ella encontramos capitalismo y competencia empresarial,
rivalidad geopolítica, concentración de poder, secretismo, seguridad nacional,
militarización y ausencia de instituciones globales suficientemente poderosas
para imponer límites compartidos. No necesitamos elegir entre creer que la IA
resolverá nuestros problemas y temer que termine exterminándonos. Podemos
reconocer que sistemas crecientemente autónomos plantean riesgos nuevos y
potencialmente extraordinarios y, al mismo tiempo, negarnos a permitir que esos
riesgos futuros invisibilicen los peligros presentes derivados de su inserción
en estructuras económicas, políticas y militares que conocemos demasiado bien.
Más que preocuparnos por la posibilidad de que algún día perdamos el
control sobre la IA deberíamos preocuparnos por algo que ya está ocurriendo, la extraordinaria concentración del control
sobre la IA en manos de empresas, gobiernos y aparatos militares que escapan a la
deliberación y el control democráticos. Nos asusta imaginar una
inteligencia extraordinariamente poderosa que deje de obedecer a los seres
humanos, pero considerando Hiroshima, Auschwitz, las violaciones masivas, las
hambrunas provocadas, los genocidios y las guerras que jalonan nuestra
historia, deberíamos plantearnos si tenemos tan claro que sea tranquilizador
construir una inteligencia extraordinariamente poderosa que esté perfectamente alineada con los intereses de
tipos como Trump.
