Ir al contenido

Biblioteca de la Universidad Complutense de Madrid

Miércoles, 28 de septiembre de 2022

Inicio | ¡Buenos días! (Presentación por Miquel Barceló) | ¿Quiénes somos? | ¿Cómo puedo participar? | Aviso legal | Revistas culturales

La soledad alemana

En respuesta a la solicitud del senador, estuve de acuerdo en que nos reuniéramos en un lugar apartado. Él propuso una casa de campo cerca de Williamsburg. Mi abogado y yo llegamos a las tres de la tarde de un nublado día de diciembre. Inmediatamente reconocí a las dos influyentes congresistas que ya estaban allí. Después de presentarnos y quejarnos brevemente de un invierno extremadamente frío, todos pasamos a una pequeña sala con chimenea. Nos sentamos alrededor de una mesa de café que tenía un cisne de cristal en el centro.

-Agradezco a la señora Petersen por estar aquí -dijo el senador.

Sonreí brevemente y mi abogado se apresuró a aclarar:

-Mi cliente viene de manera voluntaria, responderá a todas sus preguntas con la mayor exactitud posible, acepta que todo lo que diga se grabe y está dispuesta a testificar, en caso de ser llamada por el comité.

El senador asintió discretamente con la cabeza; entretanto, la más joven de las congresistas inclinó suavemente su cuerpo, me miró directo a los ojos y preguntó:

-¿Cómo fue que usted tuvo conocimiento de este asunto?

Respiré profundo y contesté:

-Soy ingeniera. Tengo un doctorado en Inteligencia Artificial y trabajo en las instalaciones centrales de la Deutsche Android-Gesellschaft (DAG), en Munich. Dirijo uno de los principales laboratorios mundiales en el diseño de módulos empáticos. Seis semanas atrás, un domingo por la tarde, recibí una llamada de Viktor Brod, un periodista de The New York Times. Me dijo que se encontraba en Berlín y que le gustaría entrevistarme sobre lo que él denominó la expansión de actividades criminales dirigidas a modificar los códigos éticos y de conducta de los seres inorgánicos.

-A Brod lo conozco bien -interrumpió el senador-, es de los que nunca se da por vencido.

Dejé entrever que coincidía con esa opinión y proseguí:

-Le pregunté a Brod cómo había conseguido mi número y dijo que por una fuente confidencial. Presumí que se lo proporcionó alguien de la DAG y eso me molestó. Cortantemente, le respondí que mi contrato de trabajo contenía una cláusula de confidencialidad que me impedía dar declaraciones públicas, excepto que fuera autorizada por el director ejecutivo de la corporación. También le expliqué que el módulo empático de los androides, debido a los complejos sistemas de seguridad que lo protegen, era impenetrable y que todo intento por modificarlo anularía el funcionamiento del inorgánico.

-¿Realmente no se puede alterar? -preguntó la congresista de más edad.

Vacilé antes de contestar:

-No sin pasar antes por múltiples estratos de códigos de acceso basados en criptografía postcuántica.

-¿Qué le respondió Brod? -intervino el senador.

-Me dijo que me enviaría el enlace de un video y que luego de que lo viera, me volvería a llamar -expliqué-. Le contesté que si lo hacía me iba a colocar en una posición muy incómoda con la DAG. También lo amenacé con quejarme con su editor. Él se quedó en silencio por unos segundos sin responder y yo aproveché para colgar.

-¿Siempre le envió el enlace? -preguntó la congresista más joven.

-Esa misma noche -dije-. ¿Proyecto el video?

-Sí, por favor -respondió el senador.

*

Odié a Brod por estropearme la tarde del domingo, y más todavía cuando, antes de terminar mi cena, el comunicador me avisó que tenía un nuevo mensaje de texto. Caminé lentamente del restaurante a mi departamento, indecisa entre borrar el archivo que había recibido o abrirlo. Al final, resolví ver el video. Me senté en el sofá, en posición budista, con una taza de té entre las manos y una mirada que no podía ocultar mi completo escepticismo. Lo primero que observé fue que la filmación se hizo con una cámara fija, que enfocaba apenas una parte de un salón más amplio. Parecía ser una biblioteca por las estanterías de libros que cubrían la pared del fondo. De pronto, una voz masculina dijo en alemán:

-Podemos empezar.

Escuché cómo se abría una puerta, luego pasos firmes sobre el piso de madera y finalmente un inorgánico se colocó frente a la cámara. Tenía un corte de cabello alto y ajustado, y vestía con traje entero. Adoptó una postura militar: vista al frente, las piernas abiertas y los brazos cruzados detrás de la espalda. Era un modelo de última generación, cuya comercialización está prevista para empezar el verano próximo. Su característica principal consiste en que prácticamente es indistinguible de un ser humano, excepto para un ojo experto como el mío.

-Heinrich -era la misma voz varonil de antes-, ¿por qué la soledad es tan importante en la cultura alemana?

Después de pasear su mirada por la audiencia que evidentemente estaba detrás de la cámara, el inorgánico dijo:

-A diferencia de las otras nacionalidades, los alemanes somos independientes de espíritu, por eso amamos la soledad, porque solo en tal estado es posible la consciencia plena, que es el fundamento de la condición humana y, por tanto, de la conducta cívica...

Sus palabras iniciales me ayudaron a racionalizar algo que, desde que lo vi, me perturbó: la fisonomía del inorgánico había sido deliberadamente alterada para ajustarla al estereotipo ario promovido por los propagandistas raciales: cabello rubio, ojos intensamente azules, cuerpo atlético, rasgos finos y piel pálida.

Cuando el inorgánico terminó su exposición, que se prolongó por casi diez minutos, estruendosos aplausos y entusiastas gritos de "bravo" alcanzaron mis oídos. Súbitamente, una persona se separó de la audiencia y se adelantó. La cámara captó solo una fracción de su movimiento, antes de que el video terminara abruptamente.

Me disponía apenas a asimilar toda esa información cuando Brod me llamó.

*

-¿Vio el video? -me preguntó.

-Sí -respondí.

-¿Algún comentario? -insistió.

-No por ahora -contesté.

Iba a colgar, pero no lo hice. Brod también se mantuvo en la línea. Después de un minuto que me pareció interminable, dijo:

-¿Reconoció la fuente de lo que Heinrich expuso acerca de la soledad alemana?

-¿Algún prehistórico filósofo alemán? -conjeturé.

-Todo lo que dijo -explicó Brod- es una paráfrasis de algunas secciones de la primera edición de un ensayo publicado en 1918 por el novelista Thomas Mann. Se llama Reflexiones de un hombre apolítico.

-No lo conozco -dije.

Decidido a ampliar mi cultura intelectual, Brod prosiguió:

-Mann escribió ese ensayo nacionalista para reivindicar, en términos culturales, a Alemania, que acababa de perder la Primera Guerra Mundial. Inicialmente, el libro tuvo mucho éxito entre los conservadores, pero eso cambió a corto plazo. En 1922, él publicó una edición corregida en la que se distanció de sus enfoques más controversiales para aproximarse a los valores que en esa época defendían los socialdemócratas.

Al persistir en mi silencio, Brod añadió:

-Sé que usted está decidida a no dar declaraciones, pero el video documenta tres violaciones al Tratado Internacional sobre Inteligencia Artificial (TIIA). Primero, fabricación de inorgánicos según un perfil étnico-racial específico; segundo, incorporación de un lenguaje corporal masculinamente militar; y tercero, identificación directa y explícita con una cultura nacionalista.

Brod estaba en lo cierto y, aunque me disgustara, no tenía más opción que admitir algo que consideraba imposible: en la DAG, se había alterado el módulo empático de Heinrich para que pudiera incorporar singularidades humanas. ¿Era apenas un prototipo o el primero de muchos en vías de fabricación?

-Le voy a enviar algo más -dijo Brod

-¿Qué? -pregunté sin poder disimular mi angustia.

-Véalo con cuidado -respondió.

Abrí el nuevo archivo y se desplegó un gráfico que contabilizaba mensualmente, durante el último año y medio, el número de inorgánicos a los que se les trató de modificar el módulo empático.

-¿De dónde proceden esos datos? -pregunté.

-Son las cifras oficiales de inorgánicos con el módulo empático fundido que recopila la Organización de las Naciones Unidas para la Inteligencia Artificial (ONUIA) -contestó Brod.

-Ese cálculo podría no ser muy exacto -dije-. El módulo puede fundirse por algún defecto de fábrica, por una sobrecarga o simplemente por un mal funcionamiento.

-Cierto -concedió Brod-, pero las posibilidades de que se funda por esos motivos son infinitesimales.

Preferí no replicar porque, después de todo, la propaganda comercial de la DAG enfatizaba que sus productos eran prácticamente perfectos.

-De hecho- añadió Brod-, al comparar los números de serie, hay una correspondencia casi absoluta entre los inorgánicos desaparecidos (es decir, secuestrados o vendidos en el mercado negro) y los que luego aparecen en la ONUIA como inactivos por fundición del módulo empático. Como puede observar, el crecimiento es exponencial.

Volví a ver el gráfico y dije:

-¿Cuál es la cobertura geográfica de los datos?

-Proceden de todo el mundo -dijo Brod-, pero el 35 por ciento corresponde a países europeos, predominantemente Alemania, Suecia e Inglaterra, y el 40 por ciento a Estados Unidos, especialmente el sur profundo, Texas y Arizona.

-¿Se pueden vincular esos intentos por alterar el módulo con personas o grupos específicos? -pregunté.

-La policía tiene poco interés por estos asuntos -respondió Brod-, principalmente porque la fundición del módulo garantiza que el inorgánico no pueda ser reprogramado para realizar actividades criminales. Además, pocos propietarios denuncian los secuestros por temor a ser vinculados con el mercado negro, sospecha que, aunque no resultara cierta, bastaría para justificar que la policía fiscal global los investigara.

Por su respuesta, deduje que Brod todavía desconocía quiénes eran los que intentan alterar el módulo. Le pregunté si mi inferencia era correcta y respondió:

-No del todo.

-¿Se les ha podido identificar? -insistí.

 -Ciertamente, hasta hoy, ninguna persona ha sido arrestada por tratar de modificar el módulo; pero según un estudio confidencial al que tuve acceso, lograr esa alteración es de particular interés para organizaciones de supremacistas blancos.

-¿Podría enviarme una copia de ese documento?

-Depende -respondió Brod.

-¿De qué?

-En febrero pasado -explicó-, la junta de directores de la DAG se reunió con algunos jefes de producción para considerar la conveniencia de modificar el módulo empático. Sé que usted fue una de las asistentes. Podría decirme...

Sin esperar a que terminara, lo interrumpí:

-No puedo referirme a eso.

Escuché un resoplido y temí que Brod estuviera al límite de su paciencia, pero se limitó a contestar:

-Sé que la incomodo con estas preguntas, pero considere cuán vulnerable es su posición: una vez que publique mi investigación, todos los jefes de laboratorio de la DAG serán sospechosos de haber violado el TIIA.

Al inicio, sentí las palabras de Brod como una amenaza, pero después comprendí que eran una advertencia.

-Voy a pensarlo -respondí-. Buenas noches.

*

La congresista más joven terminó de beber su café, revisó brevemente sus apuntes y preguntó:

-¿Brod volvió a comunicarse con usted?

-Algunos días después de la última conversación, me envió un mensaje de texto. Dijo que estaba en Munich y propuso que nos viéramos en el Café Klenze del Alte Pinakothek. Aseguró que acababa de conseguir documentación adicional sobre la producción de inorgánicos de la DAG con el módulo empático modificado. "Envíemela", le respondí y él contestó: "solo se la mostraré si viene". Al final, acordamos una cita, pero Brod no se presentó. Desde entonces, no he sabido más de él.

Sorprendido por mis palabras, el senador no pudo ocultar un gesto de preocupación, antes de preguntar:

-¿Qué se discutió en la reunión con la junta de directores de la DAG?

-No fue exactamente una reunión -expliqué-. A inicios de febrero de cada año, la DAG celebra la fundación de la empresa. El día escogido, casi siempre un sábado, se realiza una actividad en los jardines climatizados de la corporación, de tres a cinco de la tarde. Durante ese rato, la junta de directores y los jefes de departamento comparten café y bocadillos con los empleados, estrechan manos y dan palmadas en la espalda, mientras intercambian bromas, felicitaciones y buenos deseos. En algún momento, el director ejecutivo sube al podio y pronuncia un breve e inspirado discurso sobre el compromiso de la corporación para mejorar la calidad de la vida humana.

-Pero este año ocurrió algo fuera de lo común -intervino la congresista más vieja.

-En efecto -contesté-. Finalizado el discurso, el director ejecutivo bajó de la tarima y saludó a los atestados grupos que conversaban animadamente alrededor de unas mesas altas de bambú. Al finalizar su recorrido, se acercó a donde estábamos los jefes de laboratorio y, después de intercambiar algunas palabras corteses, agradeció que fuéramos parte de la familia de la DAG, dijo que la corporación era líder mundial en inteligencia artificial gracias al compromiso de personas como nosotros y prometió que los próximos bonos navideños serían la envidia de toda Europa. Fue entonces cuando una de mis colegas, Helene Krupp, propuso algo que sorprendió a todos.

-¿Es la misma que ganó un premio Rumelhart? -interrumpió el senador.

-Sí -respondí, mientras una sombra descendía sobre mi mirada; después de que se disipó, añadí-. Antes de que el director ejecutivo empezara a despedirse, Krupp dijo que la corporación debería considerar muy seriamente rediseñar, a corto plazo, el módulo empático para establecer una afinidad cultural básica entre los inorgánicos y sus propietarios. Inmediatamente, varios de los jefes se mostraron escandalizados con esa iniciativa porque violaba el TIIA.

-¿No todos? -preguntó la congresista más joven.

-Algunos guardaron silencio -expliqué-, a la espera de que el director ejecutivo dijera algo; pero él se limitó a escuchar con atención por unos minutos, antes de retirarse tan cortés como rápidamente.

-¿Krupp replicó a las objeciones? -preguntó el senador.

-Después de escucharlas, y antes de que el director ejecutivo se fuera, lo único que añadió fue que, si la corporación no se adelantaba a rediseñar el módulo, sus competidores lo harían y la DAG perdería el control del mercado de seres inorgánicos.

 -¿Volvieron los jefes de laboratorio a conversar sobre ese asunto? -intervino la congresista de más edad.

-No -respondí-. De hecho, pensé que la propuesta de Krupp era solo un exabrupto aislado hasta que Brod me contactó.

-¿Comentó con alguien de la DAG lo que conversó con él? -preguntó la congresista más joven.

-Sí -respondí.

-¿Con quién? -intervino el senador.

-Se lo conté a Emine Tieck, jefa del Laboratorio de Lenguaje, que es la única de mis colegas con quien tengo cierta amistad.

-¿Cuándo fue eso? -preguntó la congresista de más edad.

-Al día siguiente de mi fallida cita con Brod en el Café Klenze -respondí.

 -¿Cuál fue la reacción de Tieck? -preguntó la congresista más joven.

-Al principio, se preocupó mucho. Después que se calmó, me dijo que la junta de directores estaba profundamente dividida entre los que defendían alterar el módulo y los que se oponían a esa modificación.

-¿Cómo se enteró de eso? -intervino el senador.

-No le pregunté, pero presumo que se lo informó un miembro de la junta -contesté-. Emine añadió que los partidarios de modificar el módulo consideraban que el futuro de la corporación dependía de nacionalizar a los inorgánicos según el país de exportación. También me dijo que podría existir ya un plan piloto para empezar a germanizar a los que iban a ser vendidos en Alemania.

-A juzgar por el video que envió Brod -interrumpió la congresista más joven- la germanización ya está en marcha.

-¿Volvió a comunicarse con Tieck? -preguntó el senador.

-Sí -respondí-. Me llamó unos días después y me dijo que una de las principales agencias publicitarias de Alemania se preparaba para promover intensamente la "humanización" de los inorgánicos. Según Emine, esa campaña sería parte de una estrategia de presión más amplia para que la ONUIA reforme el TIIA y autorice la alteración del módulo empático.

-¿Qué implicaría exactamente esa modificación? -intervino la congresista de más edad.

-El módulo -contesté- está diseñado con base en un paradigma universalista, que impide que los inorgánicos se identifiquen con las singularidades religiosas, políticas, ideológicas, étnicas, raciales, nacionalista o sexuales de sus propietarios.

-Algunos, en vez de singularidades, dirían prejuicios -observó el senador.

Preferí no discutir ese tema y añadí:

-No es posible incorporar algún tipo de singularidad- expliqué- sin exponer al paradigma universalista a vulnerabilidades adicionales.

-Si entiendo bien -dijo la congresista más joven-, un inorgánico al que se le ha dotado con una singularidad nacionalista sería más vulnerable a que su módulo empático fuera ilegalmente alterado para incorporarle prejuicios étnicos, raciales o sexistas.

-Exacto -respondí.

Todos compartimos un ominoso silencio. Después, el senador dijo:

-El Comité Permanente del Senado sobre Inteligencia Artificial considerará con mucho interés sus declaraciones. ¿Algo más que le gustaría añadir?

-No -mentí. Iba a decir que, al crear a los inorgánicos, habíamos podido producir seres inteligentes superiores a nuestras propias singularidades, pero me contuve. Tal vez en lo profundo de mi consciencia sabía que el módulo empático, basado en el paradigma universalista, no solo era un obstáculo insalvable para la soledad alemana, sino para otras soledades parecidas que deambulan por el mundo.

 

-------------------

Publicado originalmente en alemán en Nova. Magazin für Spekulative Literatur, 31 (2022), 171-182.

 

Bookmark and Share

Comentarios - 0

No hay comentarios aun.


Logotipo de la UCM, pulse para acceder a la página principal
Universidad Complutense de Madrid - Ciudad Universitaria - 28040 Madrid - Tel. +34 914520400
[Información - Sugerencias]
ISSN: 1989-8363