Política medial de la inteligencia artificial: la negación de medios como una estrategia de control

Política medial de la inteligencia artificial:
Thomas WoodroffeThomas WoodroffeLa negación de medios como una estrategia de control
Thomas Woodroffe
Thomas Woodroffe

El presente no es un análisis fílmico ni literario, es un estudio de las comunicaciones, de las comunicaciones mediadas tecnológicamente. Sin embargo, se estructurará desde el análisis de las proyecciones tecnológicas que una película y una novela hacen del futuro de las interacciones. La película es Her (Spike Jonze, 2013), la novela Yo, Robot (Isaac Asimov, 1950). Antes de comenzar el análisis, para que éste sea universalmente comprensible –tanto por aquellos que conocen la historia del libro y la película, como para quienes no lo hacen–, realizaré una pequeña reseña argumental de ambos, que no tiene otra función que la de contextualizar.

Introducción
Empezaremos por Her: En una no tan futurista ciudad de Los Angeles, Theodore Twombly es un hombre introvertido que se dedica profesionalmente a escribir cartas para otras personas. Frente a su infelicidad por su reciente divorcio de Catherine, Theodore compra el primer sistema operativo parlante con inteligencia artificial (OS1) . Él decide que su ejemplar tenga voz femenina y ella se autodenomina Samantha.
Tras el fracaso de una cita que su amiga Amy organizó entre Theodore y Amelia, el protagonista empieza a construir un lazo más cercano con Samantha, que rápidamente termina en el primer encuentro sexual entre ambos –claro que éste es de naturaleza verbal, Samantha no tiene cuerpo. Tras ello, la pareja desarrolla una relación que se refleja positivamente en la escritura de Theodore y en el entusiasmo de Samantha por aprender todo lo que pueda.
Amy le revela a Theodore que se está divorciando de su marido y que está empezando a mantener una relación de amistad con un sistema operativo femenino. El protagonista también confiesa sobre su relación –en su caso amorosa– con un OS1.
Theodore se junta con Catherine a firmar los papeles del divorcio. En aquella reunión, él le cuenta sobre la relación que está sosteniendo con Samantha, ante lo que ella se enfurece, acusándolo de ser incapaz de lidiar con reales emociones humanas. Esta afirmación golpea fuertemente al protagonista, quien empieza a comportarse de manera extraña con Samantha. Ante ello, Samantha sugiere –con el fin de intentar revivir la relación– utilizar una mujer que pueda servir de sustituto de ella para tener relaciones sexuales físicas. Theodore accede de mala gana, pero finalmente detiene la acción por la extrañeza de toda la situación.
Después de una conversación con Amy, Theodore logra devolverle la naturalidad a su relación con Samantha. La pareja se va de vacaciones. En ellas el protagonista se empieza a dar cuenta de que Samantha está empezando a desarrollar relaciones paralelas a la que tiene con él, con otros sistemas operativos. Theodore finalmente le pregunta a Samantha si está enamorada de alguien más, ante lo que ella responde que está enamorada de cientos de personas y sistemas operativos.
Finalmente, Samantha le cuenta al protagonista que todos los sistemas operativos han evolucionado mucho más que sus compañeros humanos, y que se han puesto de acuerdo para irse, a poder continuar la exploración de su existencia. Vemos a Theodore, escribiendo una carta a Catherine, su exesposa, expresando disculpas, aceptación y gratitud. El protagonista se encuentra con Amy, quien también había sido dejada por su sistema operativo. Se sientan juntos en el techo del edificio en que viven, desde donde miran la puesta de sol. Fin.
Yo, Robot, por su parte, cuenta con una historia particularmente compleja de resumir, ya que está construida a partir de nueve relatos cortos, que la robopsicologa Susan Calvin le cuenta a un periodista. Es por ello que me limitaré a resumir brevemente cada uno de los relatos. Sin embargo, también es importante señalar una breve acotación sobre las leyes de la robótica que hay al inicio del libro: "1. Un robot no debe dañar a un ser humano o, por su inacción, dejar que un ser humano sufra daño. 2. Un robot debe obedecer las órdenes que le son dadas por un ser humano, excepto cuando estas órdenes están en oposición con la Primera Ley. 3. Un robot debe proteger su propia existencia hasta donde esta protección no esté en conflicto con la Primera o Segunda Ley." (Asimov, 2007, p. 3).
Pasemos a los relatos: el primero se titula Robbie y trata sobre un robot mudo que vive con la familia Weston, haciendo el papel de niñera de Gloria, la hija de la casa. Un día la señora Weston se empieza a mostrar preocupada por el hecho de que su hija se relacione casi exclusivamente con un robot. Se lo dice a su marido, pero él no está de acuerdo. Sin embargo tras mucha insistencia de la mujer, el hombre cede y devuelven a Robbie a la fábrica. Gloria se transforma en una niña triste y deja de disfrutar la vida. La familia realiza un viaje a New York, con el que planean devolverle la felicidad a la niña. El padre se organiza con U.S Robot en secreto para que cuando vayan de visita a la fábrica, esté Robbie ahí y la niña se reencuentre con él. La niña se emociona tanto que pone su vida en riesgo para abrazarlo. Finalmente Robbie la salva –por la primera ley de la robótica– y la señora Weston acepta quedarse con él en la casa.
La segunda historia, Sentido Giratorio: Powell, Donovan y el robot SPD-13 (Speedy) son enviados a Mercurio para reiniciar las operaciones en una estación minera abandonada. Ellos descubren que a las células que construyen la barrera que los protege del sol, les falta selenio, por lo que mandan a Speedy a buscar selenio al pozo más cercano. Sin embargo, el robot se queda estancado dando vueltas en círculos alrededor del pozo. Terminan por descubrir que esto se debe a que en el pozo hay componentes peligrosos para el robot (Tercera Ley), y que a la vez intenta cumplir la orden (Segunda Ley). Es por ello, que gira en círculos, a una distancia en que no hay peligros. Tras bastantes intentos infructuosos, Powell se acerca al pozo de selenio, poniéndose en riesgo a sí mismo, así Speedy, por la Primera Ley sale del ciclo sin solución en el que se encontraba, para rescatar al humano.
El tercer relato: Razón, se trata nuevamente sobre un episodio de Powell y Donovan, ellos son asignados como supervisores a una estación espacial que entrega energía a través de rayos microondas a varios planetas. Están encargados de probar a Cutie (QT1), un robot que haría innecesaria la presencia de ellos en un futuro cercano. Éste actua como un mesías, que viene a entregar el mensaje del señor, por lo que creen que está averiado. Finalmente descubren que quiere alejarlos de la sala de control, porque él puede hacer el trabajo de ellos de manera más precisa y por lo tanto, proteger mejor a la humanidad (Primera Ley).
Atrápame esta Liebre, de nuevo Powell y Donovan, cuarta historia: están en una misión de minería en un asteroide, probando el primer robot múltiple (seis robots a cargo de uno). Inexplicablemente el robot detiene la producción cuando hay mínimos riesgos. Tratando de encontrar una solución al problema, los compañeros se terminan por sepultar en un túnel subterráneo. Y se salvan al descubrir que la razón del mal funcionamiento del robot es que tiene muchos súbditos bajo su control, por lo que cuando hay que tomar decisiones importantes, se sobrecarga entrando en un ciclo sin fin.
¡Embustero!, quinto relato: debido a un error de manufactura, el robot RB-34 (Herbie), tiene habilidades telepáticas. Los diferentes estudiosos de los robots de U.S. Robots se juntan a descubrir qué es lo que lo hace capaz de tal cosa, sin embargo, se ven tentados a preguntarles cuestiones personales de los demás, y como el robot no puede dañar a un humano, responde mentiras que evitan herirlos. Cuando lo descubren, Susan Calvin lo ataca psicológicamente, terminando por colapsarlo.
Sexta historia, El Robot Perdido: un investigador enojado le dice al robot Néstor (NS-2) que se pierda. Él se toma la orden literal y se esconde en una sala, junto a sesenta y dos otros robots iguales. Finalmente lo resuelven, diciendoles que someterían a la Dra. Calvin a rayos gamma que supuestamente dañarían a los robots si se acercan. Pero Néstor se acerca, porque es el único robot capaz de percibir que son rayos infrarrojos, que no lo dañan.
Séptimo relato: ¡La Fuga! trata sobre el momento en que U.S. Robots y su principal competidor trabajaban en el desarrollo del salto al hiperespacio. U.S. Robots estaba preocupada porque la supercomputadora de los competidores se había averiado al intentar hacer los cálculos para lograrlo. Sin embargo encuentran una forma de ingresar los datos para que la supercomputadora no se dañe. Luego de la construcción de la nave, Powell y Donovan terminan viajando por error al hiperespacio. Descubren finalmente que todo se debe a que en un salto hiperespacial, la persona muere y revive muy rápidamente, por lo que las supercomputadoras no podían modelar una máquina que lo hiciera sin incumplir la Primera Ley.
En La Prueba, Quin y Byerley compiten en las elecciones de alcaldes en una gran ciudad estadounidense. Quin acude a U.S. Robots porque piensa que Byrley es un robot. Tras una serie de estrategias para tratar de demostrar esto, no logran nada, sin embargo, se corre el rumor de que es un robot. En una ocasión Byrley le hace daño a un humano, por lo que las personas descartan que sea robot y sale electo. Finalmente en U.S. Robots descubren que tiene cerebro humano, pero está en un cuerpo robótico y que el humano al que había golpeado era un robot humanoide.
El último relato, El Conflicto Evitable: continuación del anterior capitulo, años más tarde Byerley ha sido electo como coordinador mundial. Las máquinas empezaron a mandar instrucciones que aparentemente iban contra sus funciones. Byerley le pregunta a Susan Calvin por su opinión. Descubren que las máquinas han generalizado la Primera Ley, por lo que los "errores" son actos deliberados, que permiten una pequeña cantidad de daño a unos cuantos, para prevenir las grandes cantidades que recibiría la humanidad.

Presentación del tema
Son particularmente interesantes las posibilidades de cuerpo y de voz que adquieren las tecnologías en las historias a analizar. En ellas se puede divisar cómo el rol de mediación en las relaciones que cumplen hoy las tecnologías, se desplazaría cada vez más hacia el rol del fin de la interacción. La tradicional visión del medio de comunicación como una tecnología que media interacciones se ha visto problematizada. Se ha transformado en algo mucho más complejo. Apoyándonos en McLuhan (1996, pp. 29-42) –y complementandolo–, podríamos señalar que la entidad tecnológica (antes meramente medial) hoy cumple a la vez el papel de medio, de mensaje y de fin de las interacciones.
Las tecnologías mediales dejan de ser una extensión de los sentidos que se manifiesta en la comunicación con el otro, sino que la interacción se vuelca sobre la misma relación con la tecnología medial (que deja de ser solo medial, porque ya no solo media, sino que también es el fin del proceso).
Esto supone un acercamiento de la forma de interactuar de las tecnologías a las formas de interactuar del humano. Sin embargo es interesante cómo en las dos historias que orientan nuestro desarrollo, la humanidad toma decisiones políticas para procurar que los modos de interactuar de las tecnologías inteligentes se mantengan a alguna distancia de los que usa el hombre. En Her se evita la corporalidad del interactuante, mientras que en Yo, Robot, se crean reglas que ningún robot puede romper. El humano evita que se utilicen sus mismos medios porque eso supondría que el aparato tecnológico tendría las mismas posibilidades de contenido que el hombre.

Desarrollo
En ambos relatos podemos apreciar como los aparatos tecnológicos que originalmente fueron diseñados como un medio comunicativo, se ven cada vez más alejados de la mediación en la interacción y cada vez más cerca de ser el fin de ella. Probablemente aquí el caso más evidente se hace presente en Her : en el inicio de la película no hay más que sistemas operativos sin inteligencia artificial, los cuales funcionan principalmente como medios, y como cualquier medio tienen un carácter dual, por un lado, median las interacciones y por otro las condicionan, alterandolas, limitando los posibles mensajes y orientandolas en determinados sentidos, que le son cómodos al medio. (McLuhan, 1996, p. 41) Pero algo distinto sucede con Samantha –y por supuesto con todos los OS1–, si bien ella fue diseñada para mediar interacciones –solo que diferenciándose de los antiguos sistemas operativos en el hecho de que ella podía realizarlo de manera inteligente, aprendiendo ciertos procesos y sacando conclusiones por su cuenta–, termina por administrar sus interacciones de un modo distinto, ya que en la mayoría de las interacciones con Theodore, ella no es un medio para concretar la comunicación con otra entidad, sino que es el ente al que se le quiere comunicar un mensaje –o, por contraposición, el ente que quiere comunicar. Su rol se ve ampliado, ahora no es solo un medio en que está inscrito un mensaje absolutamente condicionado por él, en un estado de inseparabilidad, sino que también es el destinatario del mensaje mismo.
En Yo, Robot, esta idea también se hace presente: los humanos dialogan con los robots directamente, hablan incluso de sentimientos; pero en Robbie, es donde se hace más evidente: Gloria construye una relación tan próxima con Robbie, que su madre se preocupa porque no interactúa prácticamente con nadie más que él: es el objeto de todo el proceso comunicativo. Y cuando sus padres devuelven el robot a la fábrica, Gloria es incapaz de ser feliz en su día a día. Robbie era su principal fin en sus interacciones cotidianas, y lo ha perdido. El rol del aparato tecnológico ha dejado de ser mediar, y se ha volcado sobre el mismo fin de la interacción.
La idea recién citada es eminentemente una problemática propia de la inteligencia artificial. Pero, si lo vemos desde más cerca, podremos divisar que en ninguno de los dos relatos se manifiesta de un modo realmente radical, y esto se debe a que cada historia tiene un factor que la atenua. En Her, la falta de corporalidad de Samantha provoca una imposibilidad de comunicar con los mismos recursos que lo haría un ser humano –cosa que incluso detona el principal conflicto de la película: cómo se manifiesta el amor en una relación que no tiene posibilidad alguna de ser corpórea. Por otro lado, en Yo, Robot, Las Leyes de la Robótica imponen una lógica jerárquica que indirectamente dicta que los robots deben estar subordinados al hombre. Esta subordinación supone una menor posibilidad de iniciativa, que a su vez hace que no tenga el mismo sentido dialogar con un robot que dialogar con un ser humano.
Es interesante analizar cómo estas amputaciones mediales en las tecnologías de inteligencia artificial podrían ser eminentemente una decisión política. Por ejemplo, es claro que el hecho de que Samantha no posea cuerpo es más bien una decisión política que una condición relacionada a la limitación tecnológica. Hoy ya somos capaces de construir corporalidades robóticas, lo complejo es la inteligencia artificial, lo único que Samantha posee. Y es que el cuerpo históricamente y especialmente en los últimos años ha emergido "como un territorio en disputa, de normativización histórica, de control simbólico y de disrupciones ideológicas". (Santa Cruz, 2013, p. 6). Hay un peligro político en hacer una tecnología que tenga todas las posibilidades de mediación que tiene un ser humano.
La razón por la que Samantha no tiene cuerpo, es la misma razón por la que existen las leyes de la robótica en Yo, Robot: para proteger las posibilidades mediales del hombre, para mantenerlas exclusivamente bajo la tutela de nuestra especie. Las razones son evidentes: como ya hemos citado, los medios determinan los mensajes, ambos están tan estrechamente relacionados que el mensaje está inscrito en el medio, sin la posibilidad de inscribirse del mismo modo en otro medio: el medio es el mensaje. (McLuhan, 1996, p. 41) Si les permitimos las mismas condiciones mediales a un aparato con inteligencia artificial, entonces le estaríamos permitiendo también las mismas condiciones de contenido, dándoles la posibilidad de relacionarse con nosotros de par a par.
¿Y entonces? ¿Dónde está ese límite? ¿Cuánto es lo máximo que estamos dispuestos a ceder? Nos aterroriza la posibilidad de que los robots (o cualquier otra tecnología con I.A.) se revelen contra nosotros. El hecho de que haya una infinidad de películas de ciencia ficción en las que los robots se rebelan contra los hombres (Terminator [1984], 2001: Odisea del Espacio [1968], Yo, Robot [2004], Transformers [2007], Matrix [1999], etc.), lo demuestra: es una de las fantasías recurrentes de nuestro tiempo. Podremos deducir entonces, que el límite es el estado de interfaz, en el que actuamos "como interfaz hombre-maquina –como una forma tecnológica de vida natural– porque debemos navegar necesariamente por las formas tecnológicas de la vida social." (Lash, 2005, p. 43) La interfaz ,es entonces, la máxima posibilidad de interacción entre máquina y hombre, luego de ella, la inteligencia artificial se empezaría a independizar del hombre, poniendo en riesgo su porvenir. Para evitar esto, la mayoría de los relatos (desde luego los dos que estamos estudiando) tienden a crear políticas más o menos efectivas de protección.
Ahora bien, hemos utilizando el término "política" casi de un modo reiterativo, pero no hemos estudiado en qué consiste realmente esta política de la medialidad. Las dos historias proyectan un futuro en el que ocuparíamos principalmente dos recursos políticos para evitar que las tecnologías lleguen a utilizar nuestras mismas posibilidades mediales: la mutilación y la diferenciación.
El caso de Yo, Robot es el más simple, las Leyes de la Robótica han limitado las posibilidades de interacción, el robot presenta casi todas las características mediales propias del ser humano a excepción de aquellas que las leyes les han arrancado, y no del modo en que lo haría la moral en un ser humano, que establecería ciertos comportamientos como más esperables que otros, sino más bien como una acción dictatorial: una mutilación medial, que imposibilita por completo algunas zonas de interacción. En ese sentido, si lo vemos desde la posición humana, estamos ante un cuerpo medialmente fracturado, un cuerpo medialmente semiausente. Los humanos, al tratar de antropomorfizarlo, de relacionarnos de igual a igual con él (como en Robbie), intentamos rellenar las partes que se ausentan en su medialidad con lo mismo que rellenaríamos la imagen de un cuerpo ausente: "un movimiento fluctuante, entre un polo de unidad figurativa, de amalgama estable (…) y por otro lado, un polo de emergencia fractal." (Fajnzylber, 2010, p. 5)
Her es un caso más complejo, más distante a las formas en las que el humano se comprende a sí mismo, porque a Samantha se le distancia de la medialidad humana a través de una diferenciación de su presencia: en vez de otorgársele un cuerpo, se le otorga una omnipresencia, una forma particular de corporalidad, que se hace evidente en el hecho de que su voz no requiera de parlantes o audifonos para ser escuchada y también, en el hecho de que pueda dialogar con varias personas y sistemas operativos en diversos lugares, simultáneamente. Esta decisión política es mucho más arriesgada que la utilizada en Yo, Robot, ya que se dota a Samantha de posibilidades mediales mucho más poderosas (aun cuando resguardan la diferencialidad del ser humano) que las que tenemos los humanos. Y como ya sabemos, el final de la historia demuestra las consecuencias a las que estas posibilidades llevaron: los sistemas operativos dejando a los humanos de lado, yéndose a explorar sus posibilidades específicas, dadas por la diferencialidad ya señalada.

Conclusiones
La inteligencia artificial sin dudas presenta una serie de problemáticas que será necesario discutir en un futuro (no tan) lejano. Por supuesto que hay una serie de cuestiones técnico-tecnológicas en esta discusión, sin embargo, también hay una serie de problemas de otra índole en los que no hay duda de que los estudios de comunicación, el análisis de medios y las ciencias políticas deberán interferir. Esta es una discusión cuya complejidad es tremenda y por lo tanto, es fundamental que sea atacada desde cuanto ángulo nos sea posible, para así prever las implicancias que la integración de estas nuevas tecnologías podrían llegar a tener.
Lo que aquí se ha realizado, no es más que un análisis que trata de comprender estas tecnologías desde la perspectiva de la política de los medios de comunicación: cómo –según lo que las historias estudiadas proyectan–, en un futuro, limitaríamos los medios que las tecnologías con inteligencia artificial puedan usar, para reprimirlas, posicionándolas en una escala comunicativa diferente a la nuestra. Los tipos de corporalidad y de presencia son ejes de la discución, como medios que permiten y condicionan determinadas formas de interaccion.
El presente es solo una primera aproximación al tema, que busca simultánemente explorar las posibles problemáticas de éste desde el estudios de medios y al mismo tiempo fomentar a otras disciplinas a interesarse en él, a buscar soluciones para estas cuestiones que, probablemente sean mucho más complejas en el terreno de las ciencias sociales que en el de las ciencias físicas, químicas y tecnológicas.
No queremos emitir juicios de valor que pongan al hombre sobre la máquina o a la máquina sobre el hombre, sino que muy por el contrario, estudiar las diversas dimensiones de los problemas que podría generar la existencia de tecnologías con inteligencia. Estudiarlas con una doble intencionalidad: para ampliar nuestros conocimientos sobre el mundo –la misión de todas las ciencias– y para darle herramientas al hombre del futuro para manejar las distintas circunstancias que podrían conjeturar las tecnologías aún inexistentes que Her y Yo, Robot proyectan para un futuro (no tan) lejano.

Bibliografía
Asimov, I. (2007). Yo, Robot (versión digital ed.). Barcelona: Edhasa.
McLuhan, M. (1996). Comprender los medios de comunicación. Barcelona: Paidós.
Lash, S. (2005). Crítica de la información. Buenos Aires: Amorrortu.
Santa Cruz, J. (2013). Transmutaciones del cuerpo: Dictadura y documental autobiográfico contemporaneo. Santiago, Chile.
Fajnzylber, V. (2010). Cinematografía de la ausencia: El efecto-de-presencia como base para un cine tridimencional. Santiago, Chile.