Ética y Libre Albedrío en la Era Digital

ÉTICA Y LIBRE ALBEDRÍO EN LA ERA DIGITAL Tony Peñarredonda Caraballo Estudiante de Filosofía UNAD [email protected]

Línea de investigación: Ciencia, tecnología y sociedad Mesas Temáticas: Ciudadanía, tecnología y nuevas subjetividades, Filosofía de la tecnología RESUMEN Se reconoce ya, que la nueva realidad social está marcada por la adopción de nuevos significantes. No se duda que vivimos bajo el paradigma de la globalización, no tanto como el poder en el sentido geopolítico, sino como la consecuencia de la interconexión masiva de redes de comunicación digitales. La simultaneidad entre el suceso y su difusión, la interacción sincrónica y asincrónica sin importar la geografía y las culturas hacen cada vez más complejo el campo de acción de las ciencias humanas. Pero las redes de comunicación global, no solo representan un desafío en términos de la relación entre seres humanos y los contactos interculturales, sino también en la manera como controlan nuestras vidas. El entorno tecnológico compuesto no solamente por el hardware, sino especialmente, por el software que se manifiesta en aplicaciones cuyos algoritmos rigen muchos procesos en los cuales las personas confían la toma de decisiones, se han transformado inadvertidamente en los regidores de la economía, el urbanismo, el entretenimiento y la cultura en general. La virtualidad de los mundos, la realidad aparte representada en lo que se ha dado en llamar “la nube”, parecida cada vez más a “matrix”, está absorbiendo de manera progresiva al mundo material, y ya hay personas que viven más tiempo en esos mundos sintéticos que en su propia realidad corpórea. Además, el rastro que se deja al hacer uso de las nuevas tecnologías, ha propiciado una trazabilidad de las personas, a través de las redes sociales, su ubicación geográfica, sus costumbres, sus gustos, sus compras, sus temas de búsqueda en las bases de datos, etc. y han puesto al descubierto su intimidad, generando patrones que son estudiados por aplicaciones especializadas que extraen información con fines de seguridad nacional o para propósitos comerciales, entre otros. Estos algoritmos, concebidos para ser agentes autónomos, sumados a equipos robóticos de todas las clases que ya conviven en los mismos ambientes de los seres humanos, como los vehículos inteligentes, los drones para entrega de paquetes, y aquellos que interactúan incluso, de manera letal, como los que intervienen en las guerras, imponen un nuevo código de comportamiento para este nuevo tipo de agentes. Este panorama, inquietante, debe ser

atendido antes que sobrepase la capacidad humana para clarificar y normatizar una realidad que puede volverse inmanejable en contra del bienestar del ser humano. Para la reflexión, se retoman conceptos como los de la Moralidad Distribuida, la Ética de la Computación, las leyes de la robótica de Asimov, y la Infraética. Se propone un “new deal” respecto al manejo de los datos personales, y se insinúa una nueva especialización del derecho en relación con la segunda vida que manejan los seres humanos en los ambientes virtuales. ABSTRACT It’s recognized that the new social reality is influenced by the adoption of new signifiers. There isn’t doubt that we live under the paradigm of globalization, not necessarily as the power in the geopolitical sense, but as the consequence of massive interconnection of digital communication networks. The simultaneity between the event and its dissemination, synchronous and asynchronous interaction regardless of geography and culture, become an increasingly complex field of action of the human sciences. But global communications networks, not only represent a challenge in terms of the relationship between humans and intercultural contacts, but also, in the ways they control our lives. The technological environment represented not only by hardware, but especially, for the software that is manifested in many applications whose algorithms run processes in which people trust decisions, inadvertently have become the rulers of economy, urbanism, entertainment and culture in general. Virtuality of worlds, that reality aside represented on what has been called "the cloud", progressively similar to the "matrix", is little by little absorbing the material world, and nowadays, there are people living longer in these synthetic worlds that in their own corporeal reality. In addition, the trail left by making use of new technologies has led to people traceability through social networks, their geographic location, their habits, their tastes, their shopping, their searches on databases, etc. have exposed their intimacy, generating patterns that are studied by specialized applications that extract information for national security or for commercial purposes, among others. These algorithms conceived as autonomous agents, together with all kinds of robotic equipment that already live in the same environments of human beings as intelligent vehicles, drones for package delivery, and those that interact even lethally, such as those involved in wars, impose a new code of conduct for this new type of agents. This disturbing picture must be addressed before exceeding human capacity to clarify and regulate a reality that could become unmanageable against the welfare of human beings. Intended for reflection, concepts such as Distributed Morality, Ethics of computing, the laws of robotics of Asimov, Infraethic, are retaken, and a "new deal" regarding the handling of personal data is proposed. It’s suggested, also, a new specialization of law in relation to the second life that humans live in virtual environments.

INTRODUCCIÓN El hombre como ser social, se debe a sus semejantes, cada pueblo, cada cultura establece los códigos morales que sirven de guía para moderar, y unificar los mundos interiores de cada individuo. La ética, se ve modulada, entonces, por las normas impuestas de común acuerdo por el grupo. La sociedad actual, basa su actividad comercial, el entretenimiento y las comunicaciones en gran medida en las redes digitales, y más general, en las TICs; el quehacer humano transcurre hoy entre correos electrónicos, los chats en Facebook, los hangouts en Google+, las publicaciones en muros o en los streamings, mensajes cortos de Twitter, la mensajería instantánea, los mundos virtuales que como Second Life sumergen la conciencia en mundos alternativos, portales de video como Youtube se convierten en referente de conocimiento, de cultura y entretenimiento a través de la manifestación multimedia. El trabajo colaborativo a través de la edición de documentos compartidos, el almacenamiento en la nube, las aplicaciones y utilidades de productividad, mantienen la mente del hombre entre los umbrales de la virtualidad y la realidad. Este mundo virtual, altamente interconectado, ha sido construido por ingenieros de la informática, de las comunicaciones, de la infraestructura de redes, de diseñadores de experiencias interactivas, un grupo de élite, que centra su conocimiento, cada uno, en una parcela muy cerrada de la tecnología. El resto del mundo, son los usuarios, jóvenes de una generación que creció en medio de todos estos recursos que tuvieron su inicio en la década de los ochentas. Otros usuarios, un poco más veteranos, han aprendido por necesidad el uso de las herramientas informáticas, en virtud de que su trabajo lo requiere, de manera que ha constituido más un tema de supervivencia. El punto es, que muy pocos saben cómo funcionan las tecnologías que usamos rutinariamente, muy pocos conocen qué hay detrás de las fachadas de las redes, de los muros, de las fotos compartidas, de los tuits que se difunden de manera viral. El desarrollo de la telefonía celular, con la incorporación canales de datos, le han dado movilidad y ubicuidad a la web. La popularización de los smartphones o teléfonos inteligentes, con capacidad de integrarse al cuerpo en forma de equipos de bolsillo, de pulseras, de anteojos, permiten que se participe de la virtualidad en todo momento, o que la realidad se vea “enriquecida” con toda clase de datos y etiquetas que permiten la experiencia de “realidad aumentada”. Paralelo a las tecnologías de las TICs, el desarrollo de los agentes inteligentes y de la robótica, han gestado el concepto de “Internet de las cosas” (Internet of things), incorporando en estructuras, en objetos, en electrodomésticos, en vehículos, etc. dispositivos de procesamiento y comunicación, que se conectan utilizando la misma red de los humanos, el Internet. De esta manera, se puede monitorizar el estado de una carretera, de un puente, de un edificio, programar a distancia el encendido del sistema de aire acondicionado, de la lavadora, de la nevera, etc. Todos estos aparatos y estructuras, envían ingentes cantidades de información, hacia centros de control remotos para tomar correctivos o acciones requeridas según sea el caso. Toda esta información necesaria para el correcto desempeñó de los sistemas, junto con los datos de las personas que los utilizan,

agrupados con los mensajes en las redes sociales, en los correos electrónicos, de las consultas en las máquinas de búsqueda, de las compras que se hacen en línea, constituyen un rastro fácil de seguir, y que dejan al descubierto la intimidad de las personas, quienes de manera inadvertida son vigilados, para extraer estadísticas, útiles en el mercadeo, o la constitución de bases de datos de alto valor comercial para empresas de distribución de todo tipo de productos y servicios. Los robots, y en general los equipos mecatrónicos han dejado de ser sistemas costosos que sólo tenían cabida en ambientes industriales, y ya forman parte de los hospitales, de los edificios, del entretenimiento y de los servicios como la entrega de paquetes, y en el hogar, en la forma de aspiradoras, y otras clases de electrodomésticos. Los drones, cuya versión más inofensiva, está haciendo incursión en los despachos de productos a domicilio, muy pronto formarán un enjambre al que tendremos que acostumbrarnos como parte del paisaje. Pero, otra versión de los robots, los drones utilizados en la guerra, no solo sirven para recolectar información, sino que ya están cargados con armamento letal y toman parte activa en ataques contra seres humanos. Este panorama, propio del antropoceno (Johnson, 2014) se ensombrece por el hecho de que el fenómeno nos está sobrepasando, crece de manera vertiginosa, el Internet mismo como infraestructura de redes aumenta cada día de manera inverosímil (NIELSEN, 2014), se vuelve una maraña de tejido incomprensible para muchos, y el software, los algoritmos que habitan esa red, son todavía desconocidos tanto en su operación como en la manera que interactúan unos con otros. Si todas las actividades humanas están sujetas a reglamentación, si cada sociedad tiene sus códigos morales, su legislación para dirimir las dificultades comerciales, de convivencia, de familia, etc, ¿porqué la actividad humana dentro de los mundos virtuales no se ven igualmente regulados y controlados por una legislación mucho más amplia?, pareciera que navegar en Internet, fuera equivalente a navegar en aguas internacionales, en donde no hay jurisdicción alguna, y en donde todo estuviera permitido. ¿Es acaso esto lo que deseamos del Internet? ¿Puede la tecnología de las TIC, incursionar en todas las esferas humanas, sin distinción alguna? ¿Es peligroso aceptar el uso de tecnologías de las que se desconoce absolutamente todo su sustento científico y de ingeniería? ¿Pueden las máquinas asesinar seres humanos basadas en algoritmos? ¿Quiénes son responsables de la decisiones que se toman colectivamente en las redes sociales?.

¿LIBRE ALBEDRÍO? “Nuestras decisiones, nuestra cultura, incluso nuestros paisajes topográficos están siendo modelados por algoritmos de computadoras”1 (Slavin, 2011).

1

Traducción del autor.

Despertamos en la mañana con el sonido que produce la alarma de una aplicación de del celular, leemos las noticias matutinas con una aplicación móvil en nuestras tabletas, salimos al trabajo siguiendo las indicaciones de la aplicación del GPS como Waze o Google maps, que nos dicen, además, la mejor ruta, sin congestiones y más corta. Escuchamos la música en otras aplicaciones como Spotify o Deezer, los cuales han detectado nuestros gustos musicales, con las elecciones previas que hemos hecho de artistas y géneros. Si deseamos tomar un paseo consultamos un programa que se nutre de las bases de datos del clima como AccuWeather, y mediante algoritmos estadísticos hacen la predicción meteorológica. Los precios de las mercancías en los almacenes de cadena son controlados por un programa para generar utilidades mientras conserva un precio atractivo frente al de la competencia. Las películas que seleccionamos en Netflix, el servicio de alquiler de películas en línea, es igualmente controlado por un algoritmo llamado Pragmatic Chaos, que hace las sugerencias de acuerdo a las tendencias de sus clientes y según selecciones previas hechas por el usuario. Google cuando entrega los resultados de una consulta los ordena de acuerdo a unos criterios particulares, como las mediciones de relevancia que ya muchos creadores de sitios Web conocen, y explotan para figurar en los primeros lugares. La economía mundial tiene su referente en Wall Street, sin embargo, el movimiento de la bolsa es manejado en un 70% por algoritmos de comercio de acciones (algotrader) que compiten entre sí estableciendo una dinámica de intercambio comercial entre ellos. El ser humano es incapaz de procesar la inmensa cantidad de información que representa el mercado de valores, existen múltiples variables difíciles de observar, y se escriben algoritmos de computadora para que colecten estos datos y tomen decisiones acorde a las circunstancias. Unos de tales programas son el Boston Knife, y el High Frequency Trading, diseñados para observar pequeñas transacciones que ocurren de manera grupal asociados a tácticas de especulación, o para que ellos mismos realicen grandes transacciones de manera distribuida. Estos agentes no son infalibles, son códigos de programa escritos por expertos en informática, asesorados por especialistas en el mercado de valores. El resto de los humanos ni siquiera estamos conscientes de la existencia de tales programas, y esto es lo grave. Se delega en los algoritmos el manejo desde lo banal como la selección de una canción o una película, hasta lo importante como el futuro financiero de un fondo de pensiones, o el portafolio de inversión de un gremio asociado. Al igual que con todo lo tecnológico, como los equipos de comunicación celular, los computadores, etc, muy pocas personas saben cómo funciona la tecnología, nos convertimos en simples consumidores, presionadores de botones, y no sabemos que hacer cuando hay un fallo o cuando deseamos que las cosas se hagan de una manera distinta. Estamos manejando equipos de los que ignoramos su mecanismo interior y el software que hace posible su funcionamiento. Pero los algoritmos pueden salirse de control, como ocurrió con el precio de un libro de Amazon (Bergen, 2011), “The Making of a Fly”, que alcanzó el precio de casi 24 millones de dólares. Al parecer, dos algoritmos que figuraban como vendedores de la tienda, empezaron a competir uno con el otro terminando en la absurda cantidad. En este caso, los programas de computador no tienen conciencia ni sentido común para determinar que un

libro no puede valer tanto. Más inquietante aún, lo que ocurrió con Dow Jones el 6 de Mayo de 2010, lo que se conoce como el “Flash Crash” en el cual, el índice Dow Jones Industrial Average, cayó en 1000 puntos para recuperarse luego en pocos minutos (Lauricella, 2010). ¿Cuántos fallos en los sistemas masivos de transporte, son atribuibles a errores de programa, sin que nunca lleguemos a enterarnos?, ¿qué pasaría si fallaran los programas de control de tráfico aereo, o los que manejan los sistemas de seguridad en las plantas nucleares?. Nos hemos acostumbrado a la excusa del funcionario de turno cuando estamos en medio de algun proceso: “el sistema está caido”…Y…¿qué es el “sistema”?, ¿porque se “cae”?, ¿quién sabe hacer las cosas de manera alternativa sin necesitar de tal sistema? Estamos escogiendo rutas de tráfico, destinos turísticos, tiquetes aéreos, hoteles, etc simplemente porque un software lo está sugiriendo. Cada vez confiamos menos en nuestro propio criterio, necesitamos siempre la asistencia de aplicaciones, que nos dicen desde qué debemos comer, hasta en qué invertir para la pensión de vejez. EL HARDWARE TAMBIÉN NOS ESCLAVIZA En uno de los cuentos de Isaac Asimov (Asimov, 2004), “Círculo Vicioso”2 aparecido en el libro “Yo Robot”3, se cita por primera vez las tres leyes de la robótica, normas bajo las cuales los robots rigen su comportamiento. Tales reglas pueden ser enumeradas de la siguiente manera: 1. Un robot no puede causar daño a un ser humano, o por inacción, permitir que un ser humano resulte dañado. 2. Un robot debe obedecer las órdenes dadas por un ser humano, excepto que estas órdenes, vayan en conflicto con la primera ley. 3. Un robot debe proteger su propia existencia, siempre y cuando tal protección no entre en conflicto con la primera o la segunda ley. En obras posteriores, Isaac Asimov agregó la ley 0, para conservar el orden de prioridad, que reza: 0. Un robot no puede causar daño a la humanidad, o por inacción, permitir que la humanidad sufra daño. Claramente, el autor vislumbra una sociedad en la que los humanoides artificiales conviven con los seres humanos, pero tal sociedad se asegura de que su creación no se convierta en su enemigo. Las leyes de la robótica a pesar de su sencillez, implican un alto sentido de responsabilidad y seguridad para la especie humana.

2

Título original: Runaround

3

Título original: I, Robot

Los robots están ya entre nosotros, les confiamos nuestras vidas y los utilizamos también para eliminar a los enemigos en combate. (Singer, 2011). En 2003 durante la invasión a Iraq se utilizaron con alguna reserva los UAV (Unmanned Aerial Vehicle4), pero hoy, se utilizan masivamente; en el 2011 habían unos 7000 UAV y 12000 sistemas autónomos basados en tierra (Singer, 2011). En las recientes incursiones al medio oriente, el presidente Barak Obama no necesitó permiso del congreso para efectuar los ataques, pues no había soldados americanos involucrados, todos eran en su gran mayoría sistemas robóticos. Inicialmente, estos drones, se conducían por control remoto, pero con el avance de la tecnología, a estos dispositivos sólo se les da las coordenadas de destino para que hagan su ataque con misiles. Durante la trayectoria de vuelo, el sistema elude los peligros y el fuego enemigo, y efectua maniobras de defensa y ataque para preservar su integridad, pues la prioridad es la misión que le fue encomendada. ¡Que diferente a lo establecido en las leyes de la robótica de la ciencia ficción!. Estaríamos tentados a decir que, basta con reglamentar el uso de los drones como armas de guerra, y no habría mayor motivo de preocupación. Sin embargo, no nos hemos percatado de que los robots, y los agentes inteligentes están por todas partes, y sin ellos, no sería posible la civilización como la conocemos. El sistema de aterrizaje automático de los aviones comerciales civiles, maniobran de manera autónoma para hacer el aterrizaje y despegue en condiciones en que, para un piloto humano, resultarían imposibles por la falta de visibilidad, o porque el tráfico es tan denso, que conviene relegar a las computadoras el trabajo minucioso de organizar la movilidad de los aeropuertos. Los robots asisten a los cirujanos en el quirófano realizando cortes con la precisión y el pulso de los que depende la vida de un paciente. Hace poco, Google puso a prueba un vehículo autónomo que lleva a sus pasajeros en medio de la congestión de las calles citadinas (Gomes, 2014), y mencionemos también a los robots que en los hospitales llevan documentos, instrumentos y medicinas de un consultorio a otro. ¿Pueden todos estos sistemas mecatrónicos tomar decisiones éticas? ¿De ser capaces, es conveniente que tomen tales decisiones? Citemos el famoso dilema del trolley (Myers, 2014), un trolley queda sin frenos y se dirige a un grupo de 5 personas, la única manera de detenerlo es arrojando a alguien sobre la vía, ¿está el carro de Google programado para este tipo de disyuntivas?. El otro ejemplo es el de un robot médico que lleva suministros a un hospital, pero encuentra en el camino a un soldado herido que necesita asistencia inmediata, ¿debe abortar la misión y salvar la vida del soldado? Lo controversial del ejemplo, es que el soldado es un profesional de la guerra y el paciente es un civil. Estas preguntas, están lejos de ser casos hipotéticos para retar la lógica, se trata de verdaderos dilemas éticos que estamos a punto de enfrentar. La ONR (Office of Naval Research5) acaba de asignar 7.5 millones de dólares con el fin de diseñar mecanismos para la toma de decisiones éticas en los robots, si bien nos reconforta un poco, también se torna espeluznante. El objetivo de la ONR es lograr una máquina 4

Vehículo Aéreo no Tripulado

5

Oficina de Investigación Naval

moral en el término de cinco años. Hay media docena de universidades trabajando en este proyecto y especialistas en las áreas de la inteligencia artificial, la ciencia de computadores, las ciencias cognitivas, la robótica y la filosofía (Myers, 2014). Infortunadamente estas reflexiones en torno a la ética y la moral ni siquiera se las plantean los ingenieros e inventores actuales, tal como lo asegura Myers, los investigadores de élite en los temas de inteligencia artificial y mecatrónica, hicieron sus carreras sin haber tomado nunca una sola clase de ética, o de historia, o de leyes. Recíprocamente, los humanistas actuales no tienen una formación en temas científicos o técnicos, lo que dificulta una integración armónica de los grupos interdisciplinarios. En 2011, el Engineering and Physical Sciences Research Council, EPSRC6 y el Arts and Humanities Research Council, AHRC7 concibieron un código guía para los científicos dedicados al diseño y construcción de robots y agentes inteligentes. Es una reminiscencia de las leyes de la robótica de Asimov, traídas a los tiempos actuales, que si bien representan un avance, lucen incompletos y con cierta ambigüedad. (EPSRC, 2010). Se transcriben aquí: “ 1. Los robots no deben ser diseñados exclusivamente o principalmente para matar o dañar a los humanos. 2. Los seres humanos, no los robots, son los agentes responsables. Los robots son herramientas diseñadas para lograr los objetivos humanos. 3. Los robots deben ser diseñados de forma que aseguren su protección y seguridad. 4. Los robots son objetos, no deben ser diseñados para aprovecharse de los usuarios vulnerables al evocar una respuesta emocional o dependencia. Siempre debe ser posible distinguir a un robot de un ser humano. 5. Siempre debe ser posible averiguar quién es el responsable legal de un robot.” Es muy posible que estas consideraciones hayan llegado tarde, pero siempre está la posibilidad de los consensos a nivel global, y hasta ahora se ha demostrado, que los científicos y humanistas, más que los políticos, son proclives a discutir y argumentar para solucionar los retos que trae el desarrollo (Singer, 2011) como ejemplo en el proyecto del Genoma Humano, y el proyecto Brain, se ha dedicado el 8% del presupuesto al estudio de las ELSI (Ethical, Legal and Social Implications8)

6

Consejo de Investigación de Ingeniería y Ciencias Físicas

7

Consejo de Investigación de Artes y Humanidades

8

Implicaciones Sociales, Legales y Éticas

LA MORALIDAD DISTRIBUIDA Se podría definir como el fenómeno de las acciones morales globales y las responsabilidades no atribuibles a individuos que resultan de manera no localizada e intangible de las interacciones sistémicas entre sistemas multiagentes 9(Floridi, 2013). Las acciones morales de cada individuo de un grupo, pueden tener muy poca significación, pero la suma de todas las acciones morales, pueden hacer que el sistema resulte ejerciendo una acción moral, buena o mala claramente definida. Para entender un poco la acción de grupo, supongamos que A solo sabe que [P V Q]10, ejemplo: que “el carro está en el garaje o que Juan lo sacó”, mientras que B sólo sabe que: ~P11, es decir, que “el carro no está en el garaje”. Ni A ni B sabe que Q, sólo el supra-agente C=AB sabe que Q. Este es la agregación de los estados epistémicos de A y B que llevan a que C conozca Q. El concepto de moralidad distribuida, toma importancia en nuestra situación cultural actual, marcada por la interconexión de las personas en las redes sociales, pues el concepto, se puede extender ahora al ciberespacio. Los cibernautas, que no están localizados en un área geográfica específica, y cuyas acciones vistas de manera aislada pueden ser inocuas, sin impacto moral apreciable, pero que conforman un supra-agente como comunidad virtual, llámese los fan pages, los perfiles, los grupos, los canales, etc en servicios como Facebook, Twitter, Youtube, Google+, y otros; pueden ejercer acciones morales de relevancia, ya no como las individualidades éticas sino como el nuevo ente capaz de influir o trastornar positiva o negativamente a otros grupos o individuos externos. Considero que el bullying o matoneo entra en esta categoría. El internet facilita esta acción de grupo, agravando incluso el fenómeno, pues, la víctima no está a salvo en su casa o a lado de sus familiares, porque su entorno de comunicaciones que conforma su herramienta de estudio, de trabajo, o una extensión de su vida social se encuentran viciados. El cyberbullying (BILTON, 2014) como se ha dado en llamar, o cibermatoneo, se ha convertido en una epidemia, pues ocurre en todas las culturas, todas las geografías y se ha vuelto un intangible propiciado por la virtualidad. (Colombiano, 2014). Cabe preguntarse, de qué manera puede haber una legislación que castigue a estos supra –agentes, y qué grado de responsabilidad le atañe a cada uno de los miembros de esa cibercomunidad. LA INFRAÉTICA Lucio Floridi acuña este término para referirse, no a un tipo de ética de Segundo orden, sino como un marco de expectaciones implícitas, actitudes y prácticas que pueden facilitar y promover buenas acciones y decisiones morales. (Floridi, 2013). Se refiere a la infraestructura ética, de aquí el término. Estos componentes podrían ser la verdad, el respeto, la confianza, la privacidad, la transparencia, la libertad de expresión, apertura, 9

múltiples agentes, no necesariamente humanos

10

Disyuntiva lógica: P o Q

11

Negación lógica: No P

competencia justa, etc. La infraética no es buena o mala por sí misma, pero puede contener los habilitadores para que una sociedad sea más justa. La analogía perfecta de Floridi es imaginar una tubería para el agua, el que los tubos sean nuevos y estén bien construidos no garantiza la pureza del líquido, pero, si tales tuberías están sucias y oxidadas, con seguridad el agua estará contaminada. Los habilitadores, que forman la estructura que estamos buscando, son la educación, la salud, la protección, la seguridad, las oportunidades de crédito y una legislación clara que permita la implementación justa de la ley. Hannah Arendt da cuenta de la infraética (Arendt, 2006), cuando considera que Eichmann no era un monstruo, no lo asocia con alguien perverso capaz de ejecutar maldades para satisfacer algún oscuro y torcido deseo, él fue un simple funcionario que obedecía órdenes, una persona normal. En la sociedad de los Nazis, como en cualquier sociedad, existían convenciones, mecanismos de coordinación y cooperación, el punto, que debemos reflexionar es la forma en que estas variables se interrelacionan en forma sistémica para que resulten en una sociedad que se incline por el bien. Dentro del nazismo hubo perpetradores, nihilistas o dogmáticos, pero lo peor de la situación que llevó al holocausto, fue la indiferencia y la tolerancia ante los hechos. No podía ser de otra manera, era una sociedad “normal”, en el sentido de aceptar sin análisis, las decisiones de autoridad o simplemente, seguir una tendencia marcada por todo el grupo. Cuando no ha habido reflexión, los ciudadanos normales, acríticos, pueden cambiar los valores. Todo empieza con una pequeña crisis que genera una perplejidad inicial, pero luego se acepta como si fuera la norma. ¿Cómo está la infraética de la Internet? ¿Existe siquiera una estructura para la ética en Internet? Muchos movimientos sociales, han podido ver la luz gracias a la existencia de las tecnologías y los recursos de la web, a través de los dispositivos móviles, se logra que el mensaje llegue de forma inmediata a los miembros de una sociedad. A pesar de la censura que se da en muchos países, restringiendo la disidencia y el pensamiento pluralista, las redes sociales han podido mostrar una realidad que muchos gobernantes tratan de ocultar. Las fotografías de los abusos de las autoridades, las opiniones a través de los blogs, han sido una manera de diluir el poder coactivo y unidireccional de statu quo. La única opinión, la que prevalece, no es necesariamente la opinión oficial. Las personas colaboran en la red, son capaces de aportar dinero a las causas o firmar manifiestos de manera electrónica. Muchos servidores, fuera de China o Venezuela albergan los sitios de la disidencia, o simplemente de la libre expresión. Dos fenómenos opuestos como el cibermatoneo, y la disidencia de opinión ocurren en la virtualidad del mundo que ya es cotidiano, ¿necesitaremos diseñar una infraestructura para lograr que estas relaciones sociales deriven en algo positivo desde la ética y la moral? EL RASTRO DIGITAL La nuestra, es una sociedad basada en datos, cada llamada que hacemos, cada sitio que visitamos en la web, cada vez que usamos nuestra tarjeta de crédito, los “me gusta” del facebook, los comentarios y los retuits, las fotos que subimos a instagram, etc son una parte de nosotros que quedan almacenados en un servidor. Las búsquedas en Internet, nuestra

ubicación geográfica, en donde estuvimos y para donde vamos, todo es parte de un historial que muchos desconocen, es almacenado por las grandes empresas de procesamiento de información. Este cúmulo de información, llamado el Big Data, cuando es estudiado de manera anónima, pueden dar a los científicos de datos, una visión especial sobre el comportamiento de comunidades, las tendencias culturales, las necesidades, las enfermedades, preferencias sobre todo tipo de temas. Además, mediante los reportes desde los GPS de los móviles, se entiende mejor la movilidad en las ciudades, la planificación del urbanismo, o desde lo comercial, adecuar los resultados de las búsquedas a las coordenadas específicas del usuario. Sin embargo, como se mencionó anteriormente, la privacidad a la que tiene derecho cualquier persona se ve vulnerada por la exposición de su actividad en el mundo virtual. Los datos son utilizados sin su consentimiento para ser vendidos como bases de datos muy demandados por las compañías comercializadoras de todo tipo de servicios. Algunos gobiernos niegan su injerencia en los correos electrónicos y las redes sociales de los ciudadanos, pero admiten que bajo algunas circunstancias y amparados por la ley, como los que les concede la defensa contra el terrorismo, intervienen en la información de las personas. Las nuevas tecnologías, requieren de una ética, que algunos llaman la ética de la computación. (Montuschi, 2005), en términos generales: “problemas éticos agravados, transformados o creados por la tecnología de la computación”. En este caso, el usuario se transforma en víctima o agente pasivo. Necesitamos unas garantías viables, de que los datos necesarios para el bien público estén siempre disponibles y al mismo tiempo se garantice la protección de los ciudadanos. Algunos autores proponen un nuevo trato sobre los datos12 (Pentland, 2013). La clave de la propuesta consiste en tratar los datos de carácter personal como un activo; los individuos tendrían derechos de propiedad sobre sus propios datos. “Poseer” de manera análoga a como lo define el derecho común inglés sobre la posesión, uso y disposición: 1. Usted tiene el derecho de poseer los datos que le conciernen. Independientemente de la entidad que recoge los datos, los datos pertenecen a usted, y usted puede acceder a los datos en cualquier momento. Los recolectores de datos por lo tanto juegan un papel semejante a un banco, la gestión de los datos en nombre de sus "clientes". 2. Usted tiene el derecho a un control total sobre el uso de sus datos. Las condiciones de uso deben ser claramente explicadas en un lenguaje sencillo. Si usted no está satisfecho con la forma en que una empresa utiliza sus datos, puede eliminar esos datos, tal como lo haría cerrar su cuenta con un banco que no está proporcionando un servicio satisfactorio. 3. Usted tiene el derecho de disponer o distribuir los datos. Usted tiene la opción de disponer de ellos ya sea para destruirlos o redistribuirlos. 12

New Deal on Data

El gran hermano (Orwell, 1952/2005), dejó de ser una fantasía para convertirse en una realidad a la que llegamos de una manera insospechada: nosotros mismos facilitamos nuestro rastreo a través de las migajas digitales que dejamos en todo momento mientras interactuamos con la tecnología LOS MUNDOS VIRTUALES. Se menciona, la virtualidad como nuestra actividad en las redes digitales, desde la lectura de los correos electrónicos hasta las publicaciones que hacemos en los “muros”. Este imbuirse dentro de una tecnología, toma su máxima expresión en los videojuegos que se acceden en línea, en su gran mayoría juegos de rol, en los que el jugador debe cumplir una misión mientras se encuentra con innumerables obstáculos, amigos y enemigos. Estos personajes son otros jugadores que se encuentran en aquellos mundos, que pueden ser planetas, otras épocas, ciudades apocalípticas, escenarios de guerra, etc. Los grades anchos de banda que ya están disponibles y accesibles a la clase media, permiten que haya un realismo sorprendente en la experiencia, y esta resulta ser totalmente inmersiva y adictiva. Traigo como caso concreto a Second Life, más que un juego, es una comunidad virtual, una red social en tres dimensiones a la que se accede a través de un avatar, es decir, un personaje digital que nos representa y que el jugador puede diseñar con el rostro y los ropajes que lo desee. En este mundo, se puede volar para desplazarse de un lugar a otro, o se puede utilizar vehículos. Hay una moneda, el Linden Dólar, con la cual se pueden hacer todo tipo de negocios. En este meta universo se pueden comprar propiedades, asistir a conciertos, tener romances, formar una familia, tener un empleo, etc. En este meta verso, las grandes compañías como Apple, IBM, etc. tienen oficinas construidas y empleados que atienden a los interesados, incluso, para dar soporte técnico sobre sus productos. Todo tipo de profesionales y servicios, trabajan en Second Life y derivan su sustento de lo que realizan en este mundo virtual. Cada vez más personas se integran a esta red, y otros aumentan las horas al día que pasan inmersos en la artificialidad de esta segunda vida. Para muchos, esta es la matrix de la que no pueden escapar, allí realizan sus aspiraciones más elevadas, encuentran la compañía y la auto estima que no tienen en la vida real (Dell, 2008). Se reportan casos en que personas cambian su sexo en la virtualidad, o actúan según su verdadera tendencia sexual velada en el mundo real. Ha habido problemas legales con infidelidades, robos de propiedades, disturbios, etc tal como si se tratara de una comunidad real. Si este es el futuro que nos espera, en el que el teletrabajo será la opción más natural debido a los probleams de movilidad en las ciudades, en donde la interacción con nuestros colegas y amigos será a través de avatares, tendremos que prepararnos para una sociedad que existirá corporeamente como sustento de una mente que viaja y vive en una realidad virtual. La sociedad, a través de los estudiosos de las humanidades, especialmente, los filósofos y antropólogos, deberán dilucidar la manera de dar un sentido a esta sociedad futura que ya tiene sus cimientos en el presente.

CONCLUSIONES La sociedad va aumentando día a día su grado de dependencia de las TICs, al punto que paralizar el internet significa la inoperancia total, la quiebra económica y el caos social en todos los sentidos. Una necesidad ética y moral, es que los usuarios de tales tecnologías entiendan cómo funcionan, de manera que dejen de ser simples agentes pasivos y se conviertan en críticos y controladores de sus herramientas. Este es un deber, en la medida en que nuestras propias vidas ya dependen de ellas y la supervivencia de la especie humana muy pronto estará amenazada por nuevos entes digitales como predicen teorías como la singularidad. (Kurzweil, 2006). No podemos relegar la toma de decisiones enteramente a los algoritmos, estos no deben ser más que herramientas que nos ayuden a mejor la calidad de vida, nunca los que la dirijan. El hecho de que los agentes digitales, y los sistemas multiagentes, en la forma de software, hardware o dispositivos mecatrónicos, están ya conviviendo con nosotros, nos induce a considerar como urgente una nueva estructuración de las leyes enmarcadas dentro de esta nueva realidad. Todo tipo de máquinas y sistemas se están construyendo sin ninguna base moral, sin consultar con las normas más elementales de la convivencia y de la ética, de manera que, se deben establecer responsabilidades, delimitar los alcances, lo que pueden y no pueden hacer estos equipos inteligentes. Las leyes de la robótica de Asimov, aunque concebidas antes de tiempo, ya fueron convertidas en utópicas, sobreseídas por la realidad que ya nos atropella. La interconectividad ha cohesionado a individuos en grupos, que no tienen una ubicación geográfica, pero que existen como comunidad. Estas sociedades tienen un efecto como supra agentes, de manera que se les debe responsabilizar de sus actos consecuencia de una moralidad distribuida. La legislación, debe evolucionar en la misma medida en que es desafiada por los fenómenos de las comunicaciones digitales. Las ciencias humanas deben percatarse de esta nueva realidad y deben aportar sus conceptos para que de una manera integral y consensuada pueda establecerse una nueva ciencia: las Meta Humanidades, entendiéndose como el estudio de los efectos sociales, culturales, sicológicos y antropológicos derivados de las nuevas prácticas de la tecnología y de las comunicaciones. Se requiere el trabajo mancomunado de los países, para que aporten lo mejor de sus humanistas, científicos e ingenieros, para que esta era digital, marca identificadora del antropoceno, continué en esencia siendo para los humanos, que no pierda al hombre como su eje, que se rescate lo mejor del concepto de humanidad, su sentido de importancia, su basamento en los derechos de las personas, y que logre que todas las tecnologías actuales y venideras sean el sustento para permitir al hombre el dominio del mundo a través de su razón, de su sentido de justicia y capacidad para crear mundos, no necesariamente sintéticos, pero sí, virtuales a través de su quehacer filosófico y de su capacidad para soñar.

TRABAJOS CITADOS

• Arendt, H. (2006). Eichmann in Jerusalem: A Report on the Banality of Evil. Penguin Classsics. • Asimov, I. (2004). Yo, Robot. Barcelona: edhasa. • Bergen, J. (26 de Abril de 2011). Geek.com. Obtenido de http://www.geek.com/news/amazon-algorithm-freaks-out-sells-book-for-23-6million-1347813/ • BILTON, N. (24 de Marzo de 2014). New York Times. Obtenido de http://bits.blogs.nytimes.com/: http://bits.blogs.nytimes.com/2014/03/24/expertsoffer-their-guidance-to-cope-with-online-bullying/?_r=0 • Colombiano. (1 de Octubre de 2014). Periódico el Colombiano. Obtenido de www.elcolombiano.com: http://www.elcolombiano.com/bancoconocimiento/m/matoneo_en_redes_a_geroni mo_angel_por_su_presentacion_en_la_voz_kids/matoneo_en_redes_a_geronimo_a ngel_por_su_presentacion_en_la_voz_kids.asp • Crutzen, P. J. (2010). Anthropocene man. Nature, 14 Octubre. • Dell, K. (12 de Mayo de 2008). TIME. Obtenido de time.com: http://content.time.com/time/health/article/0,8599,1739601,00.html • EPSRC. (15 de Septiembre de 2010). http://www.epsrc.ac.uk/. Obtenido de Engineering and Physical Sciences Research Council: http://www.epsrc.ac.uk/research/ourportfolio/themes/engineering/activities/principl esofrobotics/ • Floridi, L. (2013). Distributed Morality in an Information Society. Science & Engineering Ethics, 427-743. • Gomes, L. (28 de Agosto de 2014). Technology Review. Obtenido de http://www.technologyreview.com/: http://www.technologyreview.com/news/530276/hidden-obstacles-for-googles-selfdriving-cars/ • Johnson, E. (2014). After the Anthropocene: Politics and geographic inquiry for a new epoch. Progress in Human Geography, 439–456. • Kurzweil, R. (2006). The Singularity Is Near: When Humans Transcend Biology. New York: Penguin books. • Lauricella, T. (7 de Mayo de 2010). Wall Street Journal. Obtenido de http://online.wsj.com/:

http://online.wsj.com/article/SB10001424052748704370704575227754131412596. html • Montuschi, L. (2005). ASPECTOS ETICOS DE LAS TECNOLOGIAS DE LA INFORMACION Y DE LA COMUNICACIÓN: LA ETICA DE LA COMPUTACION, INTERNET Y LA WORLD WIDE WEB. Buenos Aires: Universidad del CEMA. • Myers, J. (julio - Agosto de 2014). Robo-Morality Can philosophers program ethical codes into robots? THE HUMANIST, 9-11. • NIELSEN, J. (25 de 10 de 2014). Nielsen Group. Obtenido de http://www.nngroup.com/articles/law-of-bandwidth/ • Orwell, G. (1952/2005). 1984. Barcelona: Ediciones Destino. • Pentland, A. “. (2013). The Data-Driven Society. Scientific American 309, 78 - 83. • Singer, P. W. (2011). A world of killer apps. Nature, 477, 399-401. • Slavin, K. (2011). Welcome to the 'algoworld'. New Scientist, 28-29.