Los Agentes Inteligentes - algunas implicaciones jurídicas

Erasmus Lifelong Leaning Programme - Teachers Exchange

Los Agentes Inteligentes algunas implicaciones jurídicas

Manuel David Masseno Zaragoza, el 6 de Mayo del 2009

1

¿Que son los Agentes Inteligentes (AAII)? Un intento de pre-comprensión:   

el “Mayordomo Electrónico” de Nicolas Negroponte; Dobby, el “Elfo Doméstico” de Harry Potter; y también HAL, en 2001 de Arthur C. Clarke/Stanley Kubrick;

Una definición técnica: “Un Agente es un sistema computacional, situado en un determinado medio ambiente, que tiene la percepción de ese medio ambiente a través de sensores, que tiene capacidad de decisión, que actua de forma autónoma en ese medio ambiente a traves de actuadores, y posee capacidades de comunicación de alto-nivel con otros agentes y/o humanos, de forma a desempeñar una determinada función para la cual fue proyectado.” (L. P. Reis) 2

¿Que son los Agentes Inteligentes? Una definición jurídica: Un AI es “un programa de ordenador, o un medio electrónico o automatizado, utilizado por una persona para desencadenar un acción, o para responder a mensajes o actuaciones, en nombre de una persona sin revisión o acción por un individuo en el momento de la acción o respuesta para el mensaje o la actuación.” (UCITA Uniform Computer Information Transactions Act (2001) – EE.UU.)

3

Propiedades de los AA.II. En síntesis, los AA.II. Se caracterizan por los atributos siguientes:  Autonomía – los Agentes operan sin la intervención directa de los



 



seres humanos o de otros Agentes y tienen algún tipo de control sobre sus acciones e estado interno Movilidad – los Agentes son capaces de se desplazar en su Medio Ambiente, dentro de redes informáticas Reactividad – los Agentes tienen percepción de su Medio Ambiente y responden rápidamente a los cambios que ocurran en él Pro-actividad – los Agentes no se limitan a actuar en respuesta a su Medio Ambiente, son capazes de tomar la iniciativa y de tener un comportamiento orientado por objetivos Habilidad Social y Cooperación – los Agentes son capazes de interaccionar con otros Agentes (y con seres humanos) a través de un determinado lenguaje de comunicación 4

Caracteres de los AA.II. La actuación de los AA.II. se está aproximando cada vés más de la de los seres humanos, en lo que toca a:  estrategias competitivas y cooperativas: el fútbol robótico;  una actuación marcada por pautas morales, se habla de “Ética

computacional” o “Ética robótica”: id est, las “3 leyes” (Isaac Asimov) no son un dato…

 atender a las concepciones de Inteligencia Artificial: la

“fuerte”/estructuralista (A. Turing), la “débil”/funcionalista (J. Searle); y, la “subjetividad intencional” (G. Sartor);

 Por ende, es posible programar las actuaciones de los

AA.II. conformes a principios de comportamiento adecuado: de nuevo, el ejemplo del futból robótico;

5

¿Para que sirven los Agentes Inteligentes? En términos económicos, la utilización de Agentes Inteligentes permite una reducción radical de los costes:  de recuperación de información;  de negociación; Cuando interaccionan con seres humanos, permiten superar la contratación masificada y la “deshumanización” que resulta de los “scambi senza accordo” (Natalino Irti)

6

Marco Jurídico Internacional: La Ley Modelo de la CNUDMI/UNCITRAL sobre Comercio Electrónico (Aprobada por la Asamblea General de NN.UU – Resolución 51/162, de 16 de Diciembre de 1996)  “Por ‘iniciador’ de un mensaje de datos se entenderá toda persona

que, a tenor del mensaje, haya actuado por su cuenta o en cuyo nombre se haya actuado para enviar o generar ese mensaje antes de ser archivado, si éste es el caso, pero que no haya actuado a título de intermediario con respecto a él” (Art.º 2 c)  “Se ha previsto que el inciso c) sea aplicable a los mensajes de datos que sean generados automáticamente en una terminal informática o computadora sin intervención humana directa” (Punto 35, Guía para la incorporación al derecho interno)  “En las relaciones entre el iniciador y el destinatario, se entenderá que un mensaje de datos proviene del iniciador si ha sido enviado: […] Por un sistema de información programado por el iniciador o en su nombre para que opere automáticamente” (Art.º 13. 2 b)

7

Marco Jurídico Internacional: “En la mayoría de los ordenamientos jurídicos, se utiliza la noción de ‘persona’ para designar a los titulares de derechos y obligaciones y debe ser entendida en el sentido de abarcar tanto a la persona natural como a las sociedades legalmente constituidas o demás personas jurídicas. Se ha previsto que el inciso c) sea aplicable a los mensajes de datos que sean generados automáticamente en una terminal informática o computadora sin intervención humana directa. Ello no debe entenderse, sin embargo, en el sentido de que la Ley Modelo autorice la atribución de la titularidad de derechos y obligaciones a una terminal informática. Los mensajes de datos generados automáticamente en una terminal informática sin intervención humana directa deberán ser considerados como ‘iniciados’ por la persona jurídica en cuyo nombre se haya programado la terminal informática. Toda cuestión relativa a la representación o al mandato que se suscite a ese respecto deberá ser resuelta por la normativa aplicable al margen de la Ley Modelo.” (Punto 35, Guía para la incorporación al derecho interno) 8

Marco Jurídico Europeo (I): La Directiva sobre el Comércio Electrónico (Directiva 2000/31/CE del Parlamento Europeo y del Consejo de 8 de junio de 2000, relativa a determinados aspectos jurídicos de los servicios de la sociedad de la información, en particular el comercio electrónico en el mercado interior)  en el “Sumario Ejecutivo” de la Propuesta de la Comisión, nos

encontramos con que se pretende que “Los Estados miembros […] no impidan el uso de sistemas electrónico tal como los agentes electrónicos.”  “Los Estados miembros velarán por que su legislación permita la celebración de contratos por vía electrónica. Los Estados miembros garantizarán en particular que el régimen jurídico aplicable al proceso contractual no entorpezca la utilización real de los contratos por vía electrónica […].” (Art.º 9.1)

9

Marco Jurídico Europeo (II):  La Directiva sobre datos personales (Directiva

95/46/CE del Parlamento Europeo y del Consejo, de 24 de octubre de 1995, relativa a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos)

 “A efectos de la presente Directiva, se entenderá por: [..] ‘encargado

del tratamiento’: la persona física o jurídica, autoridad pública, servicio o cualquier otro organismo que, solo o conjuntamente con otros, trate datos personales por cuenta del responsable del tratamiento” (Art.º 2 e)

 “2. Los Estados miembros establecerán que el responsable del

tratamiento, en caso de tratamiento por cuenta del mismo, deberá elegir un encargado del tratamiento que reúna garantías suficientes en relación con las medidas de seguridad técnica y de organización de los tratamientos que deban efectuarse, y se asegure de que se cumplen dichas medidas. 10

Marco Jurídico Europeo (III): 3. La realización de tratamientos por encargo deberá estar regulada por un contrato u otro acto jurídico que vincule al encargado del tratamiento con el responsable del tratamiento, y que disponga, en particular: - que el encargado del tratamiento sólo actúa siguiendo instrucciones del responsable del tratamiento; - que las obligaciones del apartado 1, tal como las define la legislación del Estado miembro en el que esté establecido el encargado, incumben también a éste.” (Art.º 17)  “Los Estados miembros reconocerán a las personas el

derecho a no verse sometidas a una decisión con efectos jurídicos sobre ellas o que les afecte de manera significativa, que se base únicamente en un tratamiento automatizado de datos destinado a evaluar determinados aspectos de su personalidad, como su rendimiento laboral, crédito, fiabilidad, conducta, etc.” (Art.º 15.1)

11

Ordenamientos Nacionales: El U.S. Uniform Electronic Transactions Act (1999)  En la ‘Prefatory Note’ pone “[…] the Act makes clear that the actions

of machines (‘electronic agents’) programmed and used by people will bind the user of the machine, regardless of whether human review of a particular transaction has occurred.”; “(1) A contract may be formed by the interaction of electronic agents of the parties, even if no individual was aware of or reviewed the electronic agents’ actions or the resulting terms and agreements. (2) A contract may be formed by the interaction of an electronic agent and an individual, acting on the individual’s own behalf or for another person, including by an interaction in which the individual performs actions that the individual is free to refuse to perform and which the individual knows or has reason to know will cause the electronic agent to complete the transaction or performance.” (Section 14)

12

Ordenamientos Nacionales:  Sin embargo, “While this Act proceeds on the paradigm

that an electronic agent is capable of performing only within the technical strictures of its preset programming, it is conceivable that, within the useful life of this Act, electronic agents may be created with the ability to act autonomously, and not just automatically. That is, through developments in artificial intelligence, a computer may be able to ‘learn through experience, modify the instructions in their own program, and even devise new instructions’ If such developments occur, courts may construe the definition of electronic agent accordingly, in order to recognise such new capabilities.” (“Prefatory Note”) 13

Una “Fictio Iuris”  Los AA.II. son poco más que una máquina de venta de

chocolatinas o cigarrillos… 



jurídicamente, vehiculan propuestas al público, todas préprogramadas por ende, las transacciones y otros actos realizados por los AA.II. son consideradas como hechas por sus operadores (T. Allen e R. Widdison), id est, tiene lugar una “atribución” (E. Wietzenboeck)

 En todos los Ordenamientos, hasta agora, los AA.II. son,

como mucho, considerados como núncios de su operador: 

 

los regímenes de la Representación no tienen sentido ya que los AA.II. no son Personas (Jurídicas) tan solo trasmiten declaraciones de voluntad – incluso si esa persona no sabe, siquiera, que un negocio está ocurriendo… solamente tiene relevancia jurídica en lo que se refiere a la forma de la declaración; 14

Los AA.II. como “Cosas” Intencionales  Antecedentes?  La analogía con la condición jurídica del “servus” en el Derecho Romano (E. Schweighofer); incluso, los Romanistas a menudo utilizan la metáfora del “robot de carne” (v.g., Santos Justo):  el

desarrollo pretoriano de las respuestas;  la imputación de responsabilidad, contractual y extra-contractual, por los actos del esclavo;  el peculium del esclavo y la limitación de la responsabilidad del dominus;

 Una, muy breve, aproximación a la situación actual

de los animales… 15

Algunos Problemas Las Condiciones generales de la contratación  la Directiva 93/13/CEE del Consejo, de 5 de abril de 1993,

sobre las cláusulas abusivas en los contratos celebrados con consumidores  la Directiva 2005/29/CE del Parlamento Europeo y del Consejo, de 11 de mayo de 2005, relativa a las prácticas comerciales desleales de las empresas en sus relaciones con los consumidores en el mercado interior 



prevenir la indefensión de los consumidores por efecto de la posibilidad de negociar cada una de las clausulas contractuales; la Obligatoriedad de programar criterios de Buena-Fe, también subjetiva; 16

Algunos Problemas  Responsabilidad civil  



la imputación de los daños al dueño o al encargado de la vigilancia; la imprevisibilidad de las actuaciones de los AA.II.; posibilidad de una aproximación a la responsabilidad del comisario por actos del comitente

 Responsabilidad penal   

el carácter personal de la responsabilidad criminal; las dificultades de imputación de los efectos de la conducta del AI al operador humano, la “intencionalidad” del AI; la tipicidad penal y la ausencia de deberes específicos de vigilancia;

17

¿Por qué no están más presentes?  La concentración del riego en el operador

y las técnicas de limitación de la responsabilidad  ¿Hace falta “personificar” a los AA.II.?  los obstáculos antropológicos y la “funcionalización” jurídica  crear sociedades limitadas (G. Sartor)  una aproximación a las “sociedades unipersonales”  sin embargo, cabría la “desconsideración” de la personalidad  Bastaría crear, por Ley, la previsión de la

posibilidad de instituir Patrimonios Autónomos, con un registro y una firma electrónica propios, además de un seguro obligatório. 18