Introducción
En el siglo XXI, la humanidad se enfrenta a la aguda cuestión de introducir la inteligencia artificial (en adelante, IA) en la vida cotidiana. En este artículo, las definiciones de "inteligencia artificial" y "robot" no están especialmente separadas debido a la convergencia real de estos conceptos. La IA es propiedad de un sistema técnico o de software para realizar funciones que anteriormente podían ser realizadas exclusivamente por un ser humano u otro ser biológico. Y en este contexto, no estamos hablando de la IA más simple como una plancha o un microondas, estamos hablando de algoritmos mucho más complejos.Si ahora miramos los algoritmos de IA como intermediarios para lograr nuestros objetivos, por ejemplo, usamos Yandex. Navigator "para llegar a casa rápidamente evitando los atascos de tráfico, en el futuro, tal vez, tales algoritmos se conviertan en nuestros gobernantes. Si miras detrás de escena de Yandex. Navegador ”, veremos que miles de automovilistas están transmitiendo datos sobre el estado de las carreteras cada minuto. Es por eso que la aplicación sabe cómo allanar el camino a la casa de la manera más eficiente, ahorrándonos tiempo. Y si hay miles, no, millones de personas transferirán información sobre sí mismos, sus preferencias políticas, estado de salud y similares a alguna aplicación como "Gerente de la Federación de Rusia" y este algoritmo, teniendo en cuenta datos estadísticos, será, por ejemplo,destinar fondos para apoyar la atención médica en una región, para desarrollar la educación en otra. En este caso, la especie humana simplemente dependerá directamente de las acciones de la IA [11]. Suena a fantasía, pero nos estamos acercando más de lo que parece. Microsoft está desarrollando e implementando gradualmente la aplicación "Cortana", que puede convertirse no solo en un asistente, sino también en un representante completo de una persona, por ejemplo, durante las negociaciones. Otras empresas siguen en esta dirección: Apple con Siri y Yandex con Alice. Este desarrollo tecnológico plantea muchas preguntas. ¿Puede la IA ser reconocida como autora de una obra de arte o de ciencia? ¿Será la IA igual a los humanos en sus derechos? Y, si la IA que conduce el automóvil tiene un accidente, como resultado del cual los pasajeros resultan heridos,¿Es posible acudir a los tribunales y exigir una indemnización por daños a la salud no de una persona, sino pensar en ello con la IA? ¿Y quién será el responsable: el pasajero o la IA? Intentemos responder a estas preguntas, teniendo en cuenta la opinión de los científicos, utilizando un estudio de la práctica judicial y la legislación de varios estados.
1. Expresión artificial "yo". ¿Puede la IA ser reconocida como autora de una obra científica o artística?
Se cree ampliamente en la sociedad que la IA no puede superar a una persona, si no a todas, al menos en un área con seguridad: esto es un arte y, lamentablemente, este juicio es erróneo.
Mientras que Deep Blue, que venció a Garry Kasparov en el ajedrez, fue suficientemente bien enseñado por sus creadores sobre las reglas del juego, la IA moderna recibe solo una cantidad mínima de información de los programadores, prefiriendo el aprendizaje automático independiente. Estos programas modifican comandos y variables, creando una cadena de código cada vez mejor para realizar la tarea en cuestión. Así, el programa Alpha Go aprendió a jugar el antiguo juego de mesa chino "Go", que es muchas veces más difícil que el ajedrez, mientras que el programa utilizó estrategias completamente nuevas, lo que sorprendió mucho a los expertos. Mucho más impactante es el hecho de que la IA haya aprendido a crear obras de arte y ciencia únicas.
Por ejemplo, la aparición en 2016 del programa The Next Rembrandt destruyó la idea de personas que la IA no puede crear. Este programa analiza las pinturas de Rembrandt y, a partir de los datos obtenidos, crea sus propios cuadros que no se pueden distinguir del pincel del gran maestro. En el sitio web de Microsoft se ofrece información bastante interesante sobre el trabajo del programa: “Como resultado de 18 meses de trabajo conjunto de los especialistas de Microsoft, la Universidad Técnica de Delft, la Royal Mauritshuis Gallery y la Casa-Museo de Rembrandt en Ámsterdam, una imagen única en su tipo, un retrato que fue creado con una precisión excepcional recrea el estilo creativo de Rembrandt ”[10]. Hay un precedente más asociado con la creación a partir de IA.David Cope es un compositor y conferencista estadounidense de la Universidad de California, Santa Cruz, quien desarrolló el programa Emily Howell, que es capaz de crear música que imita las obras maestras de Bach, Beethoven, Chopin y otros compositores. Cabe señalar que una serie de experimentos con músicos profesionales sugieren que la música creada por IA no se puede distinguir de las obras de los grandes clásicos. La IA no se queda atrás de los humanos en el campo de la ciencia; por ejemplo, el programa Watson recopila datos de pacientes y, en base a ellos, crea un programa de tratamiento personalizado. En este contexto, ciertamente surge la pregunta: ¿quién posee el derecho de autor sobre estas obras de ciencia y arte?que una serie de experimentos con músicos profesionales sugiere que la música creada por IA no se puede distinguir de las obras de los grandes clásicos. La IA no se queda atrás de los humanos en el campo de la ciencia, por ejemplo, el programa Watson recopila datos de pacientes y, en base a ellos, crea un programa de tratamiento personalizado. En este contexto, ciertamente surge la pregunta: ¿quién posee el derecho de autor sobre estas obras de ciencia y arte?que una serie de experimentos con músicos profesionales sugiere que la música creada por IA no se puede distinguir de las obras de los grandes clásicos. La IA no se queda atrás de los humanos en el campo de la ciencia, por ejemplo, el programa Watson recopila datos de pacientes y, en base a ellos, crea un programa de tratamiento personalizado. En este contexto, ciertamente surge la pregunta: ¿quién posee el derecho de autor sobre estas obras de ciencia y arte?¿Quién posee el derecho de autor sobre las obras de ciencia y arte especificadas?¿Quién posee el derecho de autor sobre las obras de ciencia y arte especificadas?
La respuesta a esta pregunta es la misma en términos de la legislación de varios estados. Según la Ley de derechos de autor del Reino Unido, un autor se define como una persona que utiliza una herramienta para lograr un objetivo. La legislación estadounidense se basa en el hecho de que una persona puede ser autor de una obra científica o artística. Así, en el conocido caso de Feist Publications, Inc. v. Servicio telefónico rural Co., Inc. - 499 US 340, 111 S. Ct. 1282 (1991) [9]. La Corte Suprema de Estados Unidos señala que una obra en la que no existe una contribución creativa mínima de la conciencia del autor no puede estar sujeta a derechos de autor. La cuestión de la presencia de conciencia en la IA se considerará con más detalle más adelante, pero debe tenerse en cuenta de inmediato que la IA no posee conciencia, por lo que resulta que solo una persona puede ser un autor. En cuanto a la Federación de Rusia,luego, analizando el párrafo 1 del artículo 1228 del Código Civil de la Federación de Rusia (en adelante, el Código Civil de la Federación de Rusia), podemos concluir que el autor de una obra de ciencia o arte también solo puede ser un individuo. Con base en la interpretación literal del artículo 1228 del Código Civil de la Federación de Rusia, llegamos a la conclusión de que la persona que desarrolló el programa que creó esta obra no puede ser reconocida como autora de una obra de ciencia y arte, ya que “los ciudadanos que no han realizado una contribución creativa personal no son reconocidos como autores del resultado de la actividad intelectual. para crear tal resultado ”[2]. En esta ocasión, citamos a A.A. Semyonova:Con base en la interpretación literal del artículo 1228 del Código Civil de la Federación de Rusia, llegamos a la conclusión de que la persona que desarrolló el programa que creó esta obra no puede ser reconocida como autora de una obra de ciencia y arte, ya que “los ciudadanos que no han realizado una contribución creativa personal no son reconocidos como autores del resultado de la actividad intelectual. para crear tal resultado ”[2]. En esta ocasión, citamos a A.A. Semyonova:Con base en la interpretación literal del artículo 1228 del Código Civil de la Federación de Rusia, llegamos a la conclusión de que la persona que desarrolló el programa que creó esta obra no puede ser reconocida como autora de una obra de ciencia y arte, ya que “los ciudadanos que no han realizado una contribución creativa personal no son reconocidos como autores del resultado de la actividad intelectual. para crear tal resultado ”[2]. En esta ocasión, citamos a A.A. Semyonova:
« « » , » [5, . 423].Esta posición también se corresponde con el artículo 136 del Código Civil de la Federación de Rusia, que establece que la propiedad de las frutas, los productos y los ingresos pertenece al propietario de la cosa. Pero aquí, por supuesto, vale la pena señalar que de acuerdo con el párrafo 3 del art. 1227 del Código Civil de la Federación de Rusia, las disposiciones sobre propiedad y otros derechos de propiedad no se aplican a los derechos intelectuales. Por tanto, la cuestión de la autoría está, por así decirlo, en un estado "suspendido". Sin embargo, la respuesta a esta pregunta posiblemente se pueda encontrar en el derecho internacional, concretamente en el artículo 12 de la Convención de la ONU "Sobre el uso de comunicaciones electrónicas en acuerdos internacionales" (2005) [1]. La esencia de esta regla es que las transacciones realizadas por una computadora pueden considerarse acciones de personas físicas o jurídicas en cuyo nombre se utiliza la computadora.Debido a la falta de práctica judicial, esta regla puede estar indirectamente vinculada directamente a las acciones de AI.
Con base en lo anterior, a la pregunta de si la IA puede ser reconocida por el autor, la respuesta debería ser - no, por el momento no puede. Desafortunadamente, la legislación rusa no tiene reglas especiales que rijan las actividades de AI, por lo que la cuestión de quién se considera el autor de un trabajo creado por AI permanece abierta.
Por el momento, existe un vacío evidente en la legislación rusa que permite crear una obra sin autor, lo que significa que una obra creada por AI se considerará de dominio público. El autor es un individuo, es decir, un sujeto de derecho civil, por lo tanto, en este caso, ¿existe una dependencia directa de si AI debe ser reconocida como sujeto de relaciones jurídicas?
2. Personas físicas, jurídicas y electrónicas
La cuestión de qué estatus legal debería extenderse a la IA es bastante relevante, y hay una gran variedad de puntos de vista al respecto en la ciencia.
Cabe señalar de inmediato que en este momento hay un estado, cuyo archivo es un androide con IA. Así, se ha creado un precedente, gracias al cual podemos decir que el estatus legal de un individuo se extiende tanto a la IA como a una persona. Este estado es Arabia Saudita, archivado - Sofia (robot humanoide).
En nuestra opinión, la decisión de Arabia Saudita es apresurada. No es racional extender el estatus legal de un individuo a un objeto que claramente no posee propiedades psicoemocionales inherentes a una persona. Entonces, inteligencia y conciencia no son conceptos similares.
La conciencia es inherente a todas las personas. Se entiende como un conjunto de reacciones electroquímicas en las células del cerebro, expresadas en la vivencia del cuerpo de los eventos del mundo externo y la posterior reacción a estos eventos. En resumen, la conciencia permite a las personas experimentar sentimientos subjetivos de dolor, amor, odio, felicidad. La inteligencia es la capacidad de utilizar el conocimiento para influir en el entorno. En este sentido, es necesario señalar la falta de conciencia en la IA, así como la falta de capacidad para sentir y desear cualquier cosa.
Por lo tanto, no es aconsejable igualar a los humanos y la IA en su estatus legal. De hecho, en este caso, resulta que estamos creando una ficción: las personas y los programas realizarán aproximadamente las mismas acciones, queriendo lograr un determinado resultado, tendrán la misma responsabilidad por sus acciones. Resulta que AI, en igualdad de condiciones con las personas, recibirá derechos fundamentales: el derecho a la vida, el derecho a la integridad personal, etc. ¿Pero no deberíamos ceñirnos a la presunción de inconsciencia de la IA? En vista de que la IA no tiene experiencias subjetivas de la personalidad, se destacará fuertemente en el contexto de una persona, ya que claramente la superará en muchos sentidos. Y es poco probable que la IA pueda comprender de forma independiente la frase "cogito ergo sum" en un futuro próximo.
Parece que AI debería tener un estatus legal especial. Entonces, V.V. Arkhipov, V.B. Naumov cree que la analogía con las personas jurídicas es aplicable a AI [6]. De hecho, en este caso, AI tendrá todas las características de una persona jurídica, a excepción de la unidad organizativa. AUTOMÓVIL CLUB BRITÁNICO. Al respecto, Ivanov señala que puede surgir un estatus dual de AI, ya que puede ser tanto un objeto como un sujeto de derecho civil [8]. Desde el punto de vista de esta posición, también surge la pregunta sobre el derecho de propiedad de las cosas: ¿con qué derecho tendrá AI las cosas? ¿Será este un derecho de propiedad limitado? No es posible responder a estas preguntas en este momento.
L.I. Safargaleev expresa la opinión de que la regla utilizada en el derecho romano es aplicable a AI - servi res sunt (esclavos - cosas), en su opinión, AI no puede ser un sujeto de derecho independiente, pero puede adquirir derechos y obligaciones para su propietario [5, C 407].
Todos los puestos anteriores tienen derecho a existir, pero, en nuestra opinión, no están exentos de inconvenientes, ya que inevitablemente surge la pregunta de ¿cuál será el estatus legal de la IA después de la muerte de su propietario? Siguiendo las realidades de la legislación civil rusa, resulta que para adquirir la propiedad de la IA, tendremos que esperar 5 años, es decir, de hecho, durante este período habrá una “IA ilegal” que tiene mente, realiza acciones, pero no adquiere ninguna. para quien los derechos y obligaciones. ¿Qué hacer? Por supuesto, en este caso, podemos tratar la IA como con los gatos, perros y otros animales del Antiguo Egipto, es decir, deshacernos de ellos junto con sus dueños. Pero, ¿qué tan racional es?
Es cierto, en nuestra opinión, J. Dewey señaló una vez:
« , , » [12, P.657].La resolución del Parlamento Europeo de 16 de febrero de 2017 (en adelante, la Resolución) es interesante para considerar la cuestión del estatus legal de la IA. La Resolución proporciona orientación a la Comisión Europea sobre normas de derecho civil en robótica (2015/2013 (INL)) [3]. En el texto de este documento, el estatus legal de la IA es específico, la IA se convierte en una especie de "persona electrónica". La Resolución enfatiza que la IA está diseñada para complementar las capacidades humanas, no para reemplazarlas. Se indica que la IA no puede, por sus acciones o inacción, causar daño a una persona, así como permitir la posibilidad de causar daño, la IA debe obedecer todas las órdenes de una persona, es decir, de hecho, tres leyes de la robótica formuladas por el escritor de ciencia ficción Isaac Asimov en el cuento "Round Dance" en 1942 año. El enfoque formulado en la Resolución esen nuestra opinión, es el más adecuado, y aquí surge inmediatamente la pregunta sobre la responsabilidad de AI.
3. ¿Quién será el responsable?
Imagina que estás conduciendo un vehículo de inteligencia artificial. El vehículo está en su posesión e, inesperadamente, ingresa a una multitud de transeúntes. Varios transeúntes resultaron levemente heridos, experimentó un estrés emocional severo, el parachoques del automóvil resultó dañado. ¿Quién en este caso compensará los daños causados a la salud, daños morales, daños al coche?
De acuerdo con la ley rusa, todas las pérdidas serán reembolsadas por el propietario de la fuente de mayor peligro. Pero la IA conducía el coche. ¿No se consideraría esto una fuerza mayor? ¿Podría el propietario del automóvil haberse dado cuenta del peligro para los demás a tiempo y tomar el control? En ausencia de práctica judicial, es difícil responder a esta pregunta, pero varios estados ya han introducido normas que regulan la responsabilidad en caso de tales incidentes. Vale la pena profundizar en la experiencia de la RFA. Así, en Alemania en 2017 se adoptó la “Octava Ley de Reforma a la Ley de Circulación por Carretera de 16 de junio de 2017” [4], que de hecho dio lugar a la posibilidad de utilizar vehículos no tripulados. La ley establece que el conductor puede distraerse de lo que ocurre en la vía, pero está obligado a tomar el control,si la IA se ofrece a hacerlo en gran parte o en su totalidad. Además, el conductor debe tomar el control si se da cuenta o debe darse cuenta de que es imposible seguir controlando el automóvil de IA, por ejemplo, cuando el conductor ve que el automóvil controlado por IA se dirige hacia una multitud de peatones, etc. En este caso, si hubo daño a una persona o propiedad por culpa del conductor, entonces él asumirá la responsabilidad, si el daño fue causado por un error técnico, entonces el fabricante de automóviles será responsable. En Alemania, en nuestra opinión, el enfoque de la responsabilidad es realmente de muy alta calidad, ya que un automovilista no puede ni debe ser considerado responsable si no puede tomar el control del automóvil como resultado de un error técnico.Además, el conductor debe tomar el control si se da cuenta o debe darse cuenta de que es imposible seguir controlando el automóvil de IA, por ejemplo, cuando el conductor ve que el automóvil controlado por IA se dirige hacia una multitud de peatones, etc. En este caso, si hubo daño a una persona o propiedad por culpa del conductor, entonces él asumirá la responsabilidad, si el daño fue causado por un error técnico, entonces el fabricante de automóviles será responsable. En Alemania, en nuestra opinión, el enfoque de la responsabilidad es realmente de muy alta calidad, porque un automovilista no puede ni debe ser considerado responsable si no puede tomar el control del automóvil como resultado de un error técnico.Además, el conductor debe tomar el control si se da cuenta o debe darse cuenta de que es imposible seguir controlando el automóvil de IA, por ejemplo, cuando el conductor ve que el automóvil controlado por IA se dirige hacia una multitud de peatones, etc. En este caso, si hubo daño a una persona o propiedad por culpa del conductor, entonces él asumirá la responsabilidad, si el daño fue causado por un error técnico, entonces el fabricante de automóviles será responsable. En Alemania, en nuestra opinión, el enfoque de la responsabilidad es realmente de muy alta calidad, ya que un automovilista no puede ni debe ser considerado responsable si no puede tomar el control del automóvil como resultado de un error técnico.cuando el conductor ve que el vehículo de IA se dirige hacia una multitud de peatones, etc. En este caso, si hubo daño a una persona o propiedad por culpa del conductor, entonces él asumirá la responsabilidad, si el daño fue causado por un error técnico, entonces el fabricante de automóviles será responsable. En Alemania, en nuestra opinión, el enfoque de la responsabilidad es realmente de muy alta calidad, ya que un automovilista no puede ni debe ser considerado responsable si no puede tomar el control del automóvil como resultado de un error técnico.cuando el conductor ve que el vehículo de IA se dirige hacia una multitud de peatones, etc. En este caso, si hubo daño a una persona o propiedad por culpa del conductor, entonces él asumirá la responsabilidad, si el daño fue causado por un error técnico, entonces el fabricante de automóviles será responsable. En Alemania, en nuestra opinión, el enfoque de la responsabilidad es realmente de muy alta calidad, ya que un automovilista no puede ni debe ser considerado responsable si no puede tomar el control del automóvil como resultado de un error técnico.el fabricante de automóviles será responsable. En Alemania, en nuestra opinión, el enfoque de la responsabilidad es realmente de muy alta calidad, ya que un automovilista no puede ni debe ser considerado responsable si no puede tomar el control del automóvil como resultado de un error técnico.el fabricante de automóviles será responsable. En Alemania, en nuestra opinión, el enfoque de la responsabilidad es realmente de muy alta calidad, porque un automovilista no puede ni debe ser considerado responsable si no puede tomar el control del automóvil como resultado de un error técnico.
La cuestión de la responsabilidad también se plantea en la Resolución del Parlamento Europeo de 16 de febrero de 2017 [3]. El documento establece que la IA no puede responsabilizarse por sí misma, ya que sus acciones o inacción dependen del operador (propietario), es decir, la IA es una especie de herramienta para lograr un objetivo específico. Teniendo en cuenta lo anterior, se establece la responsabilidad no solo del propietario de la IA, sino también del fabricante, si algún daño fue causado por un error técnico. Sin embargo, la Resolución también establece que cuanto mayor es la autonomía de la IA, menos se puede considerar como una herramienta convencional. Esto plantea la pregunta: ¿puede la IA ser responsable independientemente de sus acciones o inacciones? No, por el momento no puede, pero vale la pena señalar que a medida que se desarrolle la tecnología, los abogados ciertamente volverán a este tema.Hasta ahora, solo podemos ofrecer opciones para la responsabilidad de la IA. Una idea completamente funcional, en este sentido, fue propuesta por G.A. Gadzhiev y E.A. Voinikanis [7]. Su esencia radica en el hecho de que la IA será responsable de la cuenta de los fondos en la cuenta directamente con la IA. Es posible implementar esta idea si, durante el registro de cualquier AI, su propietario aportará una determinada cantidad, que luego se acumulará en el fondo del seguro y, en caso de un evento asegurado, se dirigirá a su satisfacción. Al final, si AI es reconocida como un sujeto de derecho independiente, entonces podrá encontrar un trabajo, tener su propia cuenta bancaria y donar dinero de forma independiente a su fondo de seguros.que la IA será responsable de la cuenta de los fondos mantenidos en la cuenta directamente con la IA. Es posible implementar esta idea si, al momento del registro de cualquier AI, su propietario aportará una cierta cantidad, que luego se acumulará en el fondo del seguro y, en caso de un evento asegurado, se dirigirá a su satisfacción. Al final, si AI es reconocida como un sujeto de derecho independiente, entonces podrá encontrar un trabajo, tener su propia cuenta bancaria y donar dinero de forma independiente a su fondo de seguros.que la IA será responsable de la cuenta de los fondos mantenidos en la cuenta directamente con la IA. Es posible implementar esta idea si, durante el registro de cualquier AI, su propietario aportará una determinada cantidad, que luego se acumulará en el fondo del seguro y, en caso de un evento asegurado, se dirigirá a su satisfacción. Al final, si AI es reconocida como un sujeto de derecho independiente, entonces podrá encontrar un trabajo, tener su propia cuenta bancaria y donar dinero de forma independiente a su fondo de seguros.que en el futuro se acumulará en el fondo del seguro y en caso de evento asegurado será dirigido a su satisfacción. Al final, si AI es reconocida como un sujeto de derecho independiente, entonces podrá encontrar un trabajo, tener su propia cuenta bancaria y donar dinero de forma independiente a su fondo de seguros.que en el futuro se acumulará en el fondo del seguro y en caso de evento asegurado será dirigido a su satisfacción. Al final, si AI es reconocida como un sujeto de derecho independiente, entonces podrá encontrar un trabajo, tener su propia cuenta bancaria y donar dinero de forma independiente a su fondo de seguros.
Conclusión
Por el momento, AI no puede ser reconocida como la autora de una obra de ciencia o arte, ya que tal oportunidad solo aparecerá cuando AI sea reconocida como sujeto de relaciones legales.
Las leyes de varios estados no reconocen a la IA como sujeto de relaciones legales. Sin embargo, Arabia Saudita otorgó la ciudadanía al robot Sophia, lo que indica el reconocimiento del estado de la IA como individuo. Este enfoque parece prematuro, ya que los humanos y la IA no coinciden en términos de sus cualidades y propiedades psicoemocionales. Al mismo tiempo, es muy posible hablar sobre el reconocimiento del estatus especial de una "persona electrónica" para la IA. Esto permitiría no confundir conceptos en la ley y de ninguna manera violaría los derechos de las personas. La cuestión de la responsabilidad de la IA tampoco está resuelta. En caso de daño a una persona o propiedad, la responsabilidad de acuerdo con las realidades de la ley correrá a cargo del propietario de la fuente que causó el daño o de su fabricante. Parece que es necesario obligar a indemnizar el daño causado,AI, si tiene todas las capacidades necesarias para esto, y principalmente la disponibilidad de fondos.
El problema de la acumulación de fondos se puede resolver depositando fondos durante el registro de la IA por parte de su propietario en el fondo del seguro, o si la propia IA puede ganar dinero, influir en ella utilizando métodos que ya conocemos, por ejemplo, debitando fondos de una cuenta bancaria. etc.
Este tema tiene un enorme potencial de investigación. Sin duda, la IA se convertirá en parte del futuro de la humanidad, por lo que es necesario abordar con seriedad los temas relacionados con su estatus legal y la regulación de las relaciones con su participación.
Este artículo se publicó anteriormente en la colección. El enlace se verá así: Vorobyova I.V., Salakhutdinov V.D. Problemas de regulación legal de la inteligencia artificial // Lecturas de Malyshevskie - 2020. Ciencia y educación: el futuro y los objetivos del desarrollo sostenible: materiales de la XVI conferencia científica internacional, en 4 partes / ed. AV. Semenov. - M.: Ed. CHOUVO "MU im. S.Yu. Witte ", 2020. Parte 4. - p. 62-72
Literatura
1. Convención de la ONU "Sobre el uso de mensajes electrónicos en acuerdos internacionales" [recurso electrónico] // www.un.org/ru/documents/decl_conv/conventions/elect_com.shtml (fecha de acceso: 30.12.2019).
2. Cuarta parte del Código Civil de la Federación de Rusia. // SZ RF. - 2006. - No. 52. - Art. 5496.
3. Resolución del Parlamento Europeo de 16 de febrero de 2017. [Recurso electrónico] // robopravo.ru/riezoliutsiia_ies (fecha de acceso: 30/12/2019 ).
4. La octava ley de enmiendas a la Ley de tráfico rodado de 16 de junio de 2017 [Recurso electrónico] // robopravo.ru/initsiativy_frantsii_v_sfierie_robototiekhniki_2013_2 (fecha de acceso: 30.12.2019).
5. Comercio electrónico y áreas interrelacionadas (regulación legal): colección de artículos / .. Ostanina, L.V. Kuznetsova, E.S. Khokhlov [y otros]; manos. ed. contar y otv. ed. Doctor en derecho MAMÁ. Rozhkova. - Moscú: Estatuto, 2019 .-- 448 p.
6. Arkhipov BB, Naumov VB Inteligencia artificial y dispositivos autónomos en el contexto del derecho: sobre el desarrollo de la primera ley de robótica en Rusia // Actas de SPII RAS. - 2017.- Iss. 6 (55). - S. 46-62.
7. Gadzhiev G.A., Voinikanis E.A. ¿Puede un robot ser sujeto de derecho (búsqueda de normas legales para regular la economía digital)? // Correcto. Revista de la Escuela Superior de Economía. - 2018. - No. 4. -C. 24-48.
8. Ivanov A.A. Los androides sueñan con ovejas eléctricas? [Recurso electrónico] // zakon.ru/blog/2017/2/15/mechtayut_li_androidy_ob_elektroovcah(fecha de acceso: 29.12.2019).
9. I.I. débil El Feist v. Teléfono rural: Conceptos básicos sobre derechos de autor de la Corte Suprema de EE. UU. [Recurso electrónico] // zakon.ru/blog/2019/04/11/delo_feist_v_rural_telephone_osnovy_avtorskogo_prava_ot_verhovnogo_suda_ssha#comment_490346 (fecha de acceso: 29.12.2019).
10. Siguiente Rembrandt [recurso electrónico] // news.microsoft.com/ru-ru/sleduyushhij-rembrandt (fecha de acceso: 28.12.2019).
11. Tikhomirov Yu.A., Arkhipova N.I., Kosyakova N.I. Derecho humanitario ruso: un libro de texto para universidades / Universidad Estatal de Humanidades de Rusia; editado por Tikhomirov Yu.A. (editor ejecutivo), Arkhipova N.I., Kosyakova N.I ... Moscú, 1998.
12. Dewey, J. Los antecedentes históricos de la personalidad jurídica corporativa // Yale Law Journal. - 1926. No. 35. - págs. 655 - 673.