Los expertos de ANYbotics, Boston Dynamics y Clearpath Robotics responden preguntas sobre el uso irresponsable y poco ético de sus robots.
Ilustración: iStockphoto / IEEE Spectrum
La producción comercial de robots autónomos que pueden operar fuera de un entorno estructurado se ha disparado en los últimos cinco años. Pero esta transición relativamente reciente de las tecnologías robóticas de la categoría de proyectos de investigación a un producto comercial viene acompañada de ciertas dificultades, muchas de las cuales están asociadas al hecho de que cada vez aparecen más robots en la sociedad.
Los robots a menudo rondan la mente de las personas, quizás debido a su aparente funcionalidad o una representación típica en la cultura popular. A veces, esto conduce a resultados positivos, como formas innovadoras de utilizarlos. Pero también hay situaciones en las que conduce a un uso poco ético o irresponsable. ¿Hay algo que los vendedores de robots puedan hacer en tales casos? E incluso si pueden, ¿deberían?
La robótica cree que los robots son principalmente herramientas. Los diseñamos, los programamos e incluso los robots autónomos simplemente siguen las instrucciones que les hemos codificado. Sin embargo, es la aparente viabilidad de los robots, lo que despierta tanto interés, significa que las personas que no tienen ninguna experiencia de interactuar con robots reales pueden no entender que el robot en sí no es bueno ni malo, es solo un reflejo de su diseñadores y usuarios. ...
Esto puede poner a las empresas de robótica en un dilema. La persona que les compró el robot, hipotéticamente, puede usarlo como le plazca. Por supuesto, esto se aplica a cualquier herramienta, pero la singularidad de la situación con los robots radica en su autonomía. Se puede decir que la autonomía implica una relación entre un robot y su fabricante o, en este caso, la empresa que lo desarrolla y vende. Esta asociación puede no estar del todo justificada, pero existe, a pesar de que, al final, es el comprador del robot quien tiene el control total sobre todas sus acciones.
, Spot , .
, Boston Dynamics
Por supuesto, las empresas de robótica entienden esto, porque muchas de ellas controlan cuidadosamente a quién venden sus productos y tienen muy claro los usos deseables de sus robots. Pero, ¿hasta dónde debe llegar esta responsabilidad cuando un robot “sale volando del nido” de la empresa que lo creó? ¿Y cómo es eso posible? ¿Deberían hacerse responsables las empresas de robótica de las acciones de sus robots en el mundo humano, o debería reconocerse que después de la venta de un robot, la responsabilidad también pasa al nuevo propietario? ¿Y qué se puede hacer si hay casos de uso irresponsable o poco ético de robots que podrían afectar negativamente a los fabricantes de robótica?
Para comprender mejor este problema, nos pusimos en contacto con empleados de tres empresas de robótica, cada una de las cuales tiene experiencia en la venta de robots móviles únicos a consumidores comerciales. Les hicimos cinco preguntas sobre la responsabilidad que tienen las empresas de robótica con los robots que venden, y esto es lo que respondieron.
¿Existe alguna restricción sobre cómo los humanos pueden usar sus robots? En caso afirmativo, ¿cuáles y, si no, por qué?
Peter Fankhauser , director ejecutivo de ANYbotics :
Trabajamos en estrecha colaboración con los clientes para asegurarnos de que nuestro producto proporcione la solución adecuada a su problema. Por lo tanto, entendemos de inmediato por qué se está comprando el robot y no cooperamos con los clientes que desean usar nuestro robot ANYmal para otros fines. En particular, categóricamente no permitimos ningún uso militar o armado de nuestros robots, y desde la fundación de ANYbotics hemos estado tratando de mejorar las condiciones de trabajo de las personas, hacerlas más cómodas, agradables y seguras.
Robert Plater , director ejecutivo de Boston Dynamics :
Sí, hemos introducido restricciones en el uso de nuestros robots, que se establecen en los términos del contrato de venta. Todos nuestros compradores, sin excepción, deben confirmar que Spot no se utilizará para dañar a personas o animales, ni para intimidarlos, ni como arma, ni para estar equipado para sostener un arma. Como cualquier otro producto, Spot debe usarse legalmente.
Ryan Gariepi , director de tecnología de Clearpath Robotics :
Tenemos estrictas restricciones y procesos para la debida diligencia del cliente basados principalmente en las regulaciones de control de exportaciones de Canadá. Dependen del tipo de equipo vendido y de dónde se utilizará. En general, tampoco venderemos ni daremos soporte a un robot si sabemos que representará un riesgo de seguridad incontrolable, o si tenemos motivos para creer que el comprador no está calificado para usar el producto. Y, por regla general, no apoyamos el uso de nuestros productos para el desarrollo de sistemas de armas totalmente autónomos.
¿Por qué el comprador de un robot debería tener un uso limitado?
Peter Fankhauser, ANYbotics:
Vemos al robot no como un objeto ordinario, sino como una fuerza de trabajo artificial. Para nosotros, esto significa que la transferencia del robot y su uso están estrechamente relacionados, y el cliente y el proveedor deben acordar qué tareas realizará el robot. Este enfoque resuena entre nuestros clientes, que están cada vez más interesados en la capacidad de pagar por los robots como servicio o por uso.
Robert Plater, Boston Dynamics:
Vendemos el producto y haremos todo lo que esté a nuestro alcance para evitar que los atacantes utilicen nuestra tecnología para dañar, pero no podemos controlar todos los casos de uso. Sin embargo, creemos que el mejor impacto en nuestro negocio provendrá del uso de la tecnología con fines pacíficos: trabajar con las personas como ayudantes confiables y protegerlas del peligro. No queremos que nuestra tecnología se utilice para dañar o promover la violencia. Usamos las mismas restricciones que otros fabricantes o empresas de tecnología que toman medidas para reducir o eliminar el uso violento o ilegal de sus productos.
Ryan Gariepi, Clearpath Robotics:
Suponiendo que la entidad limitante es de propiedad privada y que el robot y su software se venden en lugar de arrendar o administrar, entonces no existe una razón legal convincente para limitar el uso. Sin embargo, el fabricante tampoco está obligado a brindar soporte para este robot o cliente en particular en el futuro. Sin embargo, dado que todavía estamos al borde de los cambios sociales que traerán los robots, es de interés del fabricante y del usuario comunicarse honestamente sus objetivos entre sí. Ahora está invirtiendo no solo en la compra inicial y la relación con el fabricante, sino en la promesa de cómo pueden ayudarse mutuamente a tener éxito en el futuro.
Si el robot se utiliza de forma imprudente desde el punto de vista de la seguridad: ¡intervenga! Si se enfrenta a un uso poco ético, ¡no se quede callado!
Peter Funkhauser, ANYbotics
¿Qué puede hacer de manera realista para asegurarse de que los robots comprados se utilicen según lo previsto?
Peter Fankhauser, ANYbotics:
Trabajamos en estrecha colaboración con los clientes para garantizar que nuestra solución les permita alcanzar sus objetivos. Por tanto, hemos abandonado las posibilidades técnicas de bloquear el uso de productos para otros fines.
Robert Plater, Boston Dynamics:
Revisamos cuidadosamente a nuestros clientes y nos aseguramos de que el uso previsto coincida con la funcionalidad del robot Spot y no contradiga los términos del contrato de venta. Nos negamos a vender a clientes que planean utilizar robots para tareas que no les convienen. Y en caso de abuso de nuestras tecnologías o violación de las reglas de uso, de acuerdo con los términos del contrato de venta, se cancela la garantía y la posibilidad de recibir actualizaciones, mantenimiento, reparación o reemplazo del robot. También podemos incautar robots que fueron alquilados y no comprados. Finalmente, no revenderemos robots a clientes que violen los términos del contrato de venta.
Ryan Gariepi, Clearpath Robotics:
Por lo general, trabajamos con los clientes antes de una venta para asegurarnos de que sus expectativas se ajusten a la realidad, en particular en cuestiones como la seguridad, los requisitos de control y la usabilidad. Es mejor no hacer un trato en absoluto que vender un robot que acumulará polvo en el estante o, lo que es peor, causará daños, por lo que preferimos reducir el riesgo de tal situación antes de recibir el pedido o enviar el robot a el comprador.
¿Cómo califica los casos de uso límite, por ejemplo, si alguien quiere usar su robot en un campo de arte o investigación que podría traspasar los límites de lo que usted personalmente siente que es responsable o ético?
Peter Fankhauser, ANYbotics:
Lo principal es dialogar, tratar de entenderse y buscar alternativas que se adapten a todas las partes interesadas, y cuanto antes comience este diálogo, mejor.
Robert Plater, Boston Dynamics:
Existe una línea clara entre estudiar robots en ciencia y arte y usar robots con fines violentos o ilegales.
Ryan Gariepi, Clearpath Robotics: Hasta ahora
hemos vendido miles de robots a cientos de clientes y no recuerdo la última vez que no tuvimos que lidiar con los controles de exportación y hacer una evaluación general de los objetivos y expectativas del cliente. Estoy seguro de que esto cambiará a medida que los precios de los robots sigan bajando y su flexibilidad y facilidad de uso aumenten.
, , .
, Clearpath Robotics
¿Qué debería hacer la robótica si ven que un robot está siendo utilizado de forma poco ética o irresponsable?
Peter Fankhauser, ANYbotics:
Si el robot se utiliza de forma imprudente desde el punto de vista de la seguridad, ¡intervenga! Si se enfrenta a un uso poco ético, ¡no se quede callado!
Robert Plater, Boston Dynamics:
Queremos que los robots sean beneficiosos para la humanidad, lo que significa, entre otras cosas, que no dañen a las personas. Creemos que la industria de la robótica solo será comercialmente viable a largo plazo si los humanos ven a los robots como herramientas útiles sin preocuparse por si pueden causar daños.
Ryan Gariepi, Clearpath Robotics:
Si se trata de un caso aislado, deben discutir el problema con el usuario, el proveedor o los proveedores, los medios de comunicación y las agencias reguladoras o gubernamentales si surge una amenaza inminente para la seguridad. Si esta situación corre el riesgo de repetirse repetidamente y no se toma en serio, la robótica debería plantearla para un debate más amplio en los lugares apropiados: en conferencias, en grupos de la industria, en organismos de normalización, etc.
Conclusión
A medida que aparecen en el mercado más y más robots con diferentes capacidades, estos problemas pueden surgir cada vez con más frecuencia. Las tres empresas con las que hablamos ciertamente no representan todos los puntos de vista. Pero supongo (¿esperanza?) Cualquiera involucrado en la fabricación de robots estaría de acuerdo en que los robots deberían usarse para mejorar la vida de las personas. Pero lo que significa "mejor" en el contexto del arte, la investigación e incluso el uso de robots en el ejército no siempre es fácil de definir, e inevitablemente surgirán desacuerdos sobre qué es ético y responsable y qué no lo es.