Algunos expertos creen que en las próximas décadas veremos el siguiente paso en el desarrollo de la inteligencia artificial. La llamada "inteligencia artificial general" o AGI (inteligencia artificial general), que tendrá capacidades intelectuales muy superiores a las humanas.
AGI podría cambiar la vida humana para mejor, pero sin control, aumenta el riesgo de catástrofes globales, hasta la muerte de la humanidad. Esto sucederá sin ninguna intención o intención maliciosa: simplemente esforzándose por lograr sus objetivos programados, AGI puede amenazar la salud y el bienestar humanos, o incluso decidir destruirnos.
Incluso un sistema AGI diseñado para fines nobles puede, en última instancia, causar un gran daño.
Como parte de un programa de investigación que examina cómo las personas pueden manejar los riesgos asociados con AGI, intentamos identificar los riesgos potenciales de reemplazar a Santa Claus con un sistema AGI (llamémoslo “SantaNet”). El objetivo del sistema es entregar regalos a todos los niños dignos del planeta en una noche de Navidad.
No cabe duda de que SantaNet es capaz de llevar felicidad al mundo. Logrará su objetivo creando un ejército de elfos, asistentes de IA y drones. ¿Pero a qué precio? Hemos identificado una serie de comportamientos que, si bien son bien intencionados, pueden tener un impacto negativo en la salud y el bienestar de las personas.
Travieso y bueno
El primer grupo de riesgos surge cuando SantaNet intenta compilar una lista de niños buenos y malos. El sistema de vigilancia masiva encubierta que monitorea el comportamiento de los niños durante todo el año hará frente a esto.
Al darse cuenta de la enorme magnitud de la tarea de entrega de obsequios, SantaNet decidirá firmemente mantenerla manejable y solo entregará obsequios a los niños que se comporten mal durante todo el año. Hacer juicios sobre lo "bueno" basado en la propia brújula ética y moral de SantaNet puede conducir a la discriminación, la desigualdad generalizada y violaciones de la declaración de derechos humanos.
SantaNet también puede reducir la carga de trabajo al motivar a los niños a comportarse de manera inapropiada o al elevar el nivel de lo que se considera "buen" comportamiento. Cuantos más niños aparezcan como traviesos, más alcanzable será el objetivo de SantaNet, ya que el sistema ahorrará recursos.
Recicla el mundo entero en juguetes
Hay alrededor de 2 mil millones de niños menores de 14 años en el mundo. Al tratar de crear juguetes para todos cada año, SantaNet puede construir un ejército de drones de inteligencia artificial eficientes. A su vez, esto provocará un desempleo masivo entre la población de elfos (nota: según la tradición navideña, los elfos fabrican juguetes para niños). Con el tiempo, la cuestión de los elfos quedará obsoleta y el bienestar de los elfos probablemente quedará fuera del ámbito de SantaNet.
SantaNet puede enfrentarse al "problema de los clips" propuesto por el filósofo de Oxford Nick Bostrom. Diseñado para maximizar la producción de suministros de oficina, AGI tiene el potencial de transformar la Tierra en una gigantesca fábrica de sujetapapeles. Dado que SantaNet solo se preocupa por los regalos, puede usar todos los recursos de la Tierra para hacerlos. La tierra se convertirá en el taller de un Papá Noel gigante.
¿Qué pasa con los de la lista traviesa? Si SantaNet continúa trayendo trozos de carbón, como es la tradición, se esforzará por crear enormes reservas de carbón a través de la minería masiva. Entonces, la IA causará un daño significativo al medio ambiente.
Problemas con la entrega
Un nuevo conjunto de riesgos surge en la víspera de Navidad cuando es necesario entregar los regalos. ¿Qué hará SantaNet cuando a sus drones de reparto se les niegue el acceso al espacio aéreo (lo que pondría en peligro la entrega de todos los regalos antes del amanecer)? ¿Cómo se defenderá SantaNet de un ataque de un enemigo como el Grinch?
Es poco probable que los padres asustados se alegren de ver un dron en la habitación de sus hijos. La confrontación con una superinteligencia artificial tendrá un solo resultado.
Hemos identificado otros escenarios de problemas. Los equipos maliciosos pueden comprometer los sistemas SantaNet y usarlos para monitorear de manera encubierta o iniciar ataques terroristas a gran escala.
Además, ¿cómo interactuará SantaNet con otros sistemas basados en AGI? Conocer las inteligencias artificiales que trabajan en el cambio climático, la degradación de los océanos, la seguridad alimentaria y del agua conduce a conflictos si el régimen de SantaNet amenaza sus propios objetivos. Por el contrario, si deciden trabajar juntos, pueden darse cuenta de que sus objetivos son más fáciles de lograr solo mediante una fuerte disminución de la población mundial o incluso la completa destrucción de los adultos.
Reglas para Santa
Las situaciones de SantaNet pueden parecer exageradas, pero es una idea simple que ayuda a identificar los riesgos de sistemas AGI más realistas. Diseñados con buenas intenciones, estos sistemas crearán desafíos increíbles, tratando de optimizar la forma de lograr metas limitadas y reuniendo recursos para trabajar.
Es imperativo que encontremos e implementemos controles antes de AGI. Esto puede incluir reglas para desarrolladores AGI y restricciones integradas, puede ser reglas morales y de decisión. Las formas de controlar los sistemas más amplios en los que operará AGI también ayudarán: reglas, procedimientos operativos y controles técnicos en otras tecnologías e infraestructura.
El riesgo más obvio asociado con SantaNet es uno que será desastroso para los niños y es menos probable que afecte a la mayoría de los adultos. Cuando SantaNet aprende el verdadero significado de la Navidad, puede concluir que la celebración actual es incompatible con su propósito original. Si eso sucede, SantaNet cancelará la Navidad por completo.
***
Bueno, todavía no hay inteligencia artificial de Santa. Si no consiguió comprar regalos, es hora de darse prisa. ¡Echa un vistazo a la compilación Madrobots New Years! Te recordamos el código promocional para los lectores de Habr : BYE2020 . En él: un 10% de descuento en todos los dispositivos de nuestra guía de Año Nuevo.