Chris Anderson: Nick Bostrom, ya has compartido tus ideas locas con nosotros. Hace un par de décadas, según recuerdo, usted sugirió que viviremos en una simulación o que ya estamos en ella. Y relativamente recientemente, presentaste el ejemplo más ilustrativo de cómo la inteligencia artificial universal puede dañar. Y ya este año vas a publicar un libro con las hipótesis más vulnerables del mundo. Y el tema de hoy debería ser una guía ilustrada. Empecemos. ¿Cuáles son estas hipótesis?
Nick Bostrom:Este es un intento de comprender los componentes estructurales del estado actual de la humanidad. Te gusta la metáfora de la urna, así que la usaré. Imagine una urna grande llena de bolas que representan ideas, métodos y todo tipo de tecnologías. Toda la actividad creativa de la humanidad se puede comparar con sumergirse en esta urna y sacar bolas desde allí. Y durante muchos años siempre nos hemos beneficiado de esto, ¿verdad? Eliminamos demasiadas bolas blancas, algunas con tonos de gris, con consecuencias ambiguas. Pero no hemos encontrado una bola negra durante tanto tiempo, una tecnología que ciertamente destruirá a sus creadores. El libro contiene versiones de lo que habrá dentro de la bola negra.
CA: Entonces define esta bola como la causa de la muerte de la civilización.
NÓTESE BIEN:Hasta que salgamos de nuestro estado estándar de semi-anarquía, como yo lo llamo.
CA: Usted cita varios contraejemplos como evidencia. Estás convencido de que hemos tenido suerte a lo largo de los años. Y tal vez nosotros, sin saberlo, ya hemos dibujado esta bola de la muerte. Además, das una cita. Qué significa eso?
NB: Solo muestra lo difícil que es prever todas las consecuencias de los descubrimientos básicos. No tenemos esa oportunidad. Hemos aprendido bien cómo sacar las bolas de la urna, pero no sabemos cómo devolverlas. Es decir, podemos inventar, pero no al revés. Como estrategia, solo tenemos la esperanza de que no haya bolas negras en la urna.
CA: Lo sacaremos un día y no podremos recuperarlo, y crees que tenemos suerte hasta ahora. Comente ejemplos en los que menciona varios tipos de vulnerabilidad.
NÓTESE BIEN:El tipo más fácil de entender es la tecnología que puede causar una gran destrucción masiva sin mucha dificultad. La biología sintética puede ser una rica fuente de bolas negras de este tipo. También vale la pena considerar los productos de geoingeniería. Podemos luchar contra el calentamiento global, pero no necesitamos facilitarlo. No es necesario que una persona aleatoria y su abuela tengan la oportunidad de cambiar radicalmente el clima en la tierra. O drones letales del tamaño de un mosquito producidos en masa para matar plagas Nanotecnología, inteligencia artificial universal.
CA: Hay una duda en el libro de que tuvimos la suerte de descubrir la energía nuclear para crear una bomba atómica. Quizás este sea el caso cuando sea posible crear una bomba utilizando los recursos más livianos disponibles para todos.
NÓTESE BIEN:Volvamos a los años 30 del siglo XX, cuando progresamos por primera vez en física nuclear. Algunos científicos prominentes descubrieron cómo crear una reacción en cadena nuclear y luego la llevaron a una bomba. Hemos hecho investigaciones Resultó que para crear una bomba atómica que contiene una gran cantidad de uranio y plutonio, que son bastante difíciles de obtener, se necesitan ultracentrífugas, se necesitan reactores, así como una gran cantidad de energía. Suponemos que, en cambio, hay una manera más fácil de liberar energía del átomo. ¿Y qué pasa si resulta posible causar una explosión nuclear de arena en un horno de microondas o de una manera más simple? Ahora esto es imposible desde el punto de vista de la física. Pero hasta que se hayan llevado a cabo tales experimentos, ¿cómo sabes qué resultará de ello?
CALIFORNIA:De acuerdo, para el desarrollo normal de la vida en la Tierra, se necesita un entorno estable. Y si hubiera una manera más fácil de obtener grandes reacciones nucleares, entonces no existiría un entorno estable en la Tierra, y no estaríamos aquí.
NB: Sí, si hubo algo creado a propósito, y no solo. Así es como hacemos mucho. Podemos apilar 10 bloques uno encima del otro, pero este no es el caso en la naturaleza.
CA: Ahora hablemos de lo que más nos preocupa. Por ahora, por lo que podemos predecir, la biología sintética es el camino más corto hacia la autodestrucción.
NÓTESE BIEN:E imagínese cómo sería si le dijera a alguien que podría destruir la ciudad cocinando algo en la cocina. Es difícil imaginar cómo la civilización moderna en su forma habitual puede sobrevivir a tal cosa. Porque entre cualquier población de muchos millones, hay quienes, por alguna razón desconocida, quieren usar esta fuerza destructiva. Y si este amante del apocalipsis eligiera destruir la ciudad, o peor, las ciudades serían destruidas.
CA: Hay otro tipo de vulnerabilidad. Cuéntanos sobre eso, por favor.
NÓTESE BIEN:Además de las bolas negras fáciles de entender que volarán todo a su paso, otras crearán incentivos para que las personas hagan cosas malas y causen daños. Es decir, si piensas en el llamado Tipo-2a, entonces esta es una tecnología que alentará a las grandes potencias mundiales a usar todo su poder militar para la destrucción. De hecho, las armas nucleares están muy cerca de eso, ¿verdad? Lo que hicimos: hemos gastado más de $ 10 billones construyendo 70,000 ojivas nucleares y las mantenemos en alerta máxima. Durante la Guerra Fría, estuvimos al borde de la destrucción mutua varias veces. No porque la gente piense que es una gran idea desperdiciar $ 10 billones en autodestrucción. Fue estimulado por el hecho de que solo nos estamos buscando a nosotros mismos, y esto podría ser lo peor. Imagínese si el primer golpe fue sin muchas consecuencias,Sería muy difícil abstenerse de lanzar todos los misiles nucleares en una situación de crisis. De lo contrario, porque tiene miedo de que se haga del otro lado.
CA: La destrucción mutua asegurada mantuvo la estabilidad durante la Guerra Fría. De lo contrario no estaríamos aquí.
NB: Sí, eso la haría más inestable. Aquí podría aparecer el otro lado de la tecnología. Sería más difícil llegar a acuerdos sobre armamentos si en lugar de armas nucleares hubiera algún objeto pequeño o menos visible.
CA: Al igual que los malos motivos de los actores influyentes del mundo, también te preocupan los malos motivos de cada uno de nosotros en el tipo 2b.
NÓTESE BIEN:Sí, es mejor tomar el calentamiento global como un ejemplo. Cada uno de nosotros utiliza algunas comodidades modernas en la vida cotidiana, cuyo uso no tiene consecuencias significativas, ¿verdad? Pero miles de millones de personas están haciendo lo mismo, lo que en conjunto tiene un efecto devastador ahora que el problema del calentamiento global podría empeorar. Hay un parámetro de influencia en el clima. Muestra cuánto aumentará el calentamiento cuando se emite una cierta cantidad de gases de efecto invernadero. Suponga que con la cantidad de gases de efecto invernadero emitidos en este momento, para 2100, en lugar de un aumento de temperatura de solo 3-4.5 grados, enfrentaremos un aumento de 15 o incluso 20 grados. Es decir, podemos encontrarnos en una muy mala posición. Supongamos que es muy difícil crear una fuente de energía renovable o que hay más combustibles fósiles en la tierra.
CA: ¿Estás diciendo que si la forma de vida que llevamos hoy conduce eventualmente a una diferencia visible de 10 grados, entonces la gente ya estaría preocupada y haría algo al respecto? Podemos ser estúpidos, pero no tan estúpidos. Pero quién sabe.
NB: No estaría tan seguro.
Considere también otras propiedades. Por el momento, cambiar a energías renovables y similares es difícil, pero posible. Quizás usando propiedades físicas ligeramente diferentes, esto será mucho más costoso.
CA: ¿Cuál es tu opinión? ¿Está nuestro planeta, la humanidad con todas sus capacidades técnicas, en una posición vulnerable? ¿Hay una bola de muerte en nuestro futuro?
NÓTESE BIEN:Difícil de decir. Creo que esta urna probablemente contenga una variedad de bolas negras. Pero también habrá oro que nos ayudará en la batalla contra las bolas negras. Pero no sé en qué orden aparecerán.
CA: Tu idea contradice ligeramente la idea filosófica de que el futuro es predeterminado e inevitable, independientemente del color de la próxima bola, y hasta cierto punto no quiero creer en ese futuro. Quiero creer que el futuro no está predeterminado, que las decisiones que tomemos hoy afectarán el color de la pelota que sacamos.
NÓTESE BIEN:Creo que si seguimos inventando, eventualmente sacaremos todas las bolas. Hay una forma débil de determinismo tecnológico que tiene una buena razón, lo que significa que es poco probable que encuentre una comunidad que use ejes de silicio y aviones a reacción. La tecnología puede considerarse como un paquete de capacidades. La tecnología nos permite hacer cosas diferentes y lograr resultados diferentes en el mundo. Cómo usarlos depende solo de nuestra elección. Pero si piensas en estos tres tipos de vulnerabilidad, pueden destruir la idea de usarlos. Permíteme recordarte que el primer tipo de vulnerabilidad es una gran fuerza destructiva y la suposición de que entre la población multimillonaria hay quienes quieren usarla para la destrucción es bastante débil.
CALIFORNIA:Lo que más me preocupa es el pensamiento de que en este punto de alguna manera nos hemos sumergido en esta urna lo suficiente como para darnos cuenta de que estamos condenados. Es decir, si cree en un aumento de poder, en el desarrollo de la tecnología, en la creación de tecnología que nos hará más fuertes, en algún momento llega a la conclusión de que una sola persona puede destruirnos a todos. Y en ese caso, todos hemos terminado. ¿No te molesta?
NB: Oh, sí,
creo ... Sí, nos estamos fortaleciendo y cada vez es más fácil usar este poder, pero también podemos inventar tecnología que nos permita controlar el uso de este poder por parte de la gente de
KA:Discutamos esto. Hablemos de respuestas. Supongamos que, pensando en todas las posibilidades que tenemos hoy, no solo se trata de simbiotecnología, sino también de cosas como la guerra cibernética, la inteligencia artificial, etc. - para lo cual, tal vez, en el futuro enfrentaremos un ajuste de cuentas serio. ¿Cuáles serán las respuestas? También mencionó cuatro tipos de estas respuestas.
Limitación de desarrollos
NB:La limitación en el desarrollo del progreso técnico no inspira esperanza si todos queremos decir el alto del progreso técnico en su conjunto. Creo que no tenemos el deseo ni la capacidad de hacer esto. O tal vez solo en algunas áreas desea desacelerar el progreso tecnológico. Creo que no desea el rápido desarrollo de armas biológicas o la separación de isótopos, lo que facilitará la creación de armas nucleares.
CALIFORNIA:Estoy completamente de acuerdo con usted, pero me gustaría centrarme en esto, en primer lugar, porque si observa la historia de las últimas dos décadas, avanzamos a toda velocidad, es bueno que esta sea solo nuestra elección, pero si observa la globalización y su rápido crecimiento, a la estrategia de "moverse más rápido y romper las barreras" y en lo que se ha convertido, y luego a todo el potencial de la biología sintética. No estoy seguro si deberíamos movernos tan rápido, sin restricciones, a un mundo donde habrá una impresora de ADN en cada hogar y en el laboratorio de la escuela secundaria. Debería haber algunas restricciones.
NB: Quizás la primera parte no sea la más adecuada. Si la gente quiere detenerlo de todos modos, habrá problemas de implementación. De hecho, nada saldrá de eso si la población de un país ...
KA:No solo si una persona está actuando, sino que ya hemos concluido acuerdos internacionales anteriormente. Gracias a esto, logramos eliminar la amenaza nuclear a través de reuniones y largas y complejas negociaciones. Me pregunto si no sería más lógico para nosotros no venir aquí sobre un asunto importante y tratar de discutir reglas estrictas sobre bio-investigación sintética. ¿No es eso lo que quieres democratizar?
NÓTESE BIEN:Estoy totalmente de acuerdo. Por ejemplo, me gustaría que el sintetizador de ADN no sea un dispositivo que se instalará en todos los laboratorios, sino, tal vez, un servicio. Digamos que solo hay cuatro o cinco lugares en el mundo donde puede enviar una muestra electrónica de ADN y obtener los resultados. Y luego tendrá la oportunidad, si es necesario, de obtener un conjunto finito de vulnerabilidades. Creo que querrá saber sobre situaciones especiales que pueden controlarse estrictamente.
CA: Básicamente, su opinión es que no funcionará si ralentizamos el progreso. Alguien, en algún lugar, digamos en Corea del Norte, hay alguien que quiere obtener exactamente la bola negra de la urna, si hay una.
NÓTESE BIEN:En el entorno actual, es probable. Y no se trata de biología sintética. Cualquier cambio importante en el mundo puede convertirse en una bola negra.
CA: Hay otra opción de desarrollo.
Eliminación de personas peligrosas
NB: Pero la probabilidad es bastante pequeña. Sobre el primer tipo de vulnerabilidad. Si fuera posible reducir el número de personas interesadas en destruir el mundo, si tuvieran acceso a armas y fondos, sería genial.
CA: Solicitaste esta diapositiva, con drones de reconocimiento facial volando alrededor del mundo. Y cuando encuentran personas con signos de comportamiento antisocial, los colman de amor, "arreglan", por así decirlo.
NÓTESE BIEN:No es tan simple La liquidación también significa, por ejemplo, encarcelamiento o destrucción, o cambiar su perspectiva de la vida a otras más correctas. El punto es que, por ejemplo, has hecho frente a la tarea, has reducido la cantidad de personas peligrosas a la mitad. Si liquida por persuasión, se encontrará con otros factores poderosos que afectan a las personas: fiestas, religión, educación. Si la cantidad de personas peligrosas se reduce a la mitad. Me parece que el riesgo disminuirá no en un 50%, sino solo en un 5 o 10%.
CA: ¿Crees que no estamos arriesgando el futuro de la humanidad en la segunda opción?
NB: Creo que no hay nada de malo en tratar de disuadir a las personas, pero este método no puede proporcionar seguridad solo.
CA: ¿ Y la tercera opción?
NÓTESE BIEN:Hay dos métodos principales por los cuales podemos fortalecer nuestro mundo contra toda una gama de posibles vulnerabilidades. Pero es posible que necesites ambos. El primero es la aplicación de la ley policial altamente efectiva,
vigilancia total
, capacidad de intercepción. Si alguien quiere cometer un delito, sería posible interceptarlo y detenerlo. En este caso, se requerirá una supervisión generalizada, cada uno de nosotros estará bajo supervisión.
CA: Me gusta Minority Report.
NB: los algoritmos de inteligencia artificial, los grandes centros de libertad, etc. pueden ayudarnos en la observación.
CA: ¿Sabe que el término "vigilancia total" no es muy popular ahora?
NÓTESE BIEN:Será un pequeño dispositivo con cámaras multidireccionales integradas en una llamada gargantilla que deberá usarse en todo momento. Para que no parezca una carga, llamémosle algo así como un "símbolo de libertad".
CA: Muy bien amigos, por eso nuestra conversación es tan emocionante.
NB: En realidad puedes hablar de eso durante mucho tiempo, lo cual es obvio. Discutimos riesgos y desafíos, ¿verdad? Podemos volver a esto. Y cuarto,
la gobernanza global
La última oportunidad para la estabilización es cerrar las brechas en el gobierno. El control se convertiría en una falla en la gobernanza a nivel micro, evitando que alguien haga algo ilegal. Por supuesto, el mismo problema se observa a nivel macro, a nivel global. Definitivamente, tendrá competencia para evitar interrupciones en la coordinación global, para evitar la guerra entre las grandes potencias, una carrera armamentista, problemas generales con cataclismos, para hacer frente a las vulnerabilidades de tipo 2a.
CALIFORNIA:El término "gobernanza global" claramente no está de moda ahora, pero se puede argumentar que en el curso de la historia humana, en cada nueva etapa de desarrollo, aumenta el poder tecnológico. La gente ha transformado y concentrado este poder. Por ejemplo, cuando una pandilla criminal itinerante puede liderar una sociedad, la respuesta fue que tienes un estado-nación y estás concentrando fuerzas: la policía o el ejército, y "No puedes hacer eso". La lógica, tal vez, es que si una sola persona o grupo de personas puede destruir a la humanidad, algún día nos embarcaremos en este camino, al menos en algunos aspectos.
NÓTESE BIEN:Claramente, en el curso del desarrollo de la historia humana, la escala del aparato político ha aumentado. Primero había un grupo de cazadores-recolectores, luego el jefe de una tribu, ciudad-estado, nación, ahora hay organizaciones internacionales, etc. Solo quiero asegurarme de que he podido resaltar la gran cantidad de aspectos negativos y riesgos tanto en el caso de la vigilancia total como en la gobernanza global. Solo quiero señalar que si tenemos suerte, el mundo puede llegar a ser tal que todo lo anterior solo será la salvación de la bola negra.
CALIFORNIA:Según tengo entendido, la lógica de esta teoría es que debe entenderse que no todo sucederá de inmediato. Es una especie de sueño ingenuo que muchos de nosotros tenemos que la tecnología siempre se usa para bien. Continúa, no pares, date prisa si es posible y no pienses en las consecuencias que ni siquiera pueden suceder. Puede pasar. Y si es así, tendremos que aceptar otras circunstancias concomitantes y formar parte de la carrera armamentista. Si desea tener poder, es mejor limitarlo o descubrir cómo limitarlo.
NÓTESE BIEN:Creo que esta es una muy buena opción, en cierto sentido, incluso la más fácil y puede funcionar. Pero esto significa que somos muy vulnerables a la apariencia de la bola negra. Creo que al agregar un poco de coordinación, si solucionáramos todos los problemas a nivel de macro y microgestión, sacaríamos todas las bolas del bote de basura y obtendríamos muchos beneficios.
CA: ¿Qué diferencia hay si vivimos en una simulación? Solo estamos reiniciando.
NB: No creo que haya llegado.
CA: ¿Qué te parece? En conjunto, ¿cuál es la probabilidad de que estemos condenados?
(Me encanta la risa de las personas cuando se hace esta pregunta.)
NB: A nivel individual, terminaremos de todos modos, con el tiempo envejecemos, decaemos y cosas así, ¿verdad?
En realidad es un poco más complicado. Si desea calcular la probabilidad de que terminemos, en primer lugar, ¿quiénes somos "nosotros"? Si tienes muchos años, puedes morir de muerte natural. Si eres joven, entonces puedes tener hasta 100 años. La probabilidad es individual. Luego, el umbral, es decir, limitar el concepto de destrucción de la civilización. En mi libro, no considero que la catástrofe existencial sea la destrucción de la civilización. Todo es cuestión de definición. Digamos que habrá mil millones de muertes o una reducción del 50% en el PIB mundial, pero cómo define el umbral, obtiene diferentes grados de probabilidad. Creo que me llamarás un optimista temeroso.
CA: Eres un optimista temeroso, y creo que ya has creado bastantes de tus ... personas intimidadas.
NB: Vivir en simulación.
CALIFORNIA:Exactamente. Nick Bostrom, tus ideas son increíbles. Gracias por asustarnos hasta la muerte.
Traducido por Olia Francia
Revisado por Natalia Ost
Descubra los detalles de cómo obtener una profesión de alto perfil desde cero o subir de nivel en habilidades y salario tomando los cursos en línea pagos de SkillFactory:
- Curso de aprendizaje automático (12 semanas)
- Aprendizaje de ciencia de datos desde cero (12 meses)
- Profesión analítica con cualquier nivel inicial (9 meses)
- Curso de Python para desarrollo web (9 meses)
Lee mas
- Tendencias en el escenario de datos 2020
- La ciencia de datos está muerta. Larga vida a la ciencia empresarial
- Geniales científicos de datos no pierden el tiempo en estadísticas
- Cómo convertirse en un científico de datos sin cursos en línea
- 450 cursos gratuitos de la Ivy League
- Ciencia de datos para las humanidades: ¿qué son los "datos"?
- Data Sciene : Decision Intelligence