¿Por qué el aprendizaje automático tiene dificultades para hacer causalidad?


Este artículo es parte de nuestras descripciones generales de investigación de IA , una serie de publicaciones que exploran los últimos descubrimientos en inteligencia artificial.





, - . , , , , , . , .





, , , .





, , . -, . , , , - ( causality ) . , , . , , . - , , .





« » , (Mila) Google Research , - , .





, - , , .





?





« , : , , - , », - . « , (i.i.d. - independent and identically distributed data)».





iid - , . , . iid - . , .





, , iid, . , . - , . , , , , , .





Objetos en conjuntos de datos de entrenamiento versus objetos en el mundo real (fuente: objectnet.dev).
(: objectnet.dev).

. , , . , , . - - . , , .





« iid- , - () », - .





. , (RTS), ​​ Warcraft, StarCraft Age of Empires. , . , , ( ) (, ).





« , , , , », - .





, iid , ? , , . , , , . , .





iid : , , , . , . , , ImageNet, CIFAR-10 MNIST. , COVIDx covid-19 (Wisconsin Breast Cancer Diagnosis). : , .





, , . , , , - . .





, - . , , . , , , .





, , (counterfactuals). , , . , .





- (adversarial attacks), , . « iid, », - , , . , - .





Los ataques contradictorios se dirigen a la sensibilidad iid del aprendizaje automático.  En esta imagen, agregar una sutil capa de ruido a la imagen del panda hace que la red neuronal convolucional la confunda con un gibón.
iid. .

- . « , ( iid ) ( iid-) », - .





-

, .





« » « ». , , .





, , , . . .





« , , ​​ », - .





, , , , . , .





, (SCM): « , SCM , , , , SCM ( ). , ».





, ( , ) .





La combinación de gráficos causales con el aprendizaje automático permitirá a los agentes de inteligencia artificial crear módulos que se pueden aplicar a una variedad de tareas sin una larga curva de aprendizaje.
, .

, , , . , : «() ; () , - ; (c) - , , , ; (d) , , ».





, , . , , , , . . , , .





, , , . .





, Bengio NeurIPS 2019 AI. , . - , .





, , , - - , .





« iid - , », - . « , , ».






"Machine Learning. Advanced".





« »: ML. 20+ , , ?





- "Machine Learning. Advanced"





- « »








All Articles